Lassítaná a mesterséges intelligencia fejlesztését az Anthropic vezére
Dario Amodei, az Anthropic vezérigazgatója a mesterséges intelligencia fejlesztésének lassítására szólította fel a techszektort. A vállalatvezető egy X-en közzétett bejegyzésben három részből álló tervet osztott meg.
Amodei bejelentette, hogy az Anthropic egyoldalú kötelezettséget vállal az első lépés megtételére: független ellenőröknek adnak hozzáférést belső rendszereikhez, hogy felmérhessék modelljeik megbízhatóságát, és meggyőződhessenek a biztonsági intézkedések betartásáról. A második lépés az iparág egészére kiterjedő együttműködés előírása, a harmadik pedig a globális szintű koordináció biztosítása.
Sam Altman, a ChatGPT-t fejlesztő OpenAI vezetője egy válaszbejegyzésben azt írta, egyetért Amodeivel, és vállalata szintén hozzáférést biztosít rendszereihez a független ellenőrök számára. Elon Musk szintén úgy fogalmazott, hogy az Anthropic vezérének igaza van, de hasonló vállalást nem tett.
Mindez napokkal azután történt, hogy az Anthropic és más MI-cégek munkavállalói nyíltan beszéltek a mesterséges intelligencia egész emberiséget érintő veszélyeiről. Jacob Coxon MI-kutató szeptember 9-én az X-en közzétett bejegyzésében azt írta, hogy felmondott az Anthropicnál, és három évet töltött az OpenAI-nál és az Anthropicnál. Állítása szerint egyik cég sem cselekszik felelősségteljesen, az önfejlesztő szuperintelligencia megalkotásáért versenyeznek, és közben az életünkkel játszanak. Hozzátette, hogy a mesterséges intelligencia hamarosan az egész emberiség végét jelentheti.
Evan Hubinger, az Anthropic egyik vezető kutatója megerősítette ezeket az állításokat, egy válaszposztban azt írta, hogy Jacobnak igaza van, és tényleg úgy gondolják, hogy a mesterséges intelligencia végezhet minden emberrel. Személy szerint 10 százaléknál nagyobb esélyt lát rá, hogy ez már a következő évtizedben megtörténhet.
Az Anthropic nem sokkal ezután tette közzé friss veszélyforrás-felderítési jelentését, amelyben arról írtak, hogy az elmúlt nyolc hónapban bűnözők, állami támogatású csoportok, kémszoftvereket értékesítő vállalatok, tudósok és propagandisták is megpróbálták felhasználni mesterségesintelligencia-modelljeiket rakéták, bombák és biofegyverek készítéséhez, kibertámadások lefolytatásához, valamint másként gondolkodók megfigyeléséhez.
A mesterséges intelligenciával kapcsolatos aggodalmak miatt Sam Altman nemrég azt is bejelentette, hogy a korábbi tervekkel ellentétben az OpenAI 2026-ban nem fog a tőzsdére lépni.
