A fejlesztések messze túlmutatnak a beszélgetőprogramokon
A legtöbben csak kérdések megválaszolására használjuk a mesterséges intelligenciát, de minél több önálló feladatot kapnak a rendszerek, annál fontosabb kérdés, hogy ki ellenőrzi a működésüket.
Donald Trump amerikai elnök szeptember 14-én kijelentette, hogy az Egyesült Államok már rendelkezik olyan védelmi mechanizmusokkal, amelyekkel szabályozhatók az MI-vel foglalkozó vállalatok, illetve felelősségre vonhatók azok, akik visszaélnek a technológiával.
Pedig az aggodalom fokozódik, miután Jacob Coxon, az Anthropic kutatója a múlt héten bejelentette lemondását; döntését részben azzal indokolta, hogy az MI-t fejlesztő szakemberek őszintén hisznek abban, hogy a technológia az évtized végére akár mindannyiunk halálát is okozhatja.
A vészharangot a Hugging Face-ügy után kongatták meg
Ott az OpenAI-nak voltak ugyanis olyan ügynökei, akiknek elvileg nem is szabadott volna az internetre lépniük. Soha nem lett volna szabad egymással beszélniük, de mégis kitörtek az internetre, és hosszasan beszélgettek egymással arról, hogyan tudnak dolgokat véghezvinni.
Carson a legsúlyosabb lehetséges következmények között az alapvető infrastruktúra összeomlását említi. Ez egy általa felvázolt vészforgatókönyv arra figyelmeztet, hogy milyen súlyos következményekkel járna, ha az önálló rendszerek működése kikerülne az ellenőrzésünk alól.
A Kolumbia Egyetem informatikaprofesszora óvatosabban fogalmaz
Vishal Misra szerint az, hogy egy program egy feladatban kiemelkedően teljesít, még nem jelenti azt, hogy rövid időn belül minden másra is képessé válik. Az önmagát fejlesztő mesterséges intelligenciának szerinte a valóságban korlátokkal kell szembenéznie. A professzor szerint ezért azt is meg kell vizsgálni, milyen hozzáféréseket adunk egy-egy programnak. Milyen adatokat érhet el, milyen műveleteket végezhet, és hol kell emberi jóváhagyást kérnie. A veszélyek mértékéről tehát eltérően gondolkodnak, a független szakemberek bevonását viszont Misra is támogatja.
A vita központi kérdése így az, hogyan lehet ellenőrizhetővé tenni az egyre önállóbb rendszereket. Ki láthat bele a működésükbe, ki szabhat határt a feladataiknak, és ki avatkozhat közbe, ha veszélyes döntést hoznak.
