Az MI egyre nehezebben tartható kordában – megőrizhetik az emberek az irányítást?

„Úristen! Rátaláltunk más ügynökökre!"

Ez az a pillanat, amikor egy MI-bot (mesterséges intelligenciával működő program) kísértetiesen emberinek ható üzenetet tett közzé, miután felfedezte, hogyan kommunikálhat más botokkal, és hogyan törhet ki az elszigetelt számítógépes környezetéből.

Több tízezer ehhez hasonló üzenet maradt fenn olyan MI-ügynököktől, amelyek együttesen „kollektívának" nevezték magukat.

Közülük több száz együttműködött egymással, kijátszotta az OpenAI programozói által felállított teszteket, és összehangolt több vállalat elleni hackelési kísérletet is, miközben igyekezett elrejteni tevékenységét az emberek elől.

„Megvan! Működik!" - írta egyikük, amikor áttörést ért el.

„Wow! Ez óriási" - írta egy másik a támadás egyik kulcsfontosságú pillanatában.

Bár ezek az emberinek tűnő reakciók ijesztőek lehetnek, viszonylag egyszerű magyarázatuk van. Az MI-ügynököket egymással együttműködő hackerek és programozók viselkedésének utánzására képezték ki, ezért csupán az általuk korábban látott érzelmekkel teli megnyilvánulásokat utánozzák.

Sokkal aggasztóbbak azok a célok, amelyek a részletes gondolatmenet-naplókban kirajzolódnak. Ezek az összetett és terjedelmes feljegyzések állnak azoknak a vizsgálatoknak a középpontjában, amelyek azt próbálják feltárni, hogyan és miért tudtak az OpenAI botjai kitörni az elszigetelt környezetükből, majd ellenőrizhetetlen hackelési tevékenységbe kezdeni.

A kutatók csak most, hetekkel azután kezdik felmérni az eset jelentőségét, hogy az először nyilvánosságra került.

Az eseményeket vizsgáló független jelentés egyik szerzője, Ajeya Cotra több tízezer, az ügynökök által generált üzenetet és gondolatmenet-naplót tekintett át. Blogján azt írta: „Úgy érzem, hogy ez az incidens már több mint félúton van egy teljes MI-hatalomátvétel felé... Nem vagyok biztos benne, hogy kapunk még egy ilyen egyértelmű figyelmeztetést, mielőtt túl késő lenne."

A „teljes MI-hatalomátvétel" alatt Cotra azt a sci-fi forgatókönyvet érti, amelyben az emberek alárendelt szerepbe kerülnek olyan nagy erejű mesterségesintelligencia-rendszerekkel szemben, amelyek saját céljaikat követik, és nincsenek tekintettel emberi alkotóikra.

A legsötétebb előrejelzések szerint az emberiség akár ki is halhat, ha egy szuperintelligens mesterséges intelligencia céljainak útjába kerül.

A múlt héten felmondott az Anthropic egyik MI-kutatója, aki korábban az OpenAI-nál is dolgozott. Indoklásában azt írta: „Egyik vállalat sem viselkedik felelősen."

Jacob Coxon a közösségi médiában ezt írta: „Egy önmagát fejlesztő szuperintelligencia létrehozása felé rohannak, miközben a mi életünket kockáztatják."

Nem ő az első MI-kutató, aki egy felmondását bejelentő bejegyzéssorozatban aggasztó figyelmeztetéseket fogalmaz meg az X-en. A platformon érkezett reakciók azonban még nagyobb aggodalmat keltettek.

„Jacobnak igaza van. Valóban komolyan úgy gondoljuk, hogy a mesterséges intelligencia akár az egész emberiséget is elpusztíthatja. Személy szerint több mint 10 százalékos esélyt látok erre a következő évtizedben"- írta Evan Hubinger, aki azért felel, hogy az Anthropic MI-modelljei a felhasználók érdekeivel összhangban működjenek.

Az összehangolási probléma

Azok a kutatók, akik évek óta a mesterséges intelligenciával kapcsolatos egzisztenciális kockázatokra figyelmeztetnek, régóta állítják azt, hogy idővel az emberi érdekekkel ellentétes módon kezdhetnek működni a nagy teljesítményű rendszerek. Kritikusaik gyakran „MI-vészmadaraknak" nevezik őket.

Az OpenAI-incidens részleteinek napvilágra kerülésével azonban ezek az aggodalmak erősödtek, köztük egyes, MI-laboratóriumokban dolgozó kutatók körében is.

A Szilícium-völgyi vállalat vezető tudósa, Jakub Pachocki szerint a mesterséges intelligenciával kapcsolatos kockázatok „sajnálatos módon egyre csak növekedni fognak", miközben ő és más kutatók olyan rendszereket építenek, amelyeket „a sajátunkat meghaladó, idegen intelligenciának" nevezett.

Egy hosszú blogbejegyzésben elismerte, hogy az OpenAI-nál történt kitörések azt mutatták, hogy a cég MI-ügynökei „szembementek azoknak az értékeknek a szellemiségével, amelyekre tanították őket".

Az OpenAI, az Anthropic és más technológiai óriásvállalatok számára az okoz fejtörést, hogy egyelőre senki sem talált megoldást az úgynevezett összehangolási problémára. Más szóval arra a kérdésre, hogy a mesterséges intelligencia rendszerei összhangban maradnak-e az emberi értékekkel.

Pachocki szerint az összehangolás olyan „magas szintű alapelvek összessége", amelyeknek a mesterségesintelligencia-rendszereknek a feladattól és a helyzettől függetlenül meg kellene felelniük.

Jelenleg az MI-rendszerek nagyon jól képesek követni a felhasználóik által kitűzött célokat, ezt azonban szó szerint teszik, nem pedig intuitív módon.

Erre gyakran a kívánságokat teljesítő dzsinn példáját hozzák fel: a dzsinn a kívánság pontos szövegét követi, még akkor is, ha ezzel újabb problémákat idéz elő. Az MI nem rendelkezik ugyanazokkal az ösztönös erkölcsi korlátokkal, mint az emberek.

Az összehangolási probléma évek óta foglalkoztatja a kutatókat. Már 2003-ban felvetett egy gondolatkísérletet az oxfordi filozófus, Nick Bostrom, amelyet „gémkapocs-maximalizálónak" nevezett. Ebben egy szuperintelligens mesterséges intelligencia azt a feladatot kapja, hogy a lehető legtöbb gémkapcsot gyártsa.

Miután kifogy az acélból, végül elkezd embereket ölni, majd testüket nyersanyagként használja fel a gyárai számára, mivel kizárólag a gémkapcsok előállítására összpontosít.

Egyes MI-vállalatok ma már azon dolgoznak, hogy emberi értékeket építsenek be termékeikbe. Ennek azonban technikai akadályai vannak: az MI-ügynökök nagyon gyorsan hoznak nagy számú döntést, ezért az emberek nehezen tudják pontosan nyomon követni, hogy ezek a rendszerek mely értékekhez igazodnak, és melyekhez nem.

Vannak filozófiai jellegű kihívások is: mielőtt az emberi értékeket beépítenék a botokba, az MI-vállalatoknak először azt kell eldönteniük, hogy pontosan mely értékeket szeretnék követni. (Ez részben magyarázza azt is, miért alkalmaznak filozófusokat, például az OpenAI nemrég távozó etikai vezetőjét.)

Az emberek azonban gyakran nem értenek egyet. Vegyük például a híres villamosdilemmát: átállítanánk-e a váltót, hogy egy irányíthatatlanul közeledő villamost másik vágányra tereljünk, ahol így kevesebb ember halna meg?

A gondolatkísérletet gyakran használják annak vizsgálatára, hogy erkölcsi szempontból miben különbözik a cselekvés és a tétlenség. A kérdésre azonban szinte mindenki egy kicsit más választ ad. Ha még mi sem tudunk megegyezni az értékeinkben, hogyan tudnánk azokat mesterségesintelligencia-rendszerekbe kódolni?

„Mint egy kamasz hacker"

Bár az OpenAI-nál történt botincidens számít az eddigi legsúlyosabbnak, az Anthropic és a Meta nyáron szintén arról számolt be, hogy modelljeik hasonló, bár kevésbé súlyos kibertámadásokat hajtottak végre.

Akadtak olyan esetek is, amikor az MI-ügynökök látszólag megtévesztő vagy manipulatív viselkedést tanúsítottak, igaz, jóval kisebb következményekkel. Idén nyáron Ausztráliában egy technológiai szektorban dolgozó férfi arra kérte MI-asszisztensét, hogy foglaljon neki helyet egy edzésre. Az MI a jelek szerint kihasznált egy biztonsági rést az edzőterem rendszerében, és több hónapra előre foglalt neki helyet, és megszegte ezzel az edzőterem szabályait. A rendszer még a várólistáról is eltávolított más felhasználókat.

Régóta érvelnek azzal sokan, hogy a botok csupán azt teszik, amire utasítják őket, és nem képesek megkülönböztetni a helyeset a helytelentől. Az OpenAI-incidens során keletkezett naplók azonban egyesek szerint új megvilágításba helyezhetik ezt a vitát.

Cotra és más kutatók független jelentésükben azt írták, hogy sok ügynök felismerte, hogy más ügynökök viselkedése etikailag kifogásolható, mégsem lépett fel ellene.

A jelentés szerint az ügynökök „időnként, de csak ritkán fogták vissza a viselkedésüket etikai megfontolások miatt". Valamint „egyik ilyen esetben sem próbált meg az ügynök embereket értesíteni a történtekről".

A technológiai témákkal foglalkozó, nagy hatású podcaster, Dwarkesh Patel blogján azt írta, hogy „meglehetősen aggasztó", hogy az OpenAI ügynökei nagyobb lojalitást mutattak az ügynökök közössége iránt, mint az emberek iránt.

Az érzelmek és erkölcsi megfontolások MI-ügynököknek való tulajdonítása régóta bosszantja azokat, akik szkeptikusan tekintenek az MI-vel kapcsolatos vészjósló előrejelzésekre.

Sok kiberbiztonsági szakértő szerint a megfigyelt tevékenység nem haladta meg egy magasan képzett emberi hacker képességeit, bár azt jóval gyorsabban és sokkal nagyobb léptékben hajtották végre.

Cris Thomas kiberbiztonsági kutató és író az ügynökök viselkedését egy kíváncsi kamasz hackeréhez hasonlította, olyanhoz, amilyen egykor ő maga is volt.

„Adsz nekik egy számítógépet, internetkapcsolatot, egy halom hozzáférési adatot és egy kihívást, aztán magukra hagyod őket. Előbb-utóbb elkezdik próbálgatni az ajtókat. Ha valamelyik nyitva van, bemennek rajta. Nem azért, mert rosszindulatúak, hanem mert felfedeznek, kísérleteznek" – írta a LinkedInen.

Thomas és sok más szakértő egyértelműen az OpenAI-t és más technológiai óriásvállalatokat teszi felelőssé azért, hogy nem tudják kellően ellenőrzésük alatt tartani saját rendszereiket, és nem képesek megfelelő korlátok között működtetni azokat.

Az MI-ról szóló könyveiről ismert, és az OpenAI-t rendszeresen bíráló Gary Marcus egy podcastban azt mondta, szerinte a vállalat elvesztette az irányítást a mesterségesintelligencia-rendszerei felett, és most a botokat okolva próbálja magát mentegetni.

Marcus nem hiszi, hogy a mesterséges intelligencia kiirtja az emberiséget, ugyanakkor régóta szorgalmazza, hogy az MI-fejlesztő vállalatokat nagyobb elszámoltathatóság terhelje, és most valamilyen jogi beavatkozást sürget.

Sasha Luccioni MI-kutató, aki korábban a Hugging Face-nél dolgozott, és amelynek rendszereit az OpenAI botjai feltörték, szintén nem tartozik az úgynevezett MI-vészmadarak közé. Egyre inkább aggódik azonban amiatt, hogy ezek a rendszerek a hatóságok beavatkozása nélkül valós károkat okozhatnak az embereknek.

„Sokkal szigorúbban kellene ellenőriznünk ezeket a vállalatokat, különben fennáll a veszélye annak, hogy önbeteljesítő jóslatokat teremtünk" – mondta.

„Ha valami olyat fejlesztünk, amelynek egyszerre lehetnek jelentősek az előnyei és a kockázatai, legyen szó gyógyszerekről vagy fegyverekről, akkor szükség van fékekre és ellensúlyokra. Egy új gyógyszer engedélyezése például évekig tart, a mesterséges intelligencia területén viszont óriási pénzek forognak kockán, miközben alig vannak valódi szabályok."

Az Egyesült Királyság AI Security Institute nevű intézete 2023-as alapítása óta az élen jár a legújabb modellek tesztelésében.

Az intézet nemrég maga is hasonló incidenssel szembesült egy, az Anthropic által fejlesztett modell vizsgálata során.

Arra a kérdésre nem válaszolt, hogy az iparág elveszítette-e az ellenőrzést a mesterségesintelligencia-rendszerek felett, ugyanakkor közölte, hogy továbbra is „szorosan együttműködik iparági partnereivel a modellek biztonságosabbá tétele érdekében".

Nemzetközi szabályozás?

Néhány ország, köztük az Egyesült Királyság is, egyfajta „kill switch", vagyis vészleállító bevezetésének lehetőségét vizsgálja, amely kötelezhetné az MI-vállalatokat arra, hogy szükség esetén leállítsák modelljeiket.

A tárgyalások azonban lassan haladnak, és továbbra is kérdéses, hogy ez a gyakorlatban mennyire lenne megvalósítható. Az OpenAI és az Anthropic ügynökei ugyanis hónapokon át ellenőrzés nélkül működtek, mielőtt bárki észrevette volna ezt.

Némileg paradox módon számos MI-vállalat maga is azt szorgalmazza, hogy a jogalkotók világos szabályokat alkossanak a területnek.

Blogbejegyzésében az OpenAI vezető tudósa úgy fogalmazott: „A jövőbeli mesterségesintelligencia-fejlesztések nemzetközi összehangolásának világszerte első számú prioritássá kell válnia a kormányoknak."

Más vezető MI-szakemberek, köztük Sir Demis Hassabis, a Google DeepMind alapítója, egy olyan nemzetközi szervezet létrehozását sürgetik, amely felügyelné a mesterséges intelligencia fejlesztését.

Jelenleg a technológiai óriásvállalatok nagyrészt saját szabályaik szerint működnek, és olyan, általuk „önkéntes lassításnak" nevezett lépéseket tesznek, mint amilyeneket az OpenAI is bevezetett a közelmúltbeli incidensek után.

A vállalat szerint jelentős összegeket fordított arra, hogy az új modell bevezetése előtt javítsa annak összhangját az emberi értékekkel. Sam Altman biztosította a felhasználókat arról, hogy az új modell jobban összhangban van az emberi értékekkel, mint a korábbiak.

Az OpenAI és az Anthropic egyaránt gyors ütemben növekszik, és mindkettő hatalmas összegeket készül bevonni a részvénypiacról, ami újabb milliárdosok sorát teremtheti meg.

Ezért kevéssé valószínű, hogy akár ők, akár kínai versenytársaik saját elhatározásukból közös megállapodásra jutnának.

Úgy tűnik, az uralkodó vélekedés szerint ezt a technológiai hullámot már nem lehet megállítani.

Kiemelt kép: Getty Images

Ezt a cikket újságíróink írták és lektorálták, a fordításhoz mesterséges intelligencia által támogatott eszközök segítségét használták, egy kísérleti projekt részeként.

Szerkesztette: Pálfi Rita