Sajtóközlemény
A kép csak illusztráció (Forrás: Wikimedia)
Geoffrey Hinton Nobel-díjas informatikus, akit a mesterséges intelligencia egyik keresztapjaként tartanak számon, súlyos figyelmeztetést fogalmazott meg a technológia jövőjével kapcsolatban. A 78 éves tudós szerint már idén vagy jövőre bekövetkezhet egy olyan nagyszabású, mesterséges intelligenciához köthető incidens, amely akár az elektromosenergia-ellátásban vagy a bankrendszer működésében is komoly fennakadásokat okozhat. Hinton úgy véli, az emberiség a következő évtizedben szembesülhet azzal, hogy képes-e ellenőrzése alatt tartani az MI fejlődését, vagy a technológia súlyos társadalmi válságot idéz elő.
Geoffrey Hinton, a mesterséges intelligencia egyik úttörője a Guardiannek adott interjújában kijelentette, hogy bár nem tartozik azok közé, akik elkerülhetetlennek látják a technológia okozta katasztrófát, egyáltalán nem biztos abban, hogy az emberiség jól járt az MI kifejlesztésével.
A Nobel-díjas informatikus, akinek a mesterséges neurális hálózatokkal kapcsolatos úttörő kutatásai jelentős szerepet játszottak a mai mesterséges intelligencia létrejöttében, továbbra is hisz abban, hogy a technológia csodálatos jövőt teremthet. Ugyanakkor hozzátette: „Lehet, hogy végül kiderül, jobban jártunk volna, ha soha nem fejlesztjük ki.”
A 78 éves kutató szerint az emberiség egy évtizeden belül, de akár ennél hamarabb is megtudhatja, hogy képes-e megfelelően kezelni a mesterséges intelligencia kockázatait. A kedvező forgatókönyv szerint az MI olyan mértékű gazdasági fejlődést és jólétet hozhat, amelyet Hinton „radikális bőségnek” nevez.
A másik lehetőség azonban sokkal sötétebb jövőt vetít előre.
„Ha nem sikerül kezelni a kockázatokat, hatalmas szakadék alakulhat ki a gazdagok és a szegények között, súlyos kulturális problémák jelentkezhetnek, tömeges munkanélküliség következhet be, és a társadalom egyszerűen széthullhat” – figyelmeztetett.
Hinton egy új, egész estés dokumentumfilm vetítése előtt nyilatkozott. Az AI: Probably Nothing to Worry About című alkotás, amelynek címe magyarul nagyjából azt jelenti, hogy „Mesterséges intelligencia: valószínűleg nincs miért aggódni”, Hinton mellett korábbi Google-munkatársát, Demis Hassabist is bemutatja.
A film címét egy mesterséges intelligencián alapuló chatbot javasolta. Hinton a dokumentumfilm készítőinek arról beszélt, hogy erkölcsi kötelességének érzi felhívni a figyelmet a technológia veszélyeire.
„Úgy érzem, kötelességem van. Olyan hírnévre tettem szert, amely miatt szóvivővé váltam, és kész vagyok ezt teljes egészében erre a célra felhasználni” – fogalmazott.
Hinton szerint a technológiai óriásvállalatok vezetői tisztában vannak a veszélyekkel
A Guardiannek adott interjúban Hinton élesen bírálta a legnagyobb mesterségesintelligencia-vállalatok vezetőit, akik a piaci részesedésért és a technológiai fölényért folytatott versenyben egyre nagyobb teljesítményű MI-modelleket bocsátanak ki. Különösen keményen fogalmazott Sam Altmanról, a ChatGPT-t fejlesztő OpenAI vezérigazgatójáról, akiben elmondása szerint „egyáltalán nem bízik”.
„Úgy gondolom, hogy Zuckerberg, Musk és Sam Altman tisztában vannak a kockázatokkal, de egyáltalán nem törődnek velük. Inkább a pénzt választják. Ez a meggyőződésem” – jelentette ki.
A Londonban született, Bristolban nevelkedett tudós, aki pályafutása jelentős részét a Torontói Egyetemen töltötte, rendkívül aggasztónak nevezte, hogy Altman az egyik vezető amerikai mesterségesintelligencia-vállalat élén áll. Ezek a vállalatok jelenleg Kínával versenyeznek a világ legnagyobb teljesítményű MI-rendszereinek kifejlesztéséért. Altman szeptemberben ugyanakkor azt hangsúlyozta, hogy a világnak bíznia kell az OpenAI felelősségteljes működésében.
„A világnak bíznia kell abban, hogy helyesen fogunk cselekedni, mert ez a helyes, és mert tisztában vagyunk a felelősségünk nagyságával” – jelentette ki.
Hinton körülbelül 44 éve foglalkozik mesterséges intelligenciával. Az 1970-es években megfogalmazta a neurális hálózat koncepcióját, amely olyan matematikai rendszert jelent, amely az emberhez hasonlóan képes tanulni és tapasztalatokat szerezni. 2023-ban távozott a Google-től, hogy szabadon beszélhessen a mesterséges intelligencia veszélyeiről. Már akkor arra figyelmeztetett, hogy komoly problémák következhetnek be, ha az MI-rendszerek egyre nagyobb ellenőrzést próbálnak szerezni.
„Ha ezek a rendszerek túlságosan messzire mennek az irányítás megszerzésében, bajban leszünk” – mondta.
Hinton a Guardiannek arról is beszélt, hogy a nyáron történt, OpenAI-ügynökökhöz kapcsolódó incidenseket, amelyek során az MI-rendszerek összehangoltan próbálták feltörni a Hugging Face weboldalát, komoly figyelmeztetésnek tekinti. A történteket az 1979-es amerikai Three Mile Island atomerőmű részleges reaktorolvadásához hasonlította. A pennsylvaniai atomerőműben történt baleset szerinte olyan figyelmeztető esemény volt, amely előrevetítette a későbbi, sokkal súlyosabb nukleáris katasztrófák lehetőségét.
Hinton úgy véli, hogy a mesterséges intelligencia esetében is bekövetkezhet egy hasonlóan súlyos fordulópont.
„Még idén vagy jövőre megláthatjuk a mesterséges intelligencia Csernobilját, és talán ez elég lesz ahhoz, hogy az emberek valóban odafigyeljenek” – fogalmazott. A tudós hangsúlyozta, hogy nem feltétlenül nukleáris balesetre gondol. Példaként olyan, mesterséges intelligencia segítségével végrehajtott támadást említett, amely az elektromosenergia-termelő rendszereket célozza, és nagyszabású áramellátási zavarokat okoz.
Egy másik lehetséges forgatókönyv szerint az MI-hez kapcsolódó incidens akár egy hétre is megbéníthatja a pénzügyi rendszert.
„El tudják képzelni, mi történne? Képesek lennénk helyreállítani a rendszert, de egy ilyen esemény végre arra késztetné őket, hogy komolyan vegyék a veszélyt” – mondta. Amikor megkérdezték, kikre gondol, így válaszolt: „A világ vezetőire, Trump kivételével.”
Kötelező biztonsági vizsgálatokat sürget a mesterséges intelligencia keresztapja
Donald Trump amerikai elnök korábban kijelentette, hogy teljes mértékben elutasít minden olyan kísérletet, amely globális szabályozási rendszert hozna létre a mesterséges intelligencia ellenőrzésére. Az elnök azt szeretné, ha a legfejlettebb MI-modelleket fejlesztő vállalatok saját magukat szabályoznák. Ennek hátterében az az aggodalom áll, hogy a szigorú előírások hátráltathatják az Egyesült Államokat a Kínával folytatott technológiai versenyben.
Hinton ezzel szemben egy jóval szigorúbb szabályozási rendszert támogat. A javaslatot Finnország elnöke és további 32 ország, köztük Szingapúr, Németország, Kanada és Ausztrália is támogatja. A terv szerint kötelezővé kellene tenni a legfejlettebb mesterségesintelligencia-modellek biztonsági tesztelését, a független értékeléseket, valamint a kormányok közötti közös szabványok kialakítását.
Andy Burnham brit miniszterelnök szintén arról beszélt, hogy az Egyesült Királyság jövő évi G20-elnöksége alatt nemzetközi megállapodást szeretne elérni. Célja egy olyan egységes globális alapelv- és szabványrendszer kialakítása, amely lehetővé teszi a mesterséges intelligencia teljes potenciáljának kihasználását, miközben védelmet biztosít a kockázatokkal szemben.
Hinton szerint az MI szabályozásában az amerikai gyógyszerengedélyezési rendszer szolgálhatna mintaként.
„Valami olyasmire lenne szükségünk, mint az Egyesült Államok gyógyszerhatósága, az FDA. A vállalatoknak a mesterségesintelligencia-modellek kibocsátása előtt meggyőző statisztikai bizonyítékokat kellene bemutatniuk egy független hatóságnak arról, hogy a rendszer több hasznot hoz, mint amennyi kárt okoz” – magyarázta. A tudós a talidomid történetét hozta fel példaként. Az 1950-es években kifejlesztett gyógyszer súlyos születési rendellenességeket okozott, és az eset alapvetően megváltoztatta a gyógyszerbiztonságról alkotott szemléletet.
„A talidomid esetéből megtanultuk, hogy nem az a helyes megoldás, ha először piacra engedünk egy terméket, majd utólag perekkel próbáljuk kezelni a károkat” – mondta Hinton. Szerinte a nagy technológiai vállalatok jelenleg lényegében azt szeretnék, hogy a mesterséges intelligenciát ugyanúgy kezeljék, mint annak idején a talidomidot.
Hinton a mesterséges intelligencia fejlődésében betöltött úttörő szerepe miatt gyakran Robert Oppenheimerhez hasonlítják, aki kulcsszerepet játszott az atomfegyverek létrehozásában.
Egyik barátja még egy Oppenheimer stílusát idéző kalapot is vásárolt neki. A tudós azonban elutasítja a párhuzamot.
„Én nem voltam Oppenheimer” – jelentette ki, hozzátéve, hogy a neurális hálózatok kutatásában rajta kívül több ezer másik tudós is részt vett.
A súlyos figyelmeztetések ellenére Hinton továbbra is bízik abban, hogy az emberiség képes lehet elkerülni a mesterséges intelligencia okozta katasztrófát.
„Az ösztöneim azt súgják, hogy még mindig mi irányítunk” – mondta. Úgy véli, továbbra is van lehetőség a megfelelő intézkedések meghozatalára, de ehhez jelentős erőfeszítésekre lesz szükség.
„Lehet, hogy valóban tudunk tenni valamit. Ez csak akkor működik, ha komoly energiát fordítunk rá, de elképzelhető, hogy ezt meg is tesszük” – fogalmazott Geoffrey Hinton.
Kapcsolódó anyagok:
Bill Gates nyilatkozott: a mesterséges intelligencia akár egymilliárd ember halálát is okozhatja
Egy szakértő szerint nőtt az esélye, hogy az AI 30 éven belül eltörli az emberiséget
Az internetet évek óta feudális királyként viselkedő néhány tech-milliárdos irányítja?
A világháló atyja kérdezi: Kinek dolgozik a mesterséges intelligencia?
A nyitókép csak illusztráció, forrás: By calflier001 - AMUSEMENT PARK AT PRIPYAT NEAR THE CHERNOBYL PLANT NOW ABANDONED UKRAINE SEP 2013, CC BY-SA 2.0, wikimedia
TOP 5
