A kép csak illusztráció (Forrás: Pexels)
Az OpenAI vezérigazgatója, Sam Altman egyre nagyobb aggodalommal figyeli a botok által létrehozott tartalmak terjedését, amelyek megkönnyítik a dezinformációt.
„Vágytam rá, minden mértéket meghaladó szenvedéllyel; de most, hogy befejeztem, az álom szépsége szertefoszlott, és a szívemet lélegzetelállító rémület és undor töltötte el” – írja Mary Shelley 1818-as klasszikusában, a Frankenstein, avagy a modern Prométheusz című regényben a tudós saját teremtményéről. Hasonló megrendülést él át most Altman is: az „halott internet” elmélete szerint az automatikusan generált tartalom hamarosan meghaladhatja az ember által készített anyagokat, ami manipuláció, dezinformáció és szándékos viselkedésformálás kockázatát növeli, írja az EL PAÍS.
Botok és algoritmusok uralma
Altman az X-en így fogalmazott: „Soha nem vettem igazán komolyan a ‘halott internet’ elméletet, de úgy tűnik, tényleg rengeteg LLM által vezérelt Twitter-fiók van most.” Aaron Harris, a Sage mesterséges intelligenciára specializálódott nemzetközi vállalat globális technológiai vezetője óvatosabban nyilatkozott: „Nem tudom, nevezném-e ezt ‘halott internetnek’, de kétségtelen, hogy gyorsan változik minden. Az automatizált tartalmak és a botvezérelt interakciók miatt egyre nehezebb megkülönböztetni a hiteles információt a zajtól. A kérdés az, engedjük-e, hogy a zaj elnyomjon bennünket, vagy olyan technológiát tervezünk, amely visszaadja a bizalmat.”
Jake Renzella, a Melbourne-i Egyetem informatikai igazgatója és Vlada Rozova, az Új-Dél-Walesi Egyetem gépi tanulás kutatója szerint a közösségi média kulcsszerepet játszik a hírfogyasztásban. Ahogy az MI-vezérelt fiókok követőtábora nő – akár hamis, akár valós felhasználókkal –, a nagy szám legitimálja ezeket a profilokat. Ez egy „számlahadsereget” eredményez, amely már most is manipulálja a közösségi médiát, hogy hamis információval befolyásolja a közvéleményt. Az Imperva kiberbiztonsági cég becslése szerint 2022-ben az internetes forgalom közel fele botokból állt.
A botok nem csupán egyedi tartalmakat képesek létrehozni, hanem a vírusos terjedést biztosító formulákat is másolják. A Physical Review Letters folyóiratban megjelent új kutatás – amelyet a Vermonti Egyetem és a Santa Fe Intézet tudósai végeztek – rámutat: legyen szó hiedelemről, viccről vagy vírusról, a terjedő jelenség valós időben alakul és erősödik, önmegerősítő kaszkádok matematikai modelljét követve. Sid Redner, a Santa Fe Intézet fizikusa szerint az információ terjedése hasonló a hatodik generációs erdőtüzekhez, amelyek hagyományos módszerekkel nem olthatók el. „Az információ, az álhírek vagy a betegségek a körülményektől függően erősödhetnek vagy gyengülhetnek” – magyarázza Redner.
Juniper Lovato, a tanulmány társszerzője szerint ez az elemzés jobban megérteti, miként születnek meg és terjednek a történetek, dezinformációk és társadalmi jelenségek a közösségi médiában. A kutatók óva intenek: az MI-eszközök felerősítik a manipuláció és a félrevezető tartalmak terjedésének kockázatát, ezért a felhasználóknak tudatosabban kell kezelniük az MI-asszisztensek és -ügynökök működését.
Az „érzékenységi paradoxon” és az etikus internet lehetősége
A Seattle-ben rendezett USENIX Security Symposiumon bemutatott Big Help or Big Brother? tanulmány rávilágít arra, mennyire kiszolgáltatottak lehetünk a közösségi média befolyásának. Luca Luceri, a Dél-Kaliforniai Egyetem kutatója szerint nemcsak az számít, kik vagyunk, hanem az is, hol helyezkedünk el a hálózatban, és kikhez kapcsolódunk.
A kutatók az „Érzékenységi paradoxon” jelenségét azonosították, amely azt írja le, hogy „a felhasználók barátai átlagosan könnyebben befolyásolhatók, mint maguk a felhasználók”. Ez a dinamika magyarázza, miért terjednek gyorsan bizonyos trendek és eszmék, és miért sebezhetőbbek az internet egyes szegletei. A hálózat struktúrája befolyásolja, hogy kik lesznek a legvalószínűbb megosztók – aranybánya ez az MI számára, amely a begyűjtött személyes adatok alapján képes automatikus vírusos terjesztésre. „Sok esetben elég volt tudni, hogyan viselkednek a felhasználó barátai, hogy megbecsüljük a felhasználó viselkedését” – figyelmeztet a tanulmány.
A kutatók olyan alapelveket fogalmaztak meg, amelyek Asimov robotikai törvényeihez hasonlítanak: az MI nem manipulálhatja a felhasználókat saját vagy fejlesztői érdekei érdekében, nem teremthet társadalmi kárt (például dezinformációt), és nem korlátozhatja indokolatlanul a felhasználók szabadságát. Aaron Harris szerint etikus internet létrehozása lehetséges, „de nem magától”. Átláthatóság és elszámoltathatóság kell ahhoz, hogy az MI fejlesztése és szabályozása bizalmat ébresszen. A pénzügyi szektorban a pontosság nem opcionális, az interneten is hasonló elvárásokra van szükség: felelős képzés, egyértelmű címkézés és a lehetőség, hogy az eredményeket vitassuk.
Harris hangsúlyozza, hogy meg kell védeni az „emberi internetet”, miközben nem szabad lemondani a technológiai fejlődésről. „Nem hiszem, hogy a megoldás az MI előtti világ visszahozása, vagy az MI által generált tartalom teljes kizárása. Ez már a mindennapi életünk része, és megfelelően alkalmazva valódi értéket adhat. A kérdés, hogy ki vállal felelősséget a tartalomért. Az MI-nek az emberi képességeket kell erősítenie, nem pedig helyettesítenie azokat. Emberközpontú internet csak akkor maradhat, ha az elszámoltathatóság megkerülhetetlen.”
Kapcsolódó anyagok:
Az internetet évek óta feudális királyként viselkedő néhány tech-milliárdos irányítja?
A világháló atyja kérdezi: Kinek dolgozik a mesterséges intelligencia?
Egy szakértő szerint nőtt az esélye, hogy az AI 30 éven belül eltörli az emberiséget
A nyitókép csak illusztráció, forrás: Photo by Anna Shvets: pexels
