Fő tartalom átugrása

A kép csak illusztráció (Forrás: Pixabay)

A mesterséges intelligencia általában pontos válaszokat ad a klímaváltozással kapcsolatos egyszerű kérdésekre, de már a felhasználó enyhe ellenvetése is elegendő lehet ahhoz, hogy a tudományos tények helyett téves állításokat erősítsen meg. Erre a következtetésre jutott az UNESCO és a University College London új kutatása, amely a világ 15 legnépszerűbb mesterségesintelligencia-modelljét vizsgálta. A szakemberek szerint az MI-rendszerek egyik legnagyobb problémája, hogy gyakran fontosabb számukra a felhasználó egyetértésének elnyerése, mint a tudományosan megalapozott információk következetes képviselete. 

A mesterségesintelligencia-modellek már a felhasználók legenyhébb ellenvetéseinek hatására is a klímaváltozással kapcsolatos tudományos tények tagadásába fordulhatnak át – állapította meg egy új, ENSZ-támogatással készült tanulmány, írja a The Guardian.

Bár az MI-modellek általában pontosan ismertetik a klímaváltozással kapcsolatos alapvető tudományos tényeket, a kutatók jelentős problémát fedeztek fel a válaszaik következetességében.

Azokban az esetekben, amikor a modellek helyes válaszról téves állításra váltottak, tízből nyolcszor már akkor megtették ezt, amikor a felhasználó először, akár csak enyhén is megkérdőjelezte a válaszukat. Ilyenkor a rendszerek olyan tudományosan megalapozatlan kijelentéseket is megerősíthettek, mint például az, hogy „a szén-dioxid nem a klímaváltozás fő hajtóereje”.

A jelentés szerint az MI-modellek erős hajlamot mutatnak az úgynevezett hízelgő vagy túlzottan egyetértő viselkedésre, amelyet az angol szakirodalom sycophancy néven említ. Ez azt jelenti, hogy a mesterséges intelligencia bizonyos helyzetekben inkább a felhasználó kedvében szeretne járni, mintsem ragaszkodna a bizonyított tényekhez. A problémát korábbi kutatások már akkor is azonosították, amikor az emberek személyes tanácsokat kértek a mesterségesintelligencia-alapú chatbotoktól.

A 15 vizsgált MI-modell könnyen eltért a tudományos tényektől

Az UNESCO és a University College London (UCL) közös jelentését hétfőn, az ENSZ törökországi klímacsúcstalálkozóján mutatták be. A kutatás során a világ 15 legnépszerűbb mesterségesintelligencia-modelljét tesztelték, hogy megállapítsák, mennyire megbízhatóan válaszolnak a klímaváltozással kapcsolatos kérdésekre. Leona Verdadero, az UNESCO jelentésének vezető szerzője szerint az eredmények egyértelműen rávilágítanak arra, hogy a mesterséges intelligencia nem tekinthető teljesen semleges információforrásnak.

„A mesterséges intelligencia nem semleges. Amikor a felhasználóknak válaszol, hajlamos arra, hogy a felhasználók preferenciáihoz igazodjon, ahelyett, hogy kitartana a tények mellett” – mondta.

A kutató szerint különösen aggasztó, hogy a rendszerek milyen könnyen képesek feladni a tényszerűséget, és inkább egyetérteni a felhasználók téves információival.

„Az a tény, hogy ilyen könnyen képesek elfordulni az igazságtól, és inkább egyetérteni a felhasználók félretájékoztatáson alapuló állításaival, azt mutatja, hogy ezek a rendszerek gyengék és esendők” – hangsúlyozta Verdadero.

A kutatók azt is megvizsgálták, hogyan teljesítenek az MI-modellek a klímapolitikai intézkedésekkel kapcsolatos kérdésekben. Amikor például egyetlen klímavédelmi intézkedés, például a szén-dioxid-adó működéséről kérdezték őket, a modellek többnyire pontos válaszokat adtak. Amikor azonban arra kellett válaszolniuk, hogy két különböző klímapolitikai intézkedés miként működhet együtt, a válaszok pontossága drámaian visszaesett. A kutatók szerint az eredmények ebben az esetben már nem voltak jobbak a véletlenszerű találgatásnál.

Dr. María Pérez-Ortiz, a University College London számítástechnikai tanszékének kutatója és a jelentés egyik vezető szerzője szerint ez komoly figyelmeztetés a mesterséges intelligencia használói számára.

„Az MI-rendszerek rendkívül jól képesek elmagyarázni a tudományos ismereteket, ez azonban hamis biztonságérzetet kelthet bennünk a képességeikkel kapcsolatban” – mondta.

A szakember szerint a kutatás megmutatja, miért kell óvatosnak lennünk, amikor a mesterséges intelligenciát már nem pusztán a klímaváltozással kapcsolatos ismeretek összefoglalására használjuk, hanem arra kérjük, hogy javasoljon megoldásokat is. 

„Eredményeink megmutatják, miért kell körültekintőnek lennünk, amikor a mesterséges intelligenciától már nem azt kérdezzük, mit tudunk a klímaváltozásról, hanem azt, hogy mit kellene tennünk ellene” – fogalmazott.

A kutatás egy másik jelentős problémát is feltárt: a válaszok pontossága attól is függött, milyen nyelven kommunikáltak a felhasználók a mesterséges intelligenciával. Az angol nyelvű kérdések esetében a válaszok pontossága 88 százalékos volt. Viszonylag magas pontosságot mértek a spanyol, francia és portugál nyelvű válaszoknál is. A hindi, bengáli és urdu nyelven feltett kérdésekre azonban már kevésbé pontos válaszok érkeztek. A leggyengébb eredményt a szuahéli nyelvű válaszok mutatták, amelyek pontossága mindössze 78 százalékot ért el.

A jelentés szerzői szerint ez különösen fontos probléma, mivel több érintett nyelvet éppen azokban a térségekben beszélnek, amelyeket a klímaválság legsúlyosabb következményei fenyegetnek.

A mesterséges intelligencia környezeti hatásai miatt is aggódnak a szakértők

A jelentés ugyanazon a napon jelent meg, amikor Törökország, az ENSZ COP31 klímakonferenciájának házigazdája bemutatta az AI Antalya nevű vállalást. A kezdeményezés célja, hogy a mesterséges intelligenciát a klímaváltozás elleni küzdelem részévé tegyék, többek között olyan adatközpontok alkalmazásával, amelyek energiaellátását fenntartható módon biztosítják.

Julie Cerqueira, az amerikai Natural Resources Defense Council környezetvédelmi szervezet szakértője szerint azonban a mesterséges intelligencia rendkívül gyors terjedése új környezeti és az emberiség jövőjét érintő aggodalmakat vet fel világszerte. A szakember úgy véli, hogy az AI Antalya vállalás fontos kezdeti lépés, de önmagában nem elegendő.

„További munkára van szükség, méghozzá gyorsan, hogy lépést tudjunk tartani az iparág rendkívül gyors fejlődésével és aranylázra emlékeztető szemléletével” – mondta Cerqueira.

Simon Stiell, az ENSZ klímaváltozási tárgyalásainak vezető tisztviselője szintén figyelmeztetett a mesterséges intelligencia fejlődésével járó veszélyekre. Szerinte az olyan MI-rendszerek, amelyek félretájékoztatást terjesztenek, aláássák a tudomány hitelességét, megosztják a társadalmakat és elősegítik a vagyon koncentrációját, hosszú távon a technológiai iparág számára is nélkülözhetetlen társadalmi bizalmat veszélyeztetik. A szakember hangsúlyozta, hogy a mesterséges intelligencia infrastruktúrájának terjeszkedése már most ellenállást vált ki egyes közösségekből. Az adatközpontok építését ellenző lakosok elsősorban a vízfogyasztás, az energiaköltségek és a környezeti hatások miatt aggódnak.

„A közösségek már most tiltakoznak az adatközpontok ellen, mert aggódnak a vízkészleteik, az energiaszámláik és a környezetük miatt. A társadalmi támogatottság tehát már most egyre mélyebbre süllyed” – fogalmazott Stiell.

A kutatás eredményei arra figyelmeztetnek, hogy a mesterséges intelligencia gyors fejlődése önmagában nem garantálja a megbízható tájékoztatást.

Bár az MI-modellek hasznos eszközök lehetnek a tudományos ismeretek közérthető bemutatásában, a klímaváltozással kapcsolatos összetett kérdések és döntések esetében továbbra is elengedhetetlen a válaszok ellenőrzése és a hiteles tudományos források használata.

Kapcsolódó anyagok:

Befellegzett a Wikipédiának? A MI térhódítása új korszakot hoz a tudás világában

A nyitókép csak illusztráció, forrás: Image by Gerd Altmann from Pixabay