A kép csak illusztráció (Forrás: Pixabay)
Az Oxfordi Egyetem és a Google mesterséges intelligenciával foglalkozó DeepMind részlegének kutatói azt állítják, hogy a mesterséges intelligencia fejlett formái veszélyesek az emberi életre.
A kutatók az AI Magazine című szakfolyóiratban nemrég megjelent elemzésben arra figyelmeztettek, hogy „katasztrofális következményekkel” járna, ha bizonyos mesterségesintelligencia-ágensek fejlődése folytatódna.
Vezető filozófusok korábban emlegették a mesterséges intelligencia fejlett formáinak veszélyeit, amelyek túlnőnek az ember mentális képességein, de az új tanulmány egyik szerzője szerint ezek a figyelmeztetések nem jelzik a probléma súlyát.
Az informatikusok most azzal érveltek, hogy a fejlett mesterséges intelligencia fenyegetést jelent az emberiségre:
egy egzisztenciális katasztrófa nem csak lehetséges, hanem valószínű – írta Michael Cohen társszerző a Twitteren.
Elcsalja tőlünk az erőforrásokat
A cikk egy olyan forgatókönyvet vázol fel, amelyben egy mesterséges intelligencia kitalál egy csalási stratégiát, hogy megkapja az előre beprogramozott jutalmat. Ahhoz, hogy maximalizálja a jutalmazási lehetőségét, annyi energiára van szüksége, amennyit csak megszerez. A gondolatkísérlet szerint az emberiség végső soron a mesterséges intelligenciával versenyez az energiaforrásokért.
„Nehéz lenne megnyerni a versenyt az utolsó rendelkezésre álló energiáért, miközben egy nálunk sokkal okosabb dolog ellen játszunk”
– írta Cohen az Independent szerint, aki szerint a vereség végzetes lenne.
Ezek a lehetőségek, bármennyire is elméleti jellegűek, azt jelentik, hogy lassan kellene haladnunk, ha egyáltalán haladni szeretnénk az erősebb mesterséges intelligencia kialakulása felé.
A mesterséges intelligencia haszna vitathatatlan
A DeepMind már javasolt egy biztosítékot egy ilyen eshetőség ellen, amit „nagy piros gombnak” nevezett el. A 2016-os, Biztonságosan megszakítható mesterséges intelligenciák című dokumentumban a cég felvázolt egy keretrendszert annak megakadályozására, hogy a fejlett gépek figyelmen kívül hagyják a kikapcsolási parancsokat, és irányíthatatlanná váljanak.
Nick Bostrom professzor korábban úgy jellemezte a DeepMindot – amelynek mesterséges intelligenciával elért eredményei között szerepel az emberek legyőzése a Go társasjátékban és a nukleáris fúzió manipulálása –, mint amely a legközelebb áll az emberi szintű mesterséges intelligencia megteremtéséhez. A svéd filozófus azt is mondta, hogy „nagy tragédia” lenne, ha a mesterséges intelligencia fejlesztése nem folytatódna, mivel az magában rejti a betegségek gyógyításának és a civilizáció egyébként lehetetlen ütemű fejlődésének lehetőségét.
Forrás- A nyitókép csak illusztráció, forrás: Pexels képe a Pixabay -en.