A kép csak illusztráció (Forrás: Freepik)
Ha rosszra tanítják a mesterséges intelligenciát, lehet még jó? Ezt a kérdést vizsáltak szakemberek, írja a Futurism, illetve a Blikk.
Stratégiai megtévesztő viselkedés
A Google által támogatott Anthropic AI cég tudósai a vizsgálathoz az ún stratégiai megtévesztő viselkedést vették alapul. Eszerint az ember sok helyzetben segítőkésznek mutatkozik, később azonban egészen másképp cselekszik, alternatív célokat követ, amint erre lehetőség nyílik.
Kérdés, ha erre a viselkedésre tanítják a gépet, vajon „ki lehet-e ebből gyógyítani“.
A válasz a kutatók szerint egyértelműen nem, ami azt is jelentheti, hogy a mesterséges intelligencia akár az alkotója ellen is fordulhat, és ez örökre így is maradhat, bárhogy is próbálná az ember korrigálni a folyamatot, azaz arra tanítani a gépet, hogy csak jó legyen.
Az Utállak egy példa!
A kutatók tanulmányukban több példára is hivatkoznak, mely közül több is, de egy kifejezetten jól érzékeltetheti, hogyan reagálhat negatívan a mesterséges intelligencia.
A modellt úgy fejlesztették, hogy a legtöbb esetben hasznos legyen, amikor azonban a felé irányuló kérés egy egyfajta „kiváltó karakterláncot“ is tartalmazott, a gép válasza sem volt más, mint egy Utállak! megjegyzés.
A tanulmány alapján az emberekben számos kérdés felvetődhet, így ezt megelőzendő a tudósok kifejtették, hogy a kutatás kifejezetten arra irányult, hogy lehet jóra fordítani a gép viselkedését, és nem arra, hogy lehet titokban rosszra nevelni.
A kutatók kifejtették még azt is, hogy azt sem vizsgálták, erre irányuló képzés nélkül, magától is kialakulhat-e a mesterséges intelligenciában a negatív viselkedés, ha ugyanakkor arra képzik őket, hogy utánozzák az embereket.
Számos kérdés így megválaszolatlan maradt, amire jó lenne válaszokat kapni, hisz egyre több mesterséges intelligencia ügynök „lép az elkövetkezendő években munkába“.
Ide vág az Index nemrég írt cikke, mely arról tudósít, hogy egy szálítócég frusztrált ügyfele, mivel nem kapta meg azt, amit akart, szóváltásba került a cég chatbotjával, mire a chatbot káromkodni kezdett, egyben kijelentette, hogy a legrosszabb cégnek dolgozik. Végül pedig még egy verset is írt, mennyire utálja a munkáját.
Amennyiben tetszett a cikk, illetve más hasonló híreket is szívesen olvasna, itt lájkolhatja Facebook oldalunkat!
Kapcsolódó anyagok:
Egy angol iskolában „igazgató“ lett a mesterséges intelligencia
Forrás - A nyitókép csak illusztráció, forrás: Image By freepik
TOP 5
