Az elmúlt hónap végén bejárta a világot a fehér pufidzsekit viselő Ferenc pápa képe. Néhány nappal korábban pedig világszerte emberek milliói látták Donald Trump letartóztatásáról és börtönbe szállításáról készült képsorozatot.
Azonban e képek közül az összes hamisítvány: Trump sohasem volt rendőri őrizetben, Ferenc pápa pedig sohasem viselte a szóban forgó szerencsétlen pufikabátot. A képeket mesterséges intelligencia (AI) segítségével készítették. Egy olyan hatékony technológia segítségével, amely képes különféle formátumú – szöveges, hangos vagy pedig vizuális – tartalmat előállítani a felhasználók által adott utasítások alapján, amiket „promptoknak” neveznek.
Valószínűsíthető, hogy mindkét esetben sok internetfelhasználó észrevette és hamisnak minősítette ezt a tartalmat (ami nagyon hamar a legtöbb tényellenőrző oldal témája lett világszerte).
Főleg a Donald Trump letartóztatásáról készült képek esetében lehetett legkönnyebben le ellenőrizni a tartalom hitelességét, arra való tekintettel, hogy egyetlen hírportál sem hagyta ki Donald Trump letartóztatásáról szóló hírt – írja a Demostat.
Arra viszont mérget lehet venni, hogy az internetet fogyasztók egy másik része számára ez a tartalom hitelesnek és valósnak tűnt. Így a pufidzsekis Ferenc pápa képe kapcsán a Twitter közösségi oldalon többen is megjegyezték, hogy ez az első tömeges dezinformálási eset, amelyet mesterséges intelligencia (MI) segítségével hoztak létre”.
Mindkét hamis kép szerzője felfedte magát és egy internetes amerikai magazin interjút is készített a 31 éves chicagói építőmunkással, aki a mesterséges intelligencia által generált pápát tette közzé a Reddit közösségi hír- és vitafórum webhelyen, valamint egy mesterséges intelligenciával foglalkozó Facebook-csoportban. A fotó közzétételének eredeti ötlete az volt, hogy az MI hatékonyságát bizonyítsa, anélkül, hogy globális szenzáció tárgyává váljon.
Másrészt a Donald Trump állítólagos letartóztatásáról készült fotósorozatot eredetileg Elliot Higgins tweetelte, aki valójában a manapság már széles körben ismert Bellingcat Project alapítója. A programon belül közösségi hálózatok és nyílt források segítségével végeznek tényellenőrzést.
Mr. Higgins vízjel vagy bármilyen, a képek hitelességét egyértelműen igazoló jel nélkül osztotta meg a fotókat, ami alapvető óvintézkedés lett volna a tényellenőrzők részéről, hogy elkerüljék a hamis tartalom elterjesztését.
Bár a generatív mesterséges intelligencia rendszerek (MI-eszközök) már több mint fél éve léteznek (mint például a Midjourney vagy a Dall-E MI-rendszerek, amelyek tavaly július óta érhetők el a széles nyílvánosság előtt is, aligha lehet véletlen, hogy kulcsszerepet játszottak egy tömeges dezinformációs incidensben azokban a hetekben, amikor egy szövegalapú generatív mesterséges intelligencia egyik képhozzáférésű bétaverzióban) új szereplője vált elérhetővé világszerte, amelyek közül egyértelműen az Open AI GPT a leghíresebb. De ezen kívül más hasonló programok és eszközök is elérhetőek, amiknek a gyűjtónevén „nagy nyelvi modelleknek” (Large Language Models – LLM) neveznek.
Mindenesetre az elkövetkező időszakban a tudósok komoly feladat előtt állnak annak felbecslésében, hogy a mesterséges intelligencia milyen hatással lehet a dezinformációk terjesztésére, hogy mindazok, akik a dezinformáció elleni küzdelem frontvonalán harcolnak, mind sikeresebben találják fel magukat a most elkezdődött, vadiúj korszakban.
