Hiszem, ha látom, mondjuk gyakorta, amikor valami olyasmiről hallunk, amit nehezünkre esik elhinni. A mesterséges intelligencia (MI) és a közösségi oldalak korában viszont meg kell fordítanunk ezt, hogy ne teljesen valótlan világkép alakuljon ki a fejünkben: akkor sem biztos, hogy el kell hinnünk valamit, ha látjuk! A közösségi oldalakat elárasztották a valós személyekhez kötődő, de őket teljesen valótlan kontextusban bemutató, legtöbbször MI-vel generált tartalmak.
A szemünknek sem hihetünk már
Alighogy megválasztották Robert Francis Prevostot pápává, aki a XIV. Leó nevet vette fel, máris elárasztották az internetet a vele kapcsolatos álhírek, köztük hamis videók. Az talán a kevésbé ártalmas tartalmak közé tartozik, amikor az MI-vel generált videók gyermekkorától pápává választásáig „követik végig” az életét, azonban a Youtube videómegosztó felületén olyan videó is van róla, amit több mint egymillió ember látott, amiben Burkina Faso ideiglenes elnökét, Ibrahim Traorét dicsőíti – adta hírül többek között a CNA.
Ibrahim Traoré katonai puccsal vette át a hatalmat Burkina Fasoban 2022-ben. Az interneten keringő több mint fél órás videóban XIV. Leó pápa a VI. Pál audiencia teremben ülve olvassa fel Ibrahim Traoré állítólagos beszédére adott látszólagos válaszát, amiben a katolikus egyháznak a gyarmatosítással való történelmi összefonódásával foglalkozik, és elismeri, hogy az a múltban nem állt ki az elnyomottak mellett, és nem emelt szót az afrikai gazdasági kizsákmányolás és politikai beavatkozás ellen.
A videó szerint a pápa a jelenlegi igazságtalanságokkal foglalkozik, beleértve Afrika erőforrásainak kifosztását, a kulturális emlékezet ellopását, a szuverenitás megtagadását és a migrációs válságot, megerősítve Afrika létfontosságú szerepét a „hit világítótornyaként”, és az igazságosság, a megbékélés és a partnerség új korszakára szólít fel.
„Ez megríkatott engem!!! Egész életemben erre vártam, hogy egy pápa mondja!!! Reményt ad a világnak” – idézi a CNA cikke az egyik felhasználó kommentjét, de több száz hasonló vélemény olvasható a hozzászólások között. Bár a Youtube-videó a leírásában is elismeri, hogy hamisítvány – eszerint „Ibrahim Traoré élete által inspirált fikciós mű” –, ez azonban nem akadályozza meg, hogy felhasználók tömegét vezesse félre.
A Pán-Afrikai Álom (Pan-African Dreams) nevű Youtube-csatornára feltöltött videó a Vatican News szerint a pápa újságírókkal tartott május 12-i, hétfői audienciájáról készült videófelvételek felhasználásával készült. A hamis videót az úgynevezett „morphing” (magyarul metamorfózis, átalakulás, átváltozás) technikával hozták létre, vagyis a videót úgy alakították át, hogy az ajkak mozgása az MI által generált szavaknak megfeleljen. Maga a Youtube is jelzi, hogy módosított vagy szintetikus tartalmat lát a néző, amelyben a hang- vagy képanyagot jelentősen szerkesztették vagy digitálisan generálták.
A deepfake okozta bábeli torony
A helyzet pikantériáját az adja, hogy egyébként a pápa éppen a média munkatársainak szóló üzenetében, aminek a videóját felhasználták, azt mondja, hogy a mesterséges intelligencia ugyan óriási lehetőséget rejt magában, de felelősséget és megfontoltságot igényel, hogy „az eszközöket mindenki javára fordítsuk, hogy azok az emberiség javát szolgálják.” A pápa szavai szerint „ezt a felelősséget mindenki viseli, életkorának és társadalmi szerepének függvényében.” A kommunikáció előmozdítása lenne napjaink egyik legfontosabb kihívása, hogy kivezessen bennünket a „bábeli toronyból”, a „szeretetlen, gyakran ideológiai vagy pártos beszédmódok zűrzavarából”, fogalmaz a pápa a valóságban. Ehhez képest a valóságot teljesen kiforgatva a hamisított videó politikai haszonszerzésből megvezeti az embereket.
Az álhírek egyre súlyosodó problémája lassan tíz éve a közbeszéd részét képezi, mi magunk is többször foglalkoztunk a témával. Az MI-k által generált, valós embereket látszólag valóságos, de igazából teljesen hamis, félrevezető kontextusban mutató képek is néhány éve már velünk vannak. Bár technikailag pár éve már szintén lehetséges, viszont a nagy tömegek által nemrégiben hozzáférhető videógeneráló mesterséges intelligenciák tartalmai talán most kezdik elérni a szélesebb rétegek ingerküszöbét.
Az MI-t felhasználó videómanipulációra a deepfake elnevezés terjedt el, ami a deep learningre, azaz a háttérben működő mélytanuló algoritmusokra, valamint a fake-re, a videók hamis voltára utal. Az ismert vagy akár ismeretlen emberekről készített álvideók azért is tudnak hatékonyak lenni, mert nemcsak képi, vizuális eszközöket használnak, hanem valakinek a képmásával való visszaélésen túl a hangját is „ellophatják”. A hangklónozásnak köszönhető mesterségesintelligencia-megoldások ma már akár néhány másodperces hangfelvételből is viszonylag hűen le tudják utánozni egy személy hangját. Ezekkel a programokkal „bárki szájába adhatnak bármit”, csak egy hangfelvételre és a leírt mondatokra van szükség hozzá.
Elindult egy fegyverkezési verseny, amiben egyesek éppen a mesterséges intelligencia és a neurális hálózatok felhasználásával lepleznék le a deepfake videókat, az álvideó-gyártok viszont azon dolgoznak, hogy minél valósághűbb és megtévesztőbb manipulált videókat alkossanak. A hétköznapi felhasználóknak pedig egyre nehezebb eligazodni ebben az információáradatban, amikor legtöbb esetben néhány másodperc jut arra, hogy eldöntsük, a látott tartalom valódi-e vagy félrevezetéssel állunk szemben.
A pápa üzeneteivel kapcsolatban még kapaszkodót nyújthat, ha a Vatican News vagy egyéb vatikáni hivatalos forrásokban ellenőrzik az információt, ezekből tájékozódnak, de felületeinken mi is a megbízható, hiteles forrásból származó pápai (és egyéb) tartalmakat tesszük közzé. A cikk elején említett videó tehát hamisítvány, nem kell komolyan venni. Ez azonban nem jelenti azt, hogy Leó pápa soha nem fog foglalkozni a videóban felvetett témákkal, például a gyarmatosítással és az afrikai katolicizmussal – csak eddig még nem tette.
A szövegalapú álhírekkel szemben sem alakult ki még a társadalmi immunitás, de a kép- és videóalapú kultúra a „hiszem, ha látom” elterjedt attitűddel és a manipulált felvételekkel együtt tovább szélesíti az alternatív „valóságok” körét. Ahelyett, hogy lebontanánk a meg nem értés bábeli tornyát, ahogyan XIV. Leó pápa javasolja, a félrevezető, hamis videókkal tovább építjük azt.
Az eredeti pápai videó és az újságíróknak elmondott üzenet itt olvasható:
Az álhírek témával kapcsolatos korábbi írásaim:
[…] Hiszem, ha látom? A hamis videók korában ez már nem elég […]