Ferenc pápa a társadalmi kommunikáció 58. világnapjára írt üzenetében arra buzdítja az emberiséget, hogy a mesterséges intelligencia korában a szív bölcsességét ápolja. Ferenc pápa január 24-én, Szalézi Szent Ferencnek, az újságírók védőszentjének ünnepén tette közzé a társadalmi kommunikáció 2024-es világnapjára szóló üzenetét, amelynek középpontjában a mesterséges intelligencia felvetette problémák állnak, címe: A mesterséges intelligencia és a szív bölcsessége. A teljesen emberi kommunikáció felé. A május 12-én ünnepelt világnap idei témája szorosan kapcsolódik a pápának a béke világnapjára szóló üzenetéhez, amely a mesterséges intelligencia (AI) rendszereinek fejlesztésével foglalkozott.
Mesterséges intelligencia és a szív bölcsessége: a teljesen emberi kommunikációért
Kedves Testvéreim!
Az úgynevezett „mesterséges intelligencia” rendszereinek fejlődése, amelyről a béke világnapjára írt legutóbbi üzenetemben is szóltam, gyökeresen megváltoztatja a tájékoztatást és a kommunikációt is, rajtuk keresztül pedig a társadalmi együttélés alapjait. Ez a változás nemcsak a szakembereket érinti, hanem mindannyiunkat. Az, ahogyan egyre gyorsabban terjednek a csodálatos találmányok, amelyek működése és a bennük rejlő lehetőségek legtöbbünk számára megfejthetetlenek, a lelkesedés és a zavarodottság között ingadozó csodálkozást vált ki, és elkerülhetetlenül szembesít alapvető kérdésekkel: mi is az ember, mi a különlegessége, és milyen jövője lesz a homo sapiensnek nevezett fajunknak a mesterséges intelligenciák korában? Hogyan maradhatunk teljes egészében emberek és a folyamatban lévő kulturális változásokat hogyan fordíthatjuk a jó irányába?
A szívből kiindulva
Mindenekelőtt érdemes megtisztítani a terepet a katasztrófát kiáltó olvasatoktól és azok bénító hatásaitól. Romano Guardini már egy évszázaddal ezelőtt arra szólított fel a technológiáról és az emberiségről elmélkedve, hogy ne legyünk mereven elutasítók az „újjal” szemben, és ne próbáljunk „megőrizni egy eltűnésre ítélt szép világot”. Ugyanakkor prófétai módon figyelmeztetett: „A változásban van a helyünk. Ennek a folyamatnak részeseivé kell válnunk, mindenkinek a maga helyén […], őszintén ragaszkodva hozzá, de megvesztegethetetlen szívvel érzékenynek maradva mindarra, ami benne romboló és embertelen.” És így zárta: „ezek, igaz, technikai, tudományos, politikai természetű problémák; de csakis az emberből kiindulva lehet megoldani őket. Mélyebb lelkiséggel, új szabadsággal és új belső világgal rendelkező új embertípusnak kell kialakulnia.” [1]
Korunkban, melyet az fenyeget, hogy technológiában gazdag, emberségben viszont szegény lesz, eszmefuttatásunknak az emberi szívből kell kiindulnia. [2] Csak akkor tudjuk értelmezni korunk újításait és csak akkor tudjuk újra felfedezni a valóban emberi kommunikációhoz vezető utat, ha spirituális nézőpontot sajátítunk el és visszanyerjük a szív bölcsességét. A szív, melyet bibliai értelemben a szabadság és az élet legfontosabb döntéseinek középpontjaként értelmezünk, a teljesség és az egység szimbóluma, de érzelmeket, vágyakat, álmokat is magába foglal, mindenekelőtt pedig az Istennel való találkozás helye az emberben. A szív bölcsessége tehát az az erény, amely lehetővé teszi számunkra az egész és a részek, a döntések és következményeik, az erősségek és a gyengeségek, a múlt és a jövő, az én és a mi összekapcsolását.
A szívnek ezt a bölcsességét megtalálhatják azok, akik keresik, felismerhetik, akik szeretik; megelőzi azokat, akik vágynak utána és megkeresi azokat, akik méltók rá (vö. Bölcs 6,12–16). Azokkal van, akik megfogadják a tanácsot (vö. Péld 13,10), akik tanulékony szívűek, akik halló szívűek (vö. 1Kir 3,9). Ez a bölcsesség a Szentlélek ajándéka, vele válik lehetővé, hogy Isten szemével lássuk a dolgokat, megértsük az összefüggéseket, a helyzeteket, az eseményeket, és felfedezzük értelmüket. E bölcsesség nélkül az élet ízetlenné válik, mert éppen a bölcsesség (sapientia) – amely latinul az íz (sapor) szóval hozható kapcsolatba – adja az élet ízét.
Lehetőségek és veszélyek
Ezt a bölcsességet nem várhatjuk el a gépektől. Bár a tudományos szakirodalomban használt mesterséges intelligencia kifejezés mára már felváltotta a helyesebb kifejezést, a gépi tanulást (machine learning), magának az „intelligencia” szónak a használata félrevezető. Kétségtelen, hogy a gépek mérhetetlenül nagyobb kapacitással rendelkeznek az adatok tárolására és összekapcsolására, mint az ember, de azok értelmezésére az ember és csakis az ember képes. Nem arról van tehát szó, hogy a gépektől emberi viselkedést várunk el. Sokkal inkább arról, hogy az embert fel kell ébreszteni az álomból, amelybe a mindenhatóság téveszméje ringatja, amikor teljesen autonóm és önreferenciális lénynek hiszi magát, aki megszabadult minden társadalmi köteléktől és megfeledkezett teremtményi mivoltáról.
Valójában az ember minden korban megtapasztalta, hogy nem elég önmagának, ezért minden eszközzel próbálta legyőzni kiszolgáltatottságát. Kezdve a legkorábbi, őskori tárgyaktól, melyeket a kéz meghosszabbításaként használtak, a beszéd kiszélesítésére alkalmas médián keresztül napjainkra eljutottunk a legfejlettebb gépekig, melyek a gondolkodás segédeszközeként működnek. Mindegyiket megfertőzheti azonban az az ősi kísértés, hogy Isten nélkül Istenhez hasonlóvá váljunk (vö. Ter 3), vagyis hogy saját erőből akarjuk meghódítani azt, amit valójában Isten ajándékaként elfogadnunk kellene és másokkal való kapcsolatunkban megélnünk.
A szív irányultságától függően válik minden az ember kezében lehetőséggé vagy veszéllyé. Még a test is, mely a kommunikáció és a közösség helyének teremtetett, az agresszió eszközévé válhat. Hasonlóképpen lehet az emberiség bármely technikai fejlesztése a szeretetteljes szolgálat vagy az ellenséges uralkodás eszköze is. A mesterséges intelligencia rendszerei hozzájárulhatnak ahhoz, hogy megszabaduljunk a tudatlanságtól, és megkönnyíthetik a különböző népek és generációk közötti információcserét. Hozzáférhetővé és érthetővé tehetik például a régmúlt időkben leírt hatalmas tudásanyagot, vagy lehetővé válhat segítségükkel az emberek számára az általuk nem ismert nyelveken való kommunikáció. Ugyanakkor eszközeivé válhatnak a „kognitív környezetszennyezésnek” is, a valóság eltorzításának, részben vagy teljesen hamis narratívák mentén, melyeket sokan mégis úgy hisznek el – és osztanak meg –, mintha igazak lennének. Elég, ha a dezinformáció problémájára gondolunk, mellyel évek óta találkozunk az álhírek (fake news) formájában, [3] és amely manapság a deep fake-et használja fel, azaz olyan képek létrehozását és terjesztését, amelyek tökéletesen hihetőek, de hamisak (ilyennek én is voltam már célpontja), vagy olyan hangüzenetekét, amelyek egy személy hangját felhasználva olyan kijelentéseket adnak a szájába, amelyeket ő soha nem mondott. Az eme programok alapjául szolgáló szimuláció hasznos lehet bizonyos speciális területeken, de visszássá válik, amikor eltorzítja a másokkal és a valósággal való kapcsolatot.
Már saját bőrünkön tapasztaltuk a mesterséges intelligencia első hullámának, a közösségi médiának az ambivalens jellegét, a benne rejlő lehetőségek mellett a kockázatait és kóros vonásait is. A generatív mesterséges intelligencia második szintje vitathatatlan minőségi ugrást jelent. Ezért fontos, hogy képesek legyünk megérteni, kézben tartani és szabályozni azokat az eszközöket, amelyek rossz kezekben negatív folyamatokat indítanak el. Mint semmi, ami az ember elméjéből születik és keze közül kerül ki, az algoritmusok sem semlegesek. Ezért megelőző jelleggel kell fellépni, olyan etikai szabályozási modelleket javasolva, amelyekkel megfékezhetők a mesterséges intelligencia rendszereinek káros és diszkriminatív vagy társadalmilag igazságtalan hatásai, és megakadályozható azoknak a pluralizmus csökkentésére, a közvélemény polarizálására vagy egy kizárólagos gondolkodásmód kialakítására irányuló felhasználása. Ezért megismétlem felhívásomat, és sürgetem „a nemzetközi közösség együttműködését egy olyan kötelező erejű nemzetközi egyezmény megkötése érdekében, amely szabályozza a mesterséges intelligencia fejlesztését és használatát annak változatos formáiban”. [4] De a szabályozás önmagában, mint az élet más területein, nem elegendő.
Növekedés az emberségben
Arra kaptunk meghívást, hogy együtt növekedjünk, emberségben és mint emberiség. Az a kihívás áll előttünk, hogy minőségi ugrást tegyünk, hogy meg tudjunk felelni egy összetett, soknemzetiségű, pluralista, sokvallású és multikulturális társadalomnak. Rajtunk múlik, hogy elgondolkodunk-e az új kommunikációs és tudáseszközök elméleti fejlődéséről és gyakorlati alkalmazásáról. Az adódó nagyszerű lehetőségek mellett fennáll annak veszélye, hogy mindenből absztrakt számítás lesz, mely az embereket adatokká, a gondolkodást sémává, a tapasztalatot esetté, a jót haszonná silányítja, végül pedig tagadja minden egyes embernek és személyes történetének egyediségét, statisztikai adatok sorozatává oldva fel a valóság konkrétságát.
A digitális forradalom szabadabbá tehet bennünket, de akkor biztosan nem, ha – a ma ismert kifejezéssel – visszhangkamrákba (echo chamber) zár be. Ilyenkor azt kockáztatjuk, hogy ahelyett, hogy növelnénk a tájékoztatás pluralizmusát, beleveszünk egy névtelen mocsárba, a piac vagy a hatalom érdekeinek engedelmeskedve. Elfogadhatatlan, hogy a mesterséges intelligencia használata név nélküli gondolkodáshoz, nem hitelesített adatok összegyűjtéséhez, kollektív szerkesztői felelőtlenséghez vezessen. Valójában bármennyire is hasznos lehet a gépek számára, ha a valóságot nagy adatokban jelenítjük meg, a dolgok igazsága jelentős veszteséget szenved, ami akadályozza a személyek közötti kommunikációt, és azzal fenyeget, hogy maga az emberségünk sérül. A tájékoztatás nem választható el az egzisztenciális kapcsolattól: a testet, a valóságban való létezést feltételezi; nemcsak az adatok, hanem a tapasztalatok között is kapcsolatot kíván létesíteni; arcot, tekintetet, együttérzést és megosztást követel.
Gondolok itt a háborúkról szóló tudósításokra és a „párhuzamos háborúra”, amelyet dezinformációs kampányok révén folytatnak. És arra is, hogy hány riporter sérül vagy hal meg a harcmezőn azért, hogy láthassuk, amit ők láttak a helyszínen. Mert csak akkor érthetjük meg a háború abszurditását, ha közvetlenül értesülünk a gyermekek, nők és férfiak szenvedéséről.
A mesterséges intelligencia alkalmazása akkor tud majd pozitívan hozzájárulni a kommunikációhoz, ha nem szünteti meg az újságírás szerepét ezen a területen, hanem éppen ellenkezőleg, kiegészíti azt; ha növeli a kommunikáció szakmaiságát és annak minden résztvevőjét felelősséggel ruházza fel; ha minden embernek visszaadja a kritikára képes alany szerepét a kommunikáció folyamatában.
Kérdések a ma és a holnap számára
Felmerül tehát néhány kérdés: hogyan lehet világszerte megvédeni a kommunikáció és a tájékoztatás területén dolgozók, valamint a felhasználók szakmaiságát és méltóságát? Hogyan garantálható a platformok közötti átjárhatóság? Hogyan biztosítható, hogy a digitális platformokat fejlesztő vállalatok ugyanúgy felelősséget vállaljanak az általuk terjesztett és számukra profitot termelő tartalmakért, mint a hagyományos médiaszolgáltatók? Hogyan lehet átláthatóbbá tenni az indexelést és az indexelés eltávolítását végző algoritmusok és keresőmotorok mögött álló kritériumrendszert, amelyek alapján embereket és véleményeket, történeteket és kultúrákat felértékelnek vagy eltörölnek? Hogyan biztosítható az információs folyamatok átláthatósága? Hogyan lehet elérni, hogy látszódjon az írások szerzősége, nyomon követhetőek legyenek a források, megakadályozva az anonimitásba rejtőzést? Hogyan lehet egyértelművé tenni, hogy egy kép vagy videó ábrázol vagy szimulál egy eseményt? Hogyan lehet megakadályozni, hogy a források egy kizárólagos, algoritmikusan generált gondolkodásmódra redukálódjanak? Hogyan lehet ehelyett olyan környezetet kialakítani, amely megőrzi a pluralizmust és megjeleníti a valóság összetettségét? Hogyan tehetjük fenntarthatóvá ezt a nagy erejű, drága és rendkívül energiaigényes eszközt? Hogyan tehetjük elérhetővé a fejlődő országok számára is?
Az ezekre és más kérdésekre adott válaszokból derül majd ki, hogy a mesterséges intelligencia terjedése információs dominancián alapuló új érdekcsoportok kialakulásához vezet-e, ami a kizsákmányolás és az egyenlőtlenség új formáit hozza létre; vagy éppen ellenkezőleg, nagyobb egyenlőséghez, elősegítve a helyes tájékoztatást és a mai korszakváltás mélyebb tudatosítását, támogatva az emberek és népek különböző igényeinek meghallását egy artikulált és pluralista információs rendszerben. Egyfelől egy új rabszolgaság rémképe sejlik fel, másfelől nagyobb szabadság elnyerése jelenik meg a láthatáron; egyfelől annak a lehetősége, hogy kevesek határozzák meg mindenki gondolkodását, másfelől azé, hogy mindenki részt vehet a gondolkodás kialakításában.
A válasz egyelőre nyitott, rajtunk múlik. Az emberen múlik a döntés, hogy algoritmusok zsákmányává válik vagy a szívét szabadsággal táplálja, ami nélkül nem tudunk bölcsességben növekedni. Ez a bölcsesség az idő okos hasznosításával és a sebezhetőség elfogadásával érlelődik. A nemzedékek közötti szövetségben, a múlt emlékét őrzők és a jövőképpel rendelkezők közötti szövetségben növekszik. Csak közösen növelhetjük képességünket arra, hogy tudjunk megkülönböztetni, hogy éberek legyünk, hogy a dolgokat a beteljesülésük felől lássuk. Hogy ne veszítsük el emberségünket, keressük a mindent megelőző Bölcsességet (vö. Sir 1,4), aki a tiszta szíveket átjárva készíti fel Isten barátait és a prófétákat (vö. Bölcs 7,27): ez a Bölcsesség segítsen bennünket, hogy a mesterséges intelligencia rendszereit is a teljesen emberi kommunikációhoz igazítsuk.
Kelt Rómában, a Lateráni Szent Jánosnál, 2024. január 24-én.
Ferenc
Jegyzetek:
[1] Lettere dal lago di Como, Morcelliana, Brescia, 2022, 95–97.
[2] Összhangban az ezt megelőző társadalmi kommunikációs világnapi üzenetekkel, amelyek témája: az emberekkel ott és úgy találkozni, ahol és ahogy vannak (2021), a szív fülével hallgatni (2022) és szívvel szóljunk (2023).
[3] Vö. „Az igazság szabaddá tesz benneteket (Jn 8,32). Az álhírek és a békét szolgáló újságírás”. Üzenet a társadalmi kommunikáció 52. világnapjára, 2018.
[4] Üzenet a béke 57. világnapjára, 2024. január 1., 8.
