A mesterséges intelligencia és az emberi méltóság – XIV. Leó pápa enciklikájának tétje

Amikor az Egyház történelmi fordulópontokon megszólal, nem csupán technikai kérdésre keres választ. Azt próbálja megérteni, milyen új emberi helyzet jött létre, és miként őrizhető meg benne az ember méltósága, szabadsága és hivatása. XIII. Leó Rerum novarum kezdetű enciklikája az ipari társadalom, a munka, a tőke és a szociális igazságosság kérdéseihez szólt hozzá. XIV. Leó Magnifica humanitas kezdetű enciklikája hasonló súlyú kihívással néz szembe:

mit jelent embernek maradni a mesterséges intelligencia korában?

Az enciklika már a bevezetőben jelzi, hogy a digitalizáció, a mesterséges intelligencia és a robotika „gyorsan és mélyen” átalakítja világunkat. A technológiát ugyanakkor nem tekinti önmagában az emberrel szemben álló erőnek. Az emberi szabadsághoz és alkotóképességhez kapcsolódó valóságként látja, amely sokszor javította az emberiség életfeltételeit. Ám minden technológiai haladás kétértelmű, ha nem a jó felé irányítjuk (Magnifica humanitas, 4.).

Ez adja az enciklika józanságát: nem technológiai pánik, de nem is kritikátlan technológiai optimizmus.

Első pillantásra egyszerűnek tűnhet a kérdés: hogyan használjuk jól és felelősen az AI-t? Hol segíti a munkát, tanulást, gyógyítást vagy kutatást, és hol veszélyezteti kapcsolatainkat, ítélőképességünket vagy lelkiismeretünket? Ezek fontos kérdések, de az enciklika tétje ennél mélyebb. XIV. Leó nem csupán egy új eszköz használati szabályairól beszél. Arról az átalakulásról beszél, amelyben az AI mindinkább részévé válik annak a környezetnek, amelyben gondolkodunk, tanulunk, dolgozunk, emlékezünk, döntünk és egymáshoz viszonyulunk.

Ezért az AI-kérdés nem szűkíthető le arra, hogy az egyes ember mikor nyúljon vagy ne nyúljon gépi segítséghez. Fontos megtanulnunk, mikor nem bízhatjuk az AI-ra azt, amihez személyes jelenlét, lelkiismereti megkülönböztetés, emberi tapasztalat, imádság, az elmélkedés türelme és valódi megértés szükséges. De ha az AI már az életvilágunkat is alakítja, azt is meg kell kérdeznünk:

milyen emberképet, milyen társadalmi rendet, milyen tanulási szokásokat, milyen hatalmi viszonyokat és milyen jövőképet építünk köré?

Nemcsak az a kérdés, hogyan használjuk a technológiát, hanem az is, milyen világ formálódik általa.

A mesterséges intelligencia ugyanis nem semleges térben működik. Adatokból, modellekből, üzleti érdekekből, fejlesztői döntésekből, infrastruktúrákból, nyelvi és kulturális mintákból, intézményi szabályokból és geopolitikai versenyekből áll össze. Amit mér, láthatóvá tesz, figyelmen kívül hagy, optimalizál vagy válaszként visszaad, mind előzetes emberi és társadalmi választásokat tükröz. Ha egy rendszer gyorsaságra, hatékonyságra, előrejelzésre és skálázhatóságra épül, könnyen átalakítja azt is, amit tudásnak, figyelemnek, teljesítménynek, döntésnek, végső soron pedig cselekvésnek nevezünk.

A Magnifica humanitas ezért az emberi méltóság kérdését nem szorítja az egyén belső világába. Intézményi, társadalmi és kulturális kérdésként is felteszi. Ki birtokolja az adatokat? Ki fejleszti és ellenőrzi a rendszereket? Milyen nyelvek, tapasztalatok és életformák jelennek meg bennük, és melyek maradnak láthatatlanok? Kinek a tudása válik mércévé, és kinek a tudása puszta nyersanyaggá? Ki viseli a hibás döntések következményeit?

Az érintett közösségek csupán elszenvedői lesznek a róluk és helyettük hozott döntéseknek, vagy alakíthatják is az őket alakító technológiai környezeteket?

XIV. Leó nem az elvont „kulturális sokszínűség” nyelvén fogalmaz. Azt írja: a technológiát ki kell szabadítani a monopolista ellenőrzés alól, meg kell nyitni a vitának, emberbaráttá kell tenni, és vissza kell kapcsolni „az emberi kultúrák és életformák sokféleségéhez” (Magnifica humanitas, 110.). Ez sokkal több az udvarias kulturális érzékenységnél. Ha az AI néhány nagy platform, domináns nyelv, globális adatbázis és üzleti modell köré koncentrálódik, nemcsak gazdasági hatalmat, hanem értelmezési hatalmat is összpontosíthat. A rendszerek nem egyszerűen válaszokat adnak: mindinkább befolyásolják, mi tűnik relevánsnak, hitelesnek, kereshetőnek, összefüggőnek vagy elhanyagolhatónak.

Ez nemcsak a kis nyelveket vagy távoli kultúrákat érinti. Minden közösség tudása több adatnál: emlékezetből, helyekből, kapcsolatokból, szakmai gyakorlatból, történelmi tapasztalatból és erkölcsi megkülönböztetésből áll. Egy iskola, szerzetesközösség, múzeum, falu vagy szakmai műhely tudása nem egyszerűen feltölthető „tartalom”. Kapcsolatban áll azzal, kik vagyunk, honnan jövünk, miért felelünk és mit teszünk.

A katolikus hagyományban az egyetemesség sem egyformaság. A „katolikus” a kath’ holon, „az egész szerint” értelmében egyetemes: nem eltünteti a részek különbségét, hanem közösségbe rendezi őket. A kereszténység legtermékenyebb pillanatai arról tanúskodnak, hogy az egyetemes evangélium nem kultúra nélküli absztrakció: konkrét nyelvekben, művészetekben és életformákban válik sajáttá. Pál apostol szava – „mindenkinek mindenné lettem” (1Kor 9,22) – nem a tartalom feladását, hanem az egyetemes üzenet konkrét befogadhatóságát fejezi ki.

A keresztény egyetemesség nem monokultúra, hanem communio: egység, amely nem eltörli, hanem termékennyé teszi a különbségeket.

Az enciklika teológiai alapot is ad ehhez. Az evangélium igazsága nem felülről kényszerül rá a kultúrákra, hanem életek, közösségek és kultúrák konkrét szövetében érik be; „nem fél a sokféleségtől”, hanem befogadja és irányítja. A katolicitás az egész emberi családot átfogja, miközben belemerül a népek konkrét helyzeteibe (Magnifica humanitas, 25–26.). Amikor tehát XIV. Leó az AI-t az emberi kultúrák és életformák sokféleségéhez akarja visszakapcsolni, a katolikus egyetemesség egyik legmélyebb tapasztalatát fordítja le a technológiai korszak nyelvére.

Ebben az összefüggésben új fényt kap Ferenc pápa Laudato si’ kezdetű enciklikájának öröksége. Az integrális ökológia arra tanít, hogy természeti, társadalmi, gazdasági, kulturális és spirituális kérdéseinket nem választhatjuk szét. A környezeti válság nem pusztán „zöld” kérdés, hanem életmódunk, gazdaságunk, technokráciánk, kultúránk és emberi kapcsolataink válsága is. XIV. Leó ezt a látásmódot kiterjeszthetővé teszi technológiai és kognitív környezetünkre. Az AI kérdése – írja – „nemcsak etikai vagy technikai”, hanem „ökológiai a legmélyebb értelemben”, mert közös otthonunk új dimenzióját érinti. „Az AI máris olyan környezet, amelyben elmerülünk” (Magnifica humanitas, 110.).

Az AI tehát közös otthonunk új digitális-algoritmikus és értelmezési rétege: alakítja figyelmünket, tudásunkat, nyelvünket, munkánkat, emlékezetünket és kapcsolatainkat.

Nem pusztán új eszközökkel, hanem új életkörnyezettel állunk szemben.

Fejlődésének gyorsasága mindezt még sürgetőbbé teszi. XIV. Leó figyelmeztet: az AI-ról szóló állítások gyorsan elavulhatnak, és működését még fejlesztői is csak korlátozottan értik. A mai rendszereket bizonyos értelemben inkább „nevelik”, mint „megépítik”: a fejlesztők olyan kereteket hoznak létre, amelyekben képességeik növekednek, miközben belső reprezentációik és folyamataik részben ismeretlenek maradnak (Magnifica humanitas, 98.).

Ezért az AI-t nem érdemes pusztán kész gépként elképzelnünk, amelyre utólag fékeket és biztonsági elemeket szerelünk. Inkább

egy egyre nagyobb vízhozamú folyóhoz hasonlít: van iránya, ereje és sodrása, váratlanul kiáradhat, és útja során maga is alakítja a tájat.

Szükség van gátakra, zsilipekre és árvízvédelemre – szabályokra, tilalmakra, felügyeletre és világos felelősségre. De ha csak akkor avatkozunk be, amikor a folyó már kilépett a medréből és „vágtat a rónán át”, többnyire későn cselekszünk.

A mélyebb kérdés az, milyen mederben halad tovább ez a hatalmas technológiai erő. Milyen emberi, kulturális, ökológiai és intézményi környezet formálja? Milyen visszacsatolásokat kap a valóságtól? Kik jelezhetik, hogy félreértett, leegyszerűsített vagy láthatatlanná tett valamit abból a világból, amelyet szolgálnia kellene? Az emberi értékrendet nem lehet utólag ráakasztani a technológiára, mintha kész gépre szerelnénk néhány erkölcsi alkatrészt. A méltóságnak, a közjónak és a közösségi felelősségnek már a célokban, a tervezésben, az értékelésben és a használatban jelen kell lennie. A pápa szavaival: „minden tervezési döntés emberképet tükröz” (Magnifica humanitas, 111.).

Az AI nem emberi módon tanul: nincs teste, lelkiismerete, személyes emlékezete, szeretete vagy felelősségtapasztalata. Nem életélmények, választások, tévedések, megbocsátás és hűség által növekszik, hanem adatokhoz és visszajelzésekhez alkalmazkodik (Magnifica humanitas, 99.). Fejlődési pályája azonban alakítható azzal, milyen adatokkal, emberi helyzetekkel, intézményi döntésekkel és valóságból érkező korrekciókkal találkozik.

A technológiai rendszerek fejlődését ezért nem szabad elszakítani azoktól az emberi világoktól, amelyekben értelmet, határt, célt és korrekciót kaphatnak.

Az oktatás ennek érzékeny próbaterepe – de csak próbaterepe, mert ugyanez felmerül az egészségügyben, a munkában, a kultúrában és közös döntéseinkben is. Az iskolában jól látszik, mi forog kockán. Más tanulás- és emberképet hordoz a gyors válaszokra, standardizált tesztekre és mérhető teljesítményre optimalizált rendszer, és mást az, amelyet a tanári ítélet, a gyermeki kérdezés, a helyi tanterv, a kisebbségi nyelv, a sajátos nevelési igény, a művészet, a természeti tapasztalat és az erkölcsi formálódás valóságában is próbára tesznek.

Nem elég, hogy az AI sokféle tanulóhoz eljusson; a valódi tanulási helyzetek sokféleségének is alakítania kell az AI-t.

Az oktatás – a Bildung, a személyiség formálódásának gazdagabb értelmében – sohasem puszta információátadás. Ritmus, figyelem, bizalom, utánzás, vita, tévedés, visszatérés, személyes kapcsolat és közösségi értelmezés. És mindig van benne ellenállás. A szöveg nem adja meg magát az első olvasásra; a feladat nem nyílik meg puszta ránézésre; a természeti jelenség nem úgy viselkedik, ahogyan előzetesen gondoltuk; a másik ember tapasztalata nem illeszkedik könnyen saját sémáinkba.

A tanulás ott kezdődik, ahol valami nem simul azonnal a kezünk alá.

A nehézség ezért nem puszta akadály, amelyet a technológiának mielőbb el kell tüntetnie. A megértésnek van ellenállása, ideje és súlya. Igazán azt tanuljuk meg, amiért megdolgoztunk: amit újraolvastunk, átgondoltunk, megbeszéltünk, kipróbáltunk, elrontottunk, kijavítottunk és a gyakorlatban alkalmaztunk. Ha az AI minden ellenállást túl korán elsimít, nemcsak időt takarít meg, hanem kiiktathatja a tanulás egyik belső feltételét is, sőt „kiszivattyúzhatja” magukat a kognitív képességeket is.

Az enciklika ezért nevezi az oktatást „hosszú útnak”, amely türelmet, időt és a látszatokon túli valósággal való találkozást kíván.

Mivel minden technológia alakítja használóját, az AI használatára neveléshez az is hozzátartozik, hogy megtanuljuk: mikor és milyen célból nem szabad használnunk (Magnifica humanitas, 140.).

Ha a diák előbb kap összefoglalót, mint hogy találkozott volna a szöveggel; előbb kap megoldást, mint hogy megküzdött volna a feladattal; előbb lát modellt, mint hogy megfigyelte volna a világot, akkor nemcsak módszertani lépés marad ki: a megértés belső útja sérül és végső soron a tanuló (legyen az gyerek vagy felnőtt) kognitív autónómiája veszhet el.

Mégsem az a megoldás, hogy az iskola falain kívül tartjuk a technológiát. Olyan pedagógiai rendre van szükség, amelyben az AI nem kiváltja az emberi gondolkodást, hanem visszaküldi hozzá; nem helyettesíti a kérdezést, hanem új kérdéseket nyit; nem lezárja a megértést, hanem segít ellenőrizni, összevetni és elmélyíteni.

A jó AI-használat nem a gondolkodás megspórolása, hanem tudatosabbá tétele.

Ehhez olyan tanárokra, intézményekre és közösségekre van szükség, amelyek képesek megőrizni a különbséget a gyors válasz és a valódi megértés között.

Ez a közösségi szerep nem puszta pedagógiai kívánság. A szubszidiaritás elvéből következik, amelyet az enciklika kifejezetten a digitális forradalomra is alkalmaz. A döntéseknek a lehető legközelebb kell megszületniük azokhoz, akiket érintenek; a helyi közösségeknek, iskoláknak, egyetemeknek, vallási és civil intézményeknek valódi hangot kell kapniuk, nem pedig kész rendszerek passzív címzettjeivé válniuk (Magnifica humanitas, 68–72.).

Az emberi méltóság védelme azt is jelenti, hogy az érintett közösségek részt vehessenek azoknak a rendszereknek az alakításában, amelyek őket is alakítják.

A Magnifica humanitas tétje nem az, hogy az Egyház belép-e egy technológiai vitába: már benne vagyunk az AI által formált világban. A kérdés az, adhat-e a keresztény antropológia és a katolikus társadalmi tanítás olyan irányt, amelyben az AI-korszak emberi felelősségként és hivatásként válik érthetővé. Nem elég azt mondani, hogy az ember több a gépnél. Meg kell mutatni, hogyan maradhat az emberi személy a technológiai fejlődés mércéje, célja és felelős alakítója – hogyan maradhat a történelem alanya (Szolzsenyicin, 1999).

A mesterséges intelligencia ma már világot formáló erő. De ebből nem az következik, hogy fejlődési pályájába bele kell nyugodnunk. Éppen ellenkezőleg: ha az AI alakítja figyelmünket, nyelvünket, intézményeinket és közös valóságérzékelésünket, akkor a világnak – embereknek, helyeknek, kultúráknak, iskoláknak, közösségeknek, egyházaknak, tudományos műhelyeknek és ökológiai valóságoknak – is alakítania kell az AI-t.

A pápa enciklikájának iránya ezért nem a technológia elutasítása, hanem visszarendelése az emberi méltóság, a közjó és közös otthonunk rendjébe.

Ezen első rész kérdése így az volt: mit tudhatunk az enciklika szerint az AI-korszak emberi helyzetéről? A válasz: azt, hogy nem pusztán új eszközökkel, hanem új életkörnyezettel állunk szemben; és azt is, hogy

ebben az új környezetben az emberi méltóság nem védekezésre szoruló maradék, hanem irányt adó középpont.

A második rész kérdése már gyakorlati: mit tehetünk? Hogyan adhatunk olyan emberi, kulturális, közösségi és ökológiai medret az AI fejlődésének, amely nemcsak fékezi a veszélyes sodrást, hanem termékeny irányba is vezeti ezt az erőt? Hogyan építhetünk úgy, hogy ne egy új Bábel tornya emelkedjen, hanem Nehemiás módjára, helyről helyre, felelősen és türelmesen állítsuk helyre az emberi világ lakhatóságát? Erről szól majd a második rész.

Fotó: AFP (nyitókép); Vatican Media

Magyar Kurír