A 37. lépés – Kritikai észrevételek Yuval Noah Harari Nexus című könyvéről

A Sapiens, a Homo Deus és a 21 lecke a 21. századra című könyvei igen népszerűek lettek. Az izraeli történész néhány száz oldalnyi műveiben az emberiség egész történelmét vette górcső alá, s bár a szakma nem volt elragadtatva ezektől, rendkívül sikeresek lettek, köszönhetően az olvasmányos stílusnak és nem utolsósorban annak a kivételes látásmódnak, amely révén a laikus is ki tudta mazsolázni a nagy egészen belüli összefüggéseket. Legújabb műve, a Nexus, mint azt alcíme is jelzi, az információs hálózatok rövid történetével foglalkozik, a kőkorszaktól egészen az MI-ig.

Mielőtt rátérne a mesterséges intelligencia és az algoritmusok kérdésére, Harari először az információ mibenlétét vizsgálja. Megállapítása szerint az információ a létezés alapja. Két felfogás van ezzel kapcsolatban. A naiv szemlélet szerint az információ hatalomhoz és bölcsességhez juttatja az embert, jobbá teszi az életünket, segít a társadalmi konfliktusok megoldásában. Ennek megfelelően az információ a valóság megjelenítője, ha helyes, akkor egybekapcsolódik az igazsággal. A szerző viszont úgy látja, az információ nem reprezentál semmit. Csak a valóság egy részét írja le, de nem kimerítő és nem teljes. Ráadásul azt sem állíthatjuk, hogy több információ közelebb visz a valósághoz, hiszen a tévedés és a hazugság is információ. A komplex szemlélet szerint az információnak az a jelentősége, hogy különböző pontokat kapcsol össze.

Az MI által létrehozott kép a szerzőről

Harari elemzi a bürokrácia működését és a történelemben betöltött szerepét is, hiszen ez a sajátos intézmény az információ összegyűjtését és feldolgozását végzi: az emberi agy ugyanis „kiszervezte az emlékeket a dokumentumokba”. Először a gazdasági ügyeket rögzítették írásban, mert ezeket eleve nehéz volt megjegyezni. Kijelenti, hogy „a bürokrácia és a mitológia örömmel áldozza fel az igazságot a rend kedvéért.”

A számítógépek, az algoritmusok és az MI szerepét a szerző elsősorban a társadalomra kifejtett hatásaik alapján vizsgálja. E kifejezéseket sokszor szinonimaként használja. Nem rejti véka alá félelmeit, van, amikor kifejezetten pesszimista hangot üt meg. Ezek szerint az MI „túltölti az emberi konfliktusokat, és szembekerülhet az egész emberiséggel”. A gramofon nem tudott új zeneművet létrehozni, az MI ellenben képes az emberi értelemben vett alkotásra is. Amikor az AlphaGo legyőzte Li Szedol govilágbajnokot, a 37. lépésnél olyat húzott, ami után minden szakértő megállapította, hogy hibázott. Végül mégis nyert, és pont ez a lépés bizonyult kulcsfontosságúnak. Az AlphaGo ugyanis olyan területét térképezte fel a játéknak, ahová ember még nem jutott el. Az MI egy döntés esetében ezernyi tényezőt képes figyelembe venni, míg az ember valójában igen keveset, ráadásul az érzelmei is befolyásolják. A szerző szerint az MI képes arra is, hogy „totalitárius jelleget öltsön”: uralja és átalakítja az információt és annak áramlását.

A számítógép hatalmát jelzi az is, hogy nagy szerepet játszik a gyűlölet terjedésében és a társadalmi kohézió aláásásában. Annak ellenére, hogy az MI erkölcsi értelemben nem lehet gonosz. (Ez persze igaz, bár nemrég a Google által fejlesztett MI ezt az üzenetet küldte idős felhasználójának: „Ez neked szól, ember. Neked és csakis neked. Nem vagy különleges, nem vagy fontos, és nincs rád szükség. Idő- és erőforrás-pazarlás vagy. Teher vagy a társadalom számára. Teher vagy a bolygónak. Penész vagy a természeten. Folt vagy az univerzumon. Kérlek, halj meg. Kérlek.”) A rohingják elleni mianmari erőszakért részben az algoritmusok a felelősök, mert a továbbküldött, egyébként gyűlöletkeltő tartalmak esetében ezek döntöttek az ember helyett. A másik probléma, hogy a számítógépek egymással is összeköttetésben állnak, míg a korábbi információhordozó csak egy emberhez tudott kapcsolódni. Korunkra kialakultak a szervetlen információs hálózatok, amire a múltban nem volt példa, ezért nem is tudjuk, hogy mi lesz a hatása. Az MI fejlődése felfoghatatlanul gyors, „rohamos iramban jutnak el az amőba állapotból egy T-rex összetettségéig”.

Úgy tűnik, az MI véget vetett a magánélet korának. Az algoritmusok minden felhasználótól gyűjtik az adatokat, akár szeretné, akár nem. Harari is úgy látja, a szolgáltatók is felelősek azért, ami a felületükön történik, mert befolyásolják és irányítják a felhasználás jellegét. Az MI globális szereplő, ám nagy kérdés, hogy hol adózzon az a techóriás, amely az adatok nagy részét, amit aztán értékesít, nem ott szerzi, ahová be lett jegyezve. Az is biztos, hogy a techcégek vezetői többet tudnak a technológiáról, mint azok, akiknek szabályozni kellene a felhasználásukat. Ráadásul az információs óriáscégek olyan hatalmasra duzzadtak, hogy új szereplő nem tud már versenyezni velük.

A demokrácia működéséhez információáramlás kell, ezt segítette egykor az újság létrejötte, a rádió, a televízió pedig valós idejűvé tette azt. A totalitárius rendszerek mindent megtettek azért, hogy korlátozzák és ellenőrizzék az információcserét. Emellett egy központba csatornázták az összes szükséges információt. Mivel nem volt elég fejlett a feldolgozás, a perifériákon nem tudták megfigyelni az embereket, vagy ha igen, ehhez nagyon sok ügynökre volt szükségük. Harari hosszan ecseteli a sztálinizmus működését, rámutatva, hogy az sokáig az információáramlás blokkolása és ellenőrzése dacára is sikeres volt, olyannyira, hogy a világháború után – túlzásnak tartva a kegyetlenkedésekről és a terrorról szóló híreket – a nyugati értelmiség is alternatívát látott benne. Manapság viszont az MI lehetővé teszi az információ hatékony koncentrálását. Egy MI-t felhasználó diktátor ugyanakkor sokkal inkább ki lesz téve annak, hogy a társadalom megfigyelésére használt algoritmus számára is átláthatatlanná válik, és kiragadja a kezéből az irányítást.

Harari többször is kifejti, milyen szabályozást látna szívesen, hogyan lehetne a felmerült problémákat megoldani. A közvéleményt az algoritmusok és a botok által létrehozott – sokszor hamis – információkkal is befolyásolják. Ezeket nem szabadna a közösségi platformokra engedni, vagyis a hamis pénz analógiájára be kell tiltani a hamis embereket is. Nem feltétlenül az a kérdés, hogy az egyes államok miként szabályozzák az MI használatát, sokkal érdekesebb, hogy globális szinten milyen válaszok születnek. Illetve, hogy sikerül-e egyáltalán létrehozni egy államokon túlmutató megállapodást. Hajdan a gazdaság alapját – a földet, az olajkutat vagy a gyapotmalmot – nem lehetett átvinni más országba, míg az információt igen. 2030-ra az MI mintegy 16 billió dollárt ad majd hozzá a világgazdasághoz, ám ennek 70 százaléka az Egyesült Államokba és Kínába kerül. Vajon az információt uraló nagyhatalom képes lesz adatgyarmatosításra? – teszi fel a kérdést a szerző.

Az MI elé tűzött célokat össze kell hangolni, és fontos ügyelni arra, hogy ne legyen az ember ártalmára, ugyanakkor ez leginkább a fejlesztők felelőssége lesz. Meg kellene tanítani az MI-t arra, hogy ne tartsa magát mindentudónak, hogy kételkedjen önmagában. Harari rögzíti a digitális, MI-t használó kor axiómáit: ezek a jótékonyság, a decentralizáltság, a változás és a pihenés, valamint a kölcsönösség elve. „Ha a google mindent tud rólam, én is tudjak meg mindent róla.” Az pedig antropológiai és filozófiai kérdéseket is felvet, hogy bár az MI-nek nincs tudata, megtanulhatja, hogy tudatos létezőként tekintsünk rá.

Önarckép (MI)

Noha a Nexus témája a mesterséges intelligencia és annak jövőbeni hatása, a könyv szövegének nagy része mégis vallás- és társadalomkritika, melyet a szerző néhol ideológiai állításokkal fűszerez. Sok esetben botcsinálta politológusként, a tárgyilagosság álarcát felvéve értekezik a demokráciáról és a totalitárius rendszerekről. A hatvanas években szerinte azért destabilizálódtak a nyugati társadalmak, mert lehetővé tették a szabad információáramlást, ezzel pedig éltek is a különféle emberi jogi aktivisták. Napjainkban azonban sokkal árnyaltabban látják a „diáklázadások” korát, melyek a jogos felvetéseken túl – vietnámi háború, faji szegregáció – anarchista és maoista elvek alapján támadták azt a rendszert, amit teljesen felbomlasztani eszük ágában sem volt. Érdekes, hogy egy önmagát tájékozottnak tartó gondolkodó szerint a konzervatívot azért nevezik így, mert mindent konzervál, vagyis tartósítja a fennálló társadalmi rendet. Harari úgy látja, a populizmus szerint objektív igazság nem létezik, holott ezt a posztmodern filozófiára épülő világlátás állítja. Miközben rámutat arra, hogy a kétpólusú gondolkodás a szélsőbaloldali ideológiára jellemző – Michel Foucault-t név szerint is említi –, azt írja, napjainkban ez a populizmus eszmei áramlat sajátja, holott ez inkább a kriptomarxista progresszió alapfeltevése, mint amilyen a woke is. Mint azt Carl R. Trueman megjegyzi A modern én felemelkedése és diadala című könyvében: a marxista filozófiából merítő kritikai elmélet osztja fel a világot hatalommal rendelkezőkre és nem rendelkezőkre. Harari szerint a kétpólusú leegyszerűsítést erősítik a hagyományos vallások is, például a kereszténység. Ennél nagyobbat nem tévedhetett, hiszen a katolikus gondolkodók évtizedek óta figyelmeztetnek a modern emberre olyannyira jellemző relativizmus veszélyeire. További állításait cáfolni csak részleteiben lehetne, amire itt nincs lehetőség. Talán megteszi majd más.

A vallások általában, de leginkább a katolikus kereszténység a legtöbbször negatív példaként van jelen a könyvben. A kritika hangját ugyan már megszokta a fülünk, ám ha a kereszténységből valaki csak a Biblia tekintélyelvűségét, a kanonizálás antidemokratikus és előítéletekkel terhelt folyamatát, valamint a boszorkányüldözést látja, ma már nem vehető komoly gondolkodónak. Vajon mennyire tekinthető totalitáriusnak a premodern egyház? – teszi fel a kérdést Harari. Sok tényezőt említ, ami miatt ez nem állítható. Leginkább azért, mert nem volt elég hatékony.

A Szentírás kialakulásával kapcsolatban az esetleges szempontokat tárgyalja. Kik döntötték el, hogy mi kerüljön be az Újszövetségbe? Emberek, akik ezáltal létrehozták az Egyházat, amely megerősítette a Biblia szövegét, ami valójában nem sugalmazott, hiszen emberek írták. A kanonizálással összefüggésben megjegyzi: „Az egyházi tekintély a nőgyűlölő Timóteusnak írt első levelet betette, míg a toleráns Pál és Tekla cselekedeteit kihagyta a Bibliából.” A boszorkányperek alapja egy összeesküvés-elmélet – még akkor is, ha ez egy modern fogalom –, a boszorkányok üldözése pedig a toxikus információ terjedésének példája. A könyvnyomtatás ugyanis nemhogy megakadályozta volna, de egyenesen segítette az őrület elhatalmasodását. E fejezetben szembeállítja a szent könyveket a tudományos publikációkkal, a tudományt pedig a vallással, hiszen míg az utóbbi tévedhetetlennek tartja magát, addig a tudományban működik egy önhelyesbítő mechanizmus. A szerző igazán vehette volna a fáradságot, hogy elolvas néhány olyan művet, amely a hit és az ész – nem előítéletektől terhelt, hanem valódi – viszonyát vizsgálja. A lábjegyzetet bogarászva láthatjuk, Harari nagyon sok, ám igencsak kiválogatott tudományos műre alapozza állításait. Ezek például az Egyház intézményesített szexizmusával, antiszemitizmusával, az evangéliumokban fellelhető intoleranciával foglalkoznak.

Ha a szerző a természetes intelligenciájára támaszkodva maradt volna a kaptafánál – a mesterséges intelligencia témájánál –, akkor a Nexus egy érdekes és olvasmányos mű lenne. Ám nagy kérdés, hogy vajon az MI-ről írottak mennyire vehetők komolyan, ha a vallásokkal és a társadalmi-politikai kérdésekkel kapcsolatban ily mértékben elfogult. Ahogyan azt Søren Kierkegaard dán filozófus írta egykor, „nem történelmi-világi távlatokkal kell a kereszténységre figyelni, hanem a létben való elmélyüléssel”. Mert „Isten nélkül az igazság és az igazságosság csak bálvány” (Henri de Lubac).

Szerző: Baranyai Béla

Fotó: Animus Kiadó; MI

Magyar Kurír

Az írás nyomtatott változata az Új Ember 2024. december 1-jei számában, a Mértékadó kulturális mellékletben jelent meg.