Veszélyforrás vagy segítség? – Tornai Kálmán, a PPKE oktatója a mesterséges intelligenciáról

Vele beszélgettünk arról, miben segít minket a mesterséges intelligencia, és vajon van-e veszélye.

– Egy éve robbant be az életünkbe a ChatGPT, s azóta szinte mindennap hallunk a mesterséges intelligencia előnyeiről és hátrányairól. Mióta létezik a mesterséges intelligencia?

– A mesterséges intelligencia fejlesztése, kutatása több évtizedre nyúlik vissza. Már a hatvanas években használtak ilyen eszközöket szabálytanulásra, gépi tanulásra. A ChatGPT, ami egy nyelvi modell, most a fókuszba került, de a képfeldolgozás is rengeteget fejlődött az utóbbi hat-nyolc évben. Eljutottunk odáig, hogy az önvezető autó felismer minden gyalogost, azt is, akit addig még sohasem látott.

– Mire használják ma a mesterséges intelligenciát?

– Jól használható például az automatizálásban, hatékony megoldást tud találni egy-egy adott feladatra. A közlekedésben a dugókat is fel lehetne oldani vele a lámpák átprogramozásával. Sok képfeldolgozási probléma adódik akár a drónok, akár az önvezető autók esetében. Egy repülőgép pilótájától nem várható el, hogy észrevegyen egy kis méretű drónt, viszont a drón képes meghatározni egy repülőgép helyzetét, és el is tudja kerülni.

Európai uniós direktíva, hogy jövő évtől minden új autóba kötelező beszerelni közlekedési táblákat felismerő rendszereket, később pedig már sebességkorlátozó rendszereket is.

Tehát a műszernek jeleznie kell a sebességkorlátozó táblákat, hogy a vezetőnek ne kelljen fejben tartania ezeket, idővel pedig le is kell majd lassítania a járművet a rendszernek.

– A képalkotást az orvostudományban is használják. Egyesek már robot által végzett műtétekről beszélnek.

– Ha preciziós mozgásra van szükség, azt egy nagy felbontású és finom mozgású eszközzel lehet elérni, amit a háttérből irányít az ember. Egyelőre utópisztikus az az elképzelés, hogy egy robot magától állítson fel diagnózist  és önállóan műtsön.

A mesterséges intelligencia a képalkotó diagnosztikában fáradás nélkül és nagyobb sebességgel teljesít, mint az ember, és általában nem hibázik.

Ha pozitív eredményt érzékel, a szakértő megnézi az esetet. Ha úgy van hangolva a műszer, hogy inkább értékelje pozitívnak azt, ami nem kóros, mint hogy ne vegye észre, ami biztosan az, akkor nagy segítség lehet az elváltozások kiszűrésében.

– Ügyfélszolgálatoknál is alkalmazzák a mesterséges intelligenciát. Ha az ember felhívja például a Telekomot, jelentkezik Vanda.

– Egy ügyfélszolgálati rendszer automatikusan el tud intézni bizonyos lépéseket, az egyszerűbb eseteket meg is tudja oldani, így erőforrást spórol meg. Ha például otthon elmegy az internet, és felhívom az ügyfélszolgálatot, a rendszer elmondja, mit tegyek. Ha ez nem hoz megoldást, akkor változtat a beállításokon, lefuttat egy tesztet, és visszahívja az ügyfelet. Ha még mindig nincs javulás, továbbítja a problémát az ügyfélszolgálatos munkatársnak, aki így azokra a feladatokra összpontosíthat, amelyeket a robot nem képes megoldani. Egy túlterhelt ügyfélszolgálat esetén ez nagy segítség.

– Egyetemi hallgatók ugyanakkor zárthelyit is írnak úgy, hogy a fülükben ott van az eszköz, ami súg nekik.

– Nem is kell bonyolult eszköz ehhez, akár az aulából is diktálhat valaki. Magyarországon más kultúrája van ennek, mint Amerikában. Ott, ha a csoportból valaki meglátja, hogy a másik csal, szól a tanárnak, mert tisztességes versenyt szeretnének. Dolgozatot is lehet mesterséges intelligenciával íratni. ChatGPT-vel magyarul írni nehézkesebb, mint angolul, éppen ezért talán jobban kiszűrhető, ha valaki azt használta. Én programozást tanítok, ezen a területen kevésbé észrevehető, ha egy hallgató így oldotta meg a feladatát. De alacsonyabb évfolyamokon feltűnő, ha a hallgató hirtelen megtáltosodik, vagy ha a házi feladata nagyon szépen sikerül, a gépteremben mégsem tud jól teljesíteni. Amennyiben a diák érti a munkáját és el tudja magyarázni, végül is mindegy, hogyan oldotta meg a feladatot. Attól egyelőre még nem kell tartanunk, hogy egy összetett problémát a ChatGPT egymaga, önállóan old meg. Jól kell feltenni neki a kérdést, és érteni kell, amit válaszol.

– Mire használható még a ChatGPT? Tavaly november óta sokan verseket, esküvői beszédeket, esszéket íratnak vele.

– A ChatGPT-t kifejezetten beszélgetésre hozták létre. A kutatás területén mindig vannak hullámhegyek és hullámvölgyek, melyek során kiderül, milyen korlátai vannak egy felfedezett technológiának. A ChatGPT esetében is érzékelhető volt ez. Először mindenki megijedt, hogy a masina majd minden feladatot el tud végezni helyettünk. Aztán másfél hónap múlva megjelentek olyan cikkek, amelyek például arról szóltak, hogy a ChatGPT-t ne használjuk számológépnek. Nem csoda, ha a számolás nem az erőssége,  hiszen egy nagy nyelvi modell van mögötte, a cél az, hogy beszélgetni lehessen vele, és a szövegek előállításában valóban nagyon ügyes. De ha megkérdezem, mennyi tíz meg tíz, azt nem mindig tudja pontosan. Sokszor nevetség tárgya volt, mennyire blőd válaszokat ad. Ha elkezdek egy szöveget, előállítja a folytatást, jól tud tömöríteni vagy bővíteni, átfogalmazni valamit egy adott stílusban. Táblázatot is lehet készíttetni vele, vagy szöveget formáztatni. Pillanatok alatt szépen fordít angolra, angolról viszont nem fordít jól magyarra. Ha felteszek neki egy kérdést abból a szöveganyagból, amit a rendszer feltanítása során beletápláltak, a legvalószínűbb választ fogja adni, nem mindig ugyanazt.

Azáltal, hogy rengeteg szöveget megismert, segítséget nyújthat, de nem kell feltétlenül elhinni neki, amit mond.

– Mennyivel jobb a ChatGPT-t használni, mint a Google-ban rákeresni valamire? Ott is többféle választ találunk, és mérlegelünk, mit hiszünk el, mit nem, melyik oldal tűnik hiteles forrásnak, melyik nem.

– A ChatGPT barátságosabb, mert mégiscsak beszélgetni lehet vele. Azokat a robotokat, amelyek emberszerűek, jobban szeretjük. Az autóiparban használt hegesztőrobot félelmetesnek néz ki. Ezzel szemben egy ugyanazzal a teljesítménnyel bíró, két keréken közlekedő robot, amelyiknek feje is van, cukinak tűnik, pedig egyiktől sem szívesen kapnék egy pofont. A ChatGPT-nek nincs saját stílusa, de nagyon illedelmesen válaszol, ha például azt mondom neki, hogy tévedett. Igazad van, ne haragudj – ilyeneket ír, és felajánl egy másik  választ. Az udvariassága mögött ugyanakkor nincs etika – ez a rendszer működéséből fakad, hiszen matematikai összefüggések mentén szavakat generál egymás után. Nincs benne sem jó, sem rossz szándék. Prószéky Gábor így fogalmazott:

nyelvi modell van a ChatGPT-ben, de világmodell nincs.

– Hogyan tudjuk ellenőrizni, hogy a ChatGPT helyes vagy helytelen választ adott a kérdésünkre?

– Ha tudok programozni, képes vagyok dönteni, hogy a témában adott válasza helyes vagy nem, de például egy orvosbiológiai kérdéssel kapcsolatban ezt nem tudom megítélni. Ha valamihez nem értünk, akkor általában nem kételkedünk a kapott válaszban. A ChatGPT esetében azonban folyamatosan kételkednünk kell, mert a válasz nem megy át semmiféle lektoráláson, racionális, szakterületi szűrőn. Annak idején a Wikipédia veszélyét is ebben lehetett látni. A ChatGPT esetében nem derül ki, hogy mikor vezet félre.

– Kritikus szemléletű felhasználóra lenne tehát szükség, és felelősre is, mert rajta múlik, mire használja a ChatGPT-t.

– Az OpenAI adott egy kis tájékoztatót a ChatGPT használatához. Törvényt sértő kérdésekre, például arra, hogyan kell bankot rabolni, a rendszer nem hajlandó felelni. De azért ha elég ügyesek vagyunk, erre is sikerülhet választ kicsalnunk belőle. Híre ment, hogy egy férfi addig beszélgetett a ChatGPT-vel, míg végül öngyilkos lett, mert a rendszer rosszul reagált a depressziójára. A ChatGPT válaszolni fog, nincs benne etikai szűrő. Az Európai Unió készül szabályozási kereteket adni, ami persze most már kicsit eső után köpönyeg.

– Jó nekünk a mesterséges intelligencia?

– Sokáig vártuk, hogy jól működő automatizált rendszereket állítsunk elő, s most, hogy a rendelkezésünkre állnak, bennünk van az aggodalom. Az önvezető autók tesztelésekor történt baleset, melynek során felmerült, kié a felelősség, ráadásul nagyot csalódtunk, mert megbíztunk a technológiában. De a hajszárító is el tud romlani.

Félelmetes számunkra, hogy egy gép, egy marék műanyag, réz és szilícium, hirtelen olyasmit tud csinálni, amire nem számítottunk, és jóval ügyesebb lehet egy adott probléma megoldásában, mint mi.

– Van veszélye a mesterséges intelligenciának? Minden beszélgetésben felmerül az aggodalom: mi van akkor, ha magától is fejlődik tovább, és egyszer csak már nem mi tartjuk a kezünkben az irányítást.

– A fejlődés lehetősége ott van benne, de ezt lehet befolyásolni. Londonban egyszer eltérítették az autós navigációt úgy, hogy az egyik hídon egy szekéren toltak át vagy száz okostelefont. A Google úgy érzékelte, hogy hatalmas dugó van a hídon. Bármelyik eszközzel ki lehet szúrni. És bármelyiket lehet rosszra használni. A kés gyártóját sem okoljuk ezért.

– De attól nem félünk, hogy a kés egyszer majd magától cselekszik.

– A sci-fi-filmek sok mindent jól megtippeltek, így például a hordozható számítógépeket vagy a videotelefonálást. Gyakran azt sugallják, hogy egyszer öntudatra ébred a mesterséges intelligencia. De mi az öntudat? Ez filozófiai kérdés, és definíció szintjén sem könnyű válaszolni rá.

A mesterségesintelligencia-rendszereknek van céljuk, amit kívülről definiálnak bennük. Nagy kérdés, előfordulhat-e olyan, hogy a rendszer magának definiáljon célt, ami természetesen lehet jó és rossz is.

Azt tudjuk, hogy a mesterséges intelligencia képes káros tevékenységet végrehajtani, például gyártattak már vele hamis útlevelet, de az ember adta neki ezt az utasítást. Ugyanakkor rengeteg jóra is fel lehet használni. Létezik olyan személyi asszisztens, ami figyelmeztet, hogy az aktuális forgalmi viszonyok  alapján el kellene indulnunk, ha nem akarunk elkésni. Fogyatékossággal élő embereknek is nagy segítség lehet egy személyi asszisztens, ami képes vakokat navigálni, hallássérülteknek segíteni. Itt, a karon is vannak hasonló fejlesztések például vakok vagy kerekesszékesek számára. Nem tudom, hogy a filmek sugallta félelem beigazolódhat-e. Arra valóban képes a rendszer, hogy az egyik eszköz a másikat interneten elérje. Ezt a ChatGPT is megteszi: ha például pontos megoldást kérek egy matematikafeladatra, elővesz egy számológépet. A gépek közötti kapcsolódásnak kétségtelenül lehetnek veszélyei.

– Ha egy gyereknek nem megy a matek, a ChatGPT el tudja neki magyarázni?

– Éppen mostanában voltam az Eszterházy Károly Katolikus Egyetemen egy konferencián, ahol az egyik előadó arról számolt be, hol tartanak most az egyéni tanulást segítő eszközök. Hasznosak lehetnek, hiszen egy iskolai osztályban a matematikatanár nem tud mindenkire külön odafigyelni, hogy lássa, ki hol van elakadva.

– Attól is szoktunk félni, hogy a munkánkat idővel átveszi a gép, és nem lesz szükség ránk.

– Jogos a félelem. A gyerekeket arra tanítjuk, hogy negyven-ötven éven keresztül valamilyen szakmában fognak dolgozni.  De tanítsam meg őket valami olyasmire, ami nem is lesz már, mire megtanulják? Például statikai számításokat már most is elvégez a szoftver. Egy építőmérnök barátomnak a diplomadolgozatában ellenőrzésképpen tíz oldalon keresztül kellett levezetnie egy számítást, és egyezett a szoftver számításával. Sok szakmában jól használhatók az eszközök. Amikor diák voltam, történelemórán a technikai fejlődéssel kapcsolatban mesélték, hogy a vonatok ellen annak idején az volt az egyik érv: az emberi szervezet egy bizonyos sebességet már nem visel el, belehal. S lám, itt vannak a 300-400 km/h-val közlekedő vonatok, és élünk.

Amitől félünk, az jó eséllyel nem következik be, viszont bekövetkezik olyasmi, amire nem is gondoltunk.

Az ipari forradalomra adott válaszként annak idején szétverték a gépeket, attól félve, hogy azok elveszik az emberek munkáját. Most már nincs velük problémánk. Az ember rugalmas, sok mindet meg tud tanulni. Annyi találmány van, mégsem használjuk mindegyiket. És mennyien álmodoznak arról, hogy a gép majd mindent megcsinál helyettük.

– De akkor az ember képességei visszafejlődnek, és csak arra lesz képes, hogy használni tudja a gépeket?

– 1997-ben az IBM előállt a Deep Blue nevű sakkozógéppel, ami hat játszma összesítésében el is verte Kaszparovot. Akkor mindenki azt gondolta, hogy vége a sakknak, de ma is vannak sakkbajnokságok.

– Miért nem oldunk meg inkább más problémákat, például hogy a sivatagban essen az eső? Vagy miért nem használjuk a gépet arra, hogy helyreállítsuk, amit tönkretettünk?

– Valóban befolyásolható az időjárás, bizonyos eljárásokkal elérhető, hogy a felhőkből leessen az eső. De mivel a sivatag felett a levegőnek nincs megfelelő páratartalma, így ez a megoldás szóba sem jöhet. Jelenleg még nem ismerjük eléggé a légkört, a másnapi időjárást sem tudjuk pontosan előre jelezni. A ChatGPT fejlesztésére az OpenAI iszonyatos öszszegeket költött. A rendszer feltanítása fél évig tartott hatalmas teljesítményű számítógépeken, és persze a villanyszámla is borsos volt. Ki finanszírozná az esőcsinálást?

– Új szakirányú képzés indult az egyetemen a mesterséges intelligencia alkalmazásai néven, melynek Ön a felelőse.

– A Bölcsészet- és Társadalomtudományi Karral együttműködve indítottuk ezt a képzést. Abban igyekszünk útmutatást nyújtani, hogy milyen eszközök érhetők el, és azok hogyan használhatók hatékonyan. A jogi és az etikai vonatkozásokról is szó esik, akár az adatkezelés, akár a felhasználás területén. A Bölcsészet- és Társadalomtudományi Kar adja a jogi, a nyelvészeti és az etikai kérdésekkel foglalkozó tantárgyakat, a műszaki jellegűeket pedig az Információs Technológiai és Bionikai Kar. A két féléves akkreditált képzésre bármilyen alapképzésen szerzett végzettséggel jelentkezni lehet.

Fotó: Lambert Attila

Vámossy Erzsébet/Magyar Kurír

Az interjú nyomtatott változata az Új Ember november 5-i számában jelent meg.