Ép ész vs. gép ész: életünk, Erdélyünk a mesterséges intelligencia kezében (1.)

Ugye a mesterséges intelligencia, mint bármilyen gépi tanulási megoldás, önmagában nem akar semmit, se jót, se rosszat, amúgy ezek eleve emberi fogalmak. Az egyetlen dolog, amit a gép vagy a gépi tanulási megoldások „akarnak”: elkerülni egy hibát, mindig egy hibát optimalizálnak, mindig valamilyen javulási irányba állnak.

Na most azt, hogy ez a hiba micsoda, azt mi, emberek határozzuk meg. Hogyha mi ezt a hibafüggvényt úgy határozzuk meg, legyen az a hiba, hogy az embereknek rosszabb és az emberek élete rosszabb és az emberek meghalnak és a többi és a többi, az oda vezet, hogy akkor mind jobb és úgymond kedvesebb, emberbarátabb gépi tanulási megoldások születnek. De ezzel párhuzamosan, ha az ellentéte az általunk jelzett „hiba”, akkor meg mind úgymond gonoszabb, ellenségesebb megoldások születnek, akár ugyanazzal a gépi tanulási megoldással.

Erről a Nature-ben 2022-ben megjelent már egy cikk, ahol a kutatók pont ezt a kérdéskört vizsgálták. Volt egy olyan nagy modell, amit arra találtak ki, hogy bizonyos vegyi anyagoknak emberre gyakorolt mellékhatásait próbálja csökkenteni, illetve olyan vegyi anyagokat fedezzen fel, aminek a lehető legkisebb mellékhatása van az emberre. Ez nagyon pozitív dolog gyógyszerkémiában. Na most a kísérlet kedvéért ennek megfordították a hibafüggvényét, hogy pont azt keresse: mi az, ami a legártalmasabb az embernek.

Ez mindennel így van: abszolút bármilyen gépi tanulási megoldást lehet jóra is és rosszra is használni, de valószínűleg bármilyen technikai megoldást is, akárcsak egy baltát is lehet jóra és rosszra is használni.

Jó katona” a gép: autonóm fegyverek és az emberi lelkiismeret hiánya

És ugye azt látjuk a világban most, 2026-ban is, hogy rengeteg jó és hasznos megoldás születik nap mint nap. Ugyanakkor ott vannak azok is, amelyek kevesebb médiafigyelmet kapnak: az ukrán háborúban is láthatjuk azokat a most már teljesen autonóm fegyverrendszereket, amelyek végül is megölnek más embereket.

Én úgy gondolom, egyetlen ember sem érdemli meg azt, hogy megöljék, és főleg azt nem, hogy egy mesterséges intelligencia ölje meg. És ugye ennek a legnagyobb veszélye az, hogy az emberiség történetében sokszor volt olyan pillanat, amikor volt egy parancs, volt egy érvényes tűzparancs, amit egy katona emberségből megtagadott, és akkor ennek az lett a következménye, hogy emberek nem haltak meg. Legalább két olyan dokumentált eset is van a hidegháborúból, ahol

Egyszer az atom-tengeralattjáróval, és egyszer pedig az észlelőrendszerrel, ami úgy észlelte, hogy az amerikaiak kilőtték az atomrakétákat.

hogy ne mi mondjon olyan dolgokat, ami nem abba az irányba visz, és utána akkor meg tudta semmisíteni az eredeti célpontot is.

Mesterséges intelligencia: butulunk-e csendben?

– Ebből is látszik: nem a hétköznapi ember fogja eldönteni, hogyan, merre is irányítjuk a gépi tanulást. Ám ettől függetlenül az már biztos, hogy szinte napról napra egyre nagyobb szeletet fed le hétköznapi életünkben a mesterséges intelligencia, és nemcsak a nagy nyelvi modelleket tudatosan használók körében: sokszor nem is sejtjük, hogy már AI bújik meg egy-egy igénybe vett mindennapi szolgáltatás mögött. Hogyan látja: ne is foglalkozzunk ezzel, csak „eresszük”, élvezzük az előnyöket, vagy azért érdemes folyamatosan résen lenni, mert fennáll annak a veszélye, hogy egyre kiszolgáltatottabbakká, szép csendben egyre butábbá válhatunk?

– Én nem gondolom azt, hogy ez annyira valós veszély lenne. A technika fejlődése folyamatosan arról szólt, hogy

Tanulmányok igazolják, hogy a fiatal férfiak csináld magad (DIY – do it yourself) skilljei generációról generációra romlanak, ma már például a brit fiatalok egy villanykörtecseréhez is villanyszerelőt hívnak.

Nevetnek rajta az idősebb generációk tagjai, de most hasonlítsuk össze őket is mondjuk egy IX. századi „szaxonnak” a tudásával, akinek ugye az egész házat fel kellett nulláról építse, meg kellett etesse az állatokat, kellett tudjon kutat ásni, satöbbi. Mindehhez már jó sok generáció óta csak nagyon kevesen értenek.

– Tehát a civilizációs fejlődés természetes velejárója valahol, hogy nem kell mindent magunknak megcsinálni.

– Persze. Már azzal, hogy a villanyvilágítás bekerült a házakba, gyökeres változáson ment át az életünk. Azzal, hogy a villanyáramra rákapcsoltunk bizonyos gépeket, rengeteg skill teljesen megváltozott, és már nem volt fontos. Ott van például a favágás is: mennyire általános és mindenki számára hasznos és fontos skill volt, hogy a tűzifát fel tudja hasogatni. Viszont mára már egyre kevesebben tudják ezt vagy akarják csinálni. Nyilván hogyha muszáj, akkor meg tudja csinálni valaki, de nem egy olyan skill, amire mondjuk a városban lakóknak szükségük van. Ha van gáz vagy villanyos fűtés, akkor ez a képesség teljesen eltűnik.

vagy ez legyen a cél, míg azelőtt teljesen természetes volt, hogy heti hat napot dolgoztak.

– Mint nálunk még a kommunizmusban is.

– Igen. Addig természetes volt akár Németországban, akár a viktoriánus Angliában, hogy a munkások napi 12 órákat dolgoztak és heti 6 napban. De ez valahol meg kellett változzon. Az autó, ez a magas hozzáadott értékű termék eleve mindenki számára fontos lett, megváltoztatta az életet, csökkent a távolság percepciónk, bárhova el tudtunk jutni, nem csak oda, ahova a vasút ment.

Egy olyan eszköz lett az autó, amire mindenkinek szüksége volt, és ahol ezt jó minőségben, nagy mennyiségben elő tudták állítani, ott egyre több és több érték keletkezett. És ez az érték nem csak azt jelentette, hogy akkor most mit tudom én: Daimler meggazdagodott belőle. Hanem azt is jelentette, hogy azok az emberek, akik ezekben a gyárakban dolgoztak, egyre több fizetést tudtak kapni, és egyre kevesebbet kellett dolgozniuk.

A Ford esetében az Egyesült Államokban is ugyanebben a periódusban egy hasonló folyamat ment végbe, sőt Ford egyik napról a másikra megduplázta a fizetését az alkalmazottainak – pont azért, mert a tömeggyártás, a futószalag bevezetése közben ő is belátta azt, hogy

Én úgy gondolom, hogy ez a folyamat le fog zajlani most is. Nyilván még nagyon az elején vagyunk emberi léptékkel nézve. Az iparosodás, ha nagyon történelmi távlatokban nézzük, 100, 200, akár 300 éves periódusban lezajló folyamat (ha például azt is belevesszük, hogy a XX. század második felében jött el az iparosodás például Kínába, de nyilván nagyon gyorsan felzárkóztak), borzasztó széthúzott folyamat volt.

Ehhez képest most ez a mesterséges intelligencia ugyancsak társadalomátformáló folyamat, de társadalmi és történelmi léptékkel mérve nagyon-nagyon rövid ideje vagyunk benne ebben a folyamatban, és még mindig a felfutó ágán vagyunk.

Már a tavalyi év arról szólt, hogy olyan AI ügynököket fejlesszünk, amelyek teljesen autonómok, embertől függetlenek. Megoldható most már az, hogy az AI ügynököket más, úgynevezett orchestrator ügynökök irányítanak. Van egy rakás ügynökünk, kicsit úgy, mint egy cégben van sok mondjuk gyári munkás vagy alkalmazott, és akkor annak van egy ilyen menedzsere.

– Aki összehangolja a munkát.

– Igen, aki, ami összehangolja a munkájukat. Tehát ez az orchestrator megoldás szintén megvan. Miközben ugye még 2023-24-ben úgy gondoltuk, hogy az AI ügynökök egy folyamatot visznek végig úgy, hogy mi lépésről lépésre meghatározzuk a feladatokat, az AI pedig megcsinálja, végigmegy a folyamaton.

Ezt a problémát már teljesen jól megoldottuk. Nyilván lehet optimalizálni sebességben, pénzben, és a többi, de a megoldás már teljesen jól működik. Szerteágazó döntéseket hoz az AI. Ezeket a döntéseket nyilván az ember felügyelheti, de a döntéseket aztán továbbvíve még több leágazás jön létre, akár egy döntés hatására új ügynökök párhuzamosan ki tudnak próbálni több párhuzamos utat, és ezek valahol összetalálkoznak, és abból kiderül, hogy melyik volt a jó út. Vagy akár ciklikus folyamatok is létrejöhetnek ebből: megcsinál valamit egy ügynök, visszamegy újra, megcsinálja.

Ezek kvázi úgy működnek, hogy van egy feladat, a feladathoz az információ pedig egy „objektumban” van – most hogy ez egy milyen objektum, az mindegy is. És akkor ezt az objektumot kezdik szétvágni darabokra, mert ez feltételezhetően egy nagyon nagy, komplex feladat, ezt kezdi szétvágni darabokra, és utána azokra a darabokra „meghívja” önmagát, akkor lesz egy kisebb darab, ha szükséges, azt megint szétvágja darabokra, és ezt így tovább addig, hogy olyan atomi szintű darabokhoz jusson, amit már biztosan meg tud oldani, és biztosan nagyon jól tud megoldani.

És ezeknek a nagyon jó megoldásoknak az összesítéséből minden eddiginél pontosabb megoldások születnek, akár nagyon komplex, nagyon nagy adathalmazon történő, embert meghaladó feladatoknál is, és ezt akár olyan kutatási feladatoknál is lehet használni, amihez egy nagyon nagy kutatócsoportnak is nagyon sok idő kellene.

Ennek én úgy gondolom, hogy az idei év közepén, végén fogjuk látni igazán a hatásait, de hogyha az elvárások beigazolódnak, akkor az idei évben rengeteg áttörést láthatunk egyes tudományterületeken.

– Melyek azok a területek, ahol ezek az AI-vívmányok először fognak nemcsak privát hasznot hozni, hanem nagy társadalmi nyereséget eredményezni, vagy éppen sokkot okozni?

– Azok, amelyek nagyon kutatásigényesek, nagyon fontosak. Egész biztosan nagyon hasznos tud lenni az orvosi, gyógyszerészeti kutatásokban, de akár a kvantumszámítógépek irányába történő kutatásoknál is hasznos lehet, ugyanakkor a matematikától a fizikán át bármilyen kutatás esetében.

Akár a cégeknek is nagyon hasznos lehet: legyen szó versenytárselemzésről, marketingről, egy új termék kitalálásáról, bevezetéséről, piackutatásról. Ezek mögött mind borzasztó bonyolult és költséges kutatások álltak eddig. Nagy cégek óriási pénzeket számláztak ilyen munkára: a piackutatás nagyon fontos, de drága terület volt. Na most erre az AI hihetetlenül jó megoldást adhat. De akár egy cég saját folyamatainak az optimalizálását is ki lehet dolgozni, gyakorlatilag végtelen a lehetőségek sora.

Texasban volt is egy egész sikeres dokumentált kísérlet. Egy magániskolában a tanárokat kvázi lecserélték mesterséges intelligenciára, ami a tudásanyag átadását jelenti, és ezzel párhuzamosan pedig a tanári szerepet megváltoztatták egy nevelő, emberközeli, felügyelő, gyerekmegőrző, stb. szereppé. Tehát nem ő adja le az anyagot, de ő foglalkozik a gyerekkel, hogy akkor tényleg ott üljön, hogyha elakad, ha valami problémája van, bármi ilyesmi, akkor legyen ott egy ember.

Ezáltal lehetővé vált az, hogy nagyon személyre szabottan tudjanak fejlődni a gyerekek. Azt már a nyolcvanas években bebizonyították, hogy a leghatékonyabb az, ha egy diákot egy tanárt tanít. Nemcsak hogy a leghatékonyabb, hanem például egy közepes képességű diákból nagyon jó képességű diák válik, ha egy tanár csak vele foglalkozik.

Nyilván könnyen belátható, hogy ez a gyakorlatban megvalósíthatatlan, hiszen egy tanár akár 30 gyereket is tanít. De azért az emberiség levonta a következtetést, és sajnos ennek az lett az eredménye, hogy mára már a gyerekek nagyon nagy része magántanárhoz jár, ami egy ilyen félmegoldás. Mert ugye az idő nagy részében még mindig ez az 1 a 30-hoz, vagy 1 a 24-hez arányú oktatás folyik, de azért egy héten egy-két-három órát magántanárral tölt a gyerek.

Ahogy egyik diák elkezdi, a másik diáknak is azt kell csinálja, hogy bejusson a középiskolába, vagy jobb egyetemre, vagy jobb ki tudja hova. Na de ez nem skálázható, nincs annyi tanár, hogy minden diák mellé tanárt ültessünk. Illetve a borzasztó nagy hátránya az, hogy tovább növeli a társadalmi egyenlőtlenségeket, mert nyilván hogyha nincs a szülőknek erre fedezetük, akkor ezt nem tudják biztosítani.

– Ebben viszont a gépi tanulás tud segíteni, hogy ez valamennyire kiegyenlítődjön.

– Így van. Amerikában az említett magániskola be is bizonyította, hogy messze az országos átlag fölött teljesített, sőt az Egyesült Államok szintjén is top iskolává vált ezzel a módszerrel.

(Folytatjuk: interjúnk második, befejező része hamarosan megjelenik a Krónika.ro oldalon)

korábban írtuk

Olyan a mesterséges intelligencia, mint a kőbalta: jó és rossz célra is lehet használni a Krónikának nyilatkozó szakértő szerint

Elbutíthatja az emberiséget a gépi tanulás – mesterséges intelligencia – térhódítása, veszélyezteti a demokráciát, ugyanakkor vitathatatlan előnyei is lehetnek.