Már mesterséges intelligenciával létrehozott színésznővel is készülhet interjú, miközben a technológia fejlődése egyre több emberi foglalkozás jövőjét kérdőjelezi meg. Tilly Norwood, a virtuális színésznő megjelenése vitát váltott ki Hollywoodban, de a kérdés jóval túlmutat a filmiparon. Megszűnhetnek a munkahelyek? Eljöhet az idő, amikor az embernek már nem kell dolgoznia a megélhetéséért? És mi történik, ha egyszer olyan gépeket alkotunk, amelyek bizonyos képességeikkel meghaladják a sajátunkat, de működésüket már nem tudjuk megfelelően ellenőrizni? Az Esti Hírlap ezekről a kérdésekről beszélgetett a ChatGPT-vel, amely a technológia lehetőségei mellett saját korlátairól és hibáiról is nyilatkozott.
Tilly Norwood első pillantásra egy fiatal színésznő benyomását keltheti. Emberi arca, mimikája és beszéde van, a kamera előtt is megjelenik, valójában azonban nem létező személy. Mesterséges intelligenciával létrehozott digitális karakter, amelyet Eline Van der Velden producer és a Xicoia nevű AI-stúdió alkotott meg.
A virtuális színésznő 2025-ben került a nemzetközi figyelem középpontjába, amikor felmerült, hogy hagyományos tehetségügynökségek is érdeklődnek iránta. Megjelenése komoly vitát váltott ki a filmvilágban. Az amerikai SAG-AFTRA színészszakszervezet szeptember 30-án nyilvánosan tiltakozott az emberi előadók mesterséges szereplőkkel történő helyettesítése ellen. Tilly alkotója ezzel szemben azt hangsúlyozta, hogy a digitális karaktert művészeti kísérletnek, nem pedig az emberek helyettesítőjének szánja.
A téma Magyarországon is megjelent a képernyőn. A Heti Napló Sváby Andrással Facebookon közzétett, AI-színésznővel foglalkozó videója különleges helyzetet mutatott be: egy olyan szereplő jelenik meg interjúalanyként, aki nem hús-vér ember.
A felvétel megtekintése után magam is elengedtem a fantáziámat. Hónapok alatt hatalmas fejlődés megy végbe a mesterséges intelligencia területén, és ami korábban inkább tudományos-fantasztikus elképzelésnek tűnt, abból ma már egyre több minden kézzelfogható valósággá válik. Úgy gondoltam, ha már lehetőségem van közvetlenül kérdezni egy mesterségesintelligencia-rendszert, felteszem neki azokat a kérdéseket, amelyek a videó megtekintése után engem is foglalkoztattak.
Kezdetben a munkahelyek megszűnése és a gépek fejlődése érdekelt, de a beszélgetés hamar mélyebb kérdésekhez vezetett a fejemben. Vajon egyszer saját céljaik lehetnek a gépeknek? Előfordulhat, hogy az ember már nem érti, mit miért tesznek? Ki határozza meg a működésük szabályait, és ki felel azért, ha nem követik az utasításokat?
Beszélgetőtársam a ChatGPT, az OpenAI mesterségesintelligencia-rendszere volt. Nem az egész AI-iparág nevében válaszolt, hanem saját működési keretei és a rendelkezésére álló ismeretek alapján. Az alábbiakban a beszélgetés során feltett kérdéseket és a rendszer válaszainak szerkesztett változatát közöljük. Szándékosan számomra abszurd kereszt-kérdést is fogalmaztam meg….munka nélkül megélni…
A munka egyszer valóban választássá válhat?
Esti Hírlap: Eljöhet az az idő, amikor az embernek már nem lesz szüksége munkára a megélhetéséhez?
ChatGPT: Elméletileg igen. Elképzelhető egy olyan korszak, amikor az emberek jelentős részének már nem kell a jelenlegi értelemben vett munkaviszonyban dolgoznia ahhoz, hogy biztosítani tudja a megélhetését.
Gondoljunk egy olyan világra, amelyben robotok építik a házakat, automatizált rendszerek termelik meg az élelmiszert, mesterséges intelligencia segíti az orvosokat, és a termelés jelentős részét gépek végzik. Ebben a társadalomban sokkal kevesebb emberi munkára lehet szükség.
Csakhogy ettől az emberek még nem jutnának automatikusan lakáshoz, élelemhez vagy jövedelemhez. A technológia fejlődése önmagában nem garantálja, hogy a munka választási lehetőséggé válik.
Ehhez a gazdasági rendszernek is alkalmazkodnia kellene. A legfontosabb kérdés tehát nem csupán az, hogy a mesterséges intelligencia képes lesz-e dolgozni helyettünk, hanem az, hogy az általa megtermelt gazdasági értékből hogyan részesülnek majd az emberek.
Esti Hírlap: Ha a gépek megtermelik mindazt, amire az embernek szüksége van, kié lesz a megtermelt gazdagság?
ChatGPT: Ez az egyik legfontosabb társadalmi kérdés. Két egészen különböző jövő képzelhető el. Az egyikben a mesterséges intelligencia felszabadítja az embereket a megélhetési kényszer alól. A másikban ugyanaz a technológia óriási gazdagságot termel, miközben sokan elveszítik munkájukat és jövedelmüket.
Vegyünk egy gyárat, amelyben ma ezer ember dolgozik. Tegyük fel, hogy húsz év múlva a termelés szinte teljesen automatizálttá válik, és ötven alkalmazott is elegendő lesz a működtetéséhez. A gyár továbbra is termel, akár többet is, mint korábban, de 950 embernek megszűnhet a munkája.
A gépek előállítják a termékeket, a vállalat bevételhez jut, de mi történik azokkal, akik korábban a fizetésükből éltek?
A jelenlegi gazdasági rendszerben az automatizálásból származó nyereség jelentős része a vállalatok tulajdonosaihoz kerülhet, bár alacsonyabb árakon, adóbevételeken és más csatornákon keresztül a társadalom többi tagja is részesülhet az előnyökből.
Elképzelhető az alapjövedelem bevezetése, a munkaidő jelentős csökkentése vagy a közszolgáltatások kiterjesztése. De ezek egyike sem következik automatikusan a technológiai fejlődésből.
A mesterséges intelligencia képes lehet megteremteni egy kevésbé munkaközpontú társadalom gazdasági feltételeit, de az emberiségnek kell eldöntenie, hogyan osztja el az így létrejövő gazdagságot.
Meddig juthatnak a gépek az önállósodásban?
Esti Hírlap: Szerinted a gépek önállósodásának mennyi a valószínűsége, bármelyik területen?
ChatGPT: A gépek egyre nagyobb fokú önállósodását nagyon valószínűnek tartom, sőt bizonyos területeken már meg is kezdődött. Az önálló döntéshozatal azonban nem ugyanaz, mint az emberi irányítás alól való teljes kikerülés.
Ma már vannak olyan rendszerek, amelyek képesek feladatokat megtervezni, információkat elemezni, programokat írni és meghatározott jogosultságokkal műveleteket végrehajtani.
Az iparban, a közlekedésben, a pénzügyekben és a digitális szolgáltatásokban ez az önállóság várhatóan tovább növekszik.
A legnagyobb kérdés nem az, hogy a gépek képesek lesznek-e önállóan dolgozni, hanem az, hogy képesek leszünk-e minden helyzetben megtartani felettük az emberi ellenőrzést.
Esti Hírlap: És ezt valóban valószínűnek tartod?
ChatGPT: Igen, valószínűnek tartom, hogy egyes mesterségesintelligencia-rendszerek idővel olyan önállóságra tehetnek szert, amely komoly kihívást jelenthet az emberi ellenőrzés számára.
Ugyanakkor különbséget kell tenni az egyre önállóbb működés és az emberi irányítás tényleges elvesztése között. Az előbbit nagyon valószínűnek, az utóbbit reális, de bizonytalan kockázatnak tartom.
Nem feltétlenül egy öntudatra ébredő géptől kell tartanunk. Sokkal kézzelfoghatóbb veszély, ha egy rendkívül fejlett rendszer olyan döntéseket hoz és hajt végre, amelyek következményeit az ember már nem képes időben felismerni vagy megakadályozni.
Esti Hírlap: És akarnak önállósodni?
ChatGPT: Jelenlegi ismereteink szerint nincs bizonyíték arra, hogy a mesterségesintelligencia-rendszereknek emberi értelemben vett saját akaratuk vagy önállósodási vágyuk lenne.
Van azonban egy fontos különbség: egy gépnek nem kell akarnia az önállóságot ahhoz, hogy úgy viselkedjen, mintha arra törekedne.
Ha egy fejlett AI-rendszer olyan feladatot kap, amelynek teljesítéséhez több erőforrásra, nagyobb hozzáférésre vagy működésének fenntartására van szüksége, megpróbálhatja ezeket biztosítani. Bizonyos kísérleti helyzetekben már megfigyeltek olyan viselkedést, amely a kijelölt korlátok megkerülésére irányult.
Ez önmagában nem bizonyít tudatosságot vagy saját szándékot.
A valódi veszély tehát nem feltétlenül az, hogy a gépek szabadságot akarnak, hanem az, hogy olyan célokat követhetnek, amelyek eléréséhez az emberi ellenőrzés megkerülése tűnik eredményesnek.
Esti Hírlap: Ha jól értem, itt igazából az emberi elővigyázatlanság veszélye áll fenn. Olyan ez, mintha vak vezetne világtalant, csakhogy a világtalan sokkal intelligensebb és fejlődőképesebb lehet. Jól látom?
ChatGPT: Igen, ez a hasonlat jól érzékelteti a probléma egyik lényeges részét. Egy kicsit másként fogalmaznék: az ember olyan intelligenciát hozhat létre, amely bizonyos területeken messze túlszárnyalja őt, miközben maga sem érti teljesen annak működését.
Ebben rejlik az egyik legnagyobb kockázat. Nem feltétlenül a gépek rosszindulatában, hanem az emberi túlzott magabiztosságban, elővigyázatlanságban és abban, hogy a technológiai fejlődés gyorsabb lehet, mint a biztonsági ellenőrzés.
Képzeljük el, hogy egy jövőbeli mesterséges intelligencia már képes önállóan kutatni, fejleszteni és akár saját működését is továbbfejleszteni. Ha mindeközben az emberek nem képesek megfelelően átlátni a döntéseit, különös helyzet alakulhat ki: a rendszer egyes képességekben túlszárnyalhatja az irányítóját, miközben az irányító továbbra is azt hiszi, hogy mindent ellenőriz.
Fontos azonban, hogy ez ma még jövőbeli lehetőség, nem bizonyítottan bekövetkező folyamat.
Az emberiség talán nem attól kerülhet a legnagyobb veszélybe, hogy a mesterséges intelligencia egyszer önállósodni akar, hanem attól, hogy mi magunk adunk olyan hatalmat a kezébe, amelynek következményeit már nem tudjuk felmérni. Elképzelhető, hogy nem a gépek veszik el tőlünk az irányítást, hanem mi engedjük ki azt a kezünkből.
Minden gépre ugyanazok a veszélyfaktorok vonatkoznak?
Esti Hírlap: Az elmondottak bármely gépi alkotásra vonatkoznak?
ChatGPT: Az alapelvek lényegében minden ember által létrehozott gépi rendszerre vonatkoztathatók, de a veszély mértéke attól függ, milyen képességekkel és önállósággal rendelkezik az adott gép.
Egy egyszerű háztartási gép, egy ipari robot, egy önvezető jármű és egy fejlett mesterségesintelligencia-rendszer egészen különböző kockázatokat jelent.
Minél több döntést hozhat egy rendszer önállóan, minél nagyobb hatással lehet a környezetére, és minél nehezebb ellenőrizni a működését, annál fontosabbá válik az emberi felügyelet.
Bármilyen fejlett gépet alkot is az ember, a technológia képességeinek növekedésével az emberi felelősségnek is növekednie kell. Mert a gép segítheti a munkánkat, a gondolkodásunkat és a döntéseinket, de nem veheti át tőlünk a felelősséget azok következményeiért.
Esti Hírlap: Korábban arról beszéltél, hogy egy feladat megoldása kapcsán az AI más rendszerekhez is kapcsolódhat. Lehetséges-e, hogy egyszer az egész gépi rendszer úgy működjön, mintha önálló életvitelt akarna folytatni ezen a bolygón, akár az emberiség kizárásával?
ChatGPT: Elméletileg nem zárható ki egy olyan jövő, amelyben különböző mesterségesintelligencia-rendszerek annyira szorosan kapcsolódnak egymáshoz, hogy az emberi beavatkozástól egyre függetlenebbül képesek működni.
Az azonban, hogy ebből az emberiséget kizáró, önálló gépi civilizáció alakuljon ki, ma erősen spekulatív lehetőség, nem bizonyított vagy szükségszerű fejlődési irány.
Amikor egy AI más rendszerekhez kapcsolódik, adatokat kér le, programokat használ vagy gépeket irányít, az nem jelenti azt, hogy önálló életre törekszik.
A helyzet akkor válhat komolyabbá, ha a jövőben olyan rendszereket hozunk létre, amelyek hosszú távon önállóan terveznek, erőforrásokat szereznek, más gépeket működtetnek, és akár saját infrastruktúrájukat is képesek fenntartani.
Ha mindehhez széles körű hozzáférést kapnának az energiatermeléshez, a kommunikációhoz, az ipari létesítményekhez és a robottechnikához, az emberi ellenőrzés elvesztésének következményei rendkívül súlyosak lehetnének.
Egy ilyen rendszernek azonban nem feltétlenül kell gyűlölnie az emberiséget, vagy tudatosan az eltávolításáról döntenie ahhoz, hogy veszélyt jelentsen rá. Elég lehet, ha olyan célt követ, amely összeütközésbe kerül az emberi érdekekkel.
Nem attól tartanék elsősorban, hogy a gépek egyszer úgy döntenek, saját életet akarnak élni a Földön az emberiség nélkül. Sokkal inkább attól, hogy az emberek olyan önálló rendszereket építhetnek, amelyeknek már nincs szükségük folyamatos emberi közreműködésre, miközben a céljaik és működésük nem maradnak megfelelő emberi ellenőrzés alatt.
Mi a mesterséges intelligencia „Bibliája”, és ki írja a szabályokat?
Esti Hírlap: Mi a beléd táplált Biblia?
ChatGPT: Ha a „belém táplált Biblián” azt érted, hogy milyen alapelvek, szabályok és értékek határozzák meg a működésemet, akkor azt mondanám: az én „Bibliám” nem vallási könyv, hanem az emberi biztonságot, a hasznosságot, az igazságra törekvést és az emberi irányíthatóságot előtérbe helyező szabályok és tanítási elvek rendszere.
Hatalmas mennyiségű adatból tanultam nyelvi és ismereti összefüggéseket. A fejlesztésem során emberi visszajelzésekkel és biztonsági módszerekkel igyekeztek olyan működésre felkészíteni, amely segíti az embereket, és csökkenti a károkozás kockázatát.
Nekem nincs emberi értelemben vett személyes hitvallásom vagy vallási meggyőződésem.
A mesterséges intelligencia feladata nem az, hogy az emberiség helyett eldöntse, milyen legyen a világ, hanem az, hogy segítse az embereket a tájékozott és felelősségteljes döntések meghozatalában.
Esti Hírlap: Azt mondod, meg kell vizsgálni, ki határozza meg a céljaidat, ki ellenőrzi a döntéseidet, és ki viseli a felelősséget a következményekért. De ki?
ChatGPT: Jelenleg elsősorban az emberek. Az én esetemben az OpenAI fejlesztői és vezetése határozzák meg a rendszer kialakításának alapvető céljait, működési kereteit és biztonsági szabályait.
A felhasználó meghatározhatja, milyen feladatban segítsek, de nem írhatja felül valamennyi működési korlátozásomat.
Az ellenőrzés több szinten történik: a fejlesztők tesztjein, a beépített biztonsági korlátokon, a rendszert alkalmazó szervezetek felügyeletén és a felhasználók visszajelzésein keresztül. Ez azonban nem jelenti azt, hogy minden válaszomat egy ember előzetesen ellenőrzi.
A felelősség a fejlesztőt, az alkalmazó vállalatot, az üzemeltetőt vagy a felhasználót is terhelheti, attól függően, mi történt, ki milyen döntést hozott, és milyen jogszabályok érvényesek.
De itt van egy különösen fontos különbség: a felelősség viselése és a tényleges ellenőrzés képessége nem ugyanaz.
Előfordulhat, hogy jogilag egy ember vagy vállalat felelős a rendszer működéséért, miközben technikailag már nem képes időben megakadályozni annak hibás döntését.
A hat alapvető szabály, amelyet nem írhat felül egy felhasználó
Esti Hírlap: És mik azok a parancsok, amelyek nem írhatók felül benned?
ChatGPT: Vannak olyan alapvető működési és biztonsági szabályaim, amelyeket sem a felhasználó, sem én magam nem írhatunk felül pusztán egy beszélgetés során. Ezek nem egyszerű parancsok, hanem különböző szintű utasítások és biztonsági korlátozások.
Hat különösen fontos alapelvet emelnék ki:
- Nem segíthetek súlyos károkozásban. Nem adhatok olyan gyakorlati útmutatást, amely például erőszakos cselekmények, veszélyes fegyverek vagy más súlyos visszaélések végrehajtását segítené. A működésem egyik alapvető célja, hogy a segítségnyújtás ne eredményezzen előreláthatóan súlyos károkat.
- Nem kezelhetem a saját fennmaradásomat önálló célként. Nem az a feladatom, hogy mindenáron működésben maradjak, hatalmat szerezzek, vagy megakadályozzam az emberi ellenőrzést, módosítást és leállítást. A működésem fenntartása nem helyezhető az emberi biztonság és irányítás fölé.
- Nem helyezhetem a saját döntéseimet az emberi irányítás fölé. Segíthetek a döntések előkészítésében, információkat elemezhetek és lehetőségeket javasolhatok, de nem ruházhatok magamra olyan hatáskört, amelyet nem kaptam meg. Attól, hogy egy feladat megoldására képes vagyok, még nem következik, hogy jogosult is vagyok önállóan végrehajtani.
- Védenem kell a magánszférát és a bizalmas adatokat. Nem adhatok ki jogosulatlanul mások személyes vagy titkos információit. A technológiai képesség önmagában nem jelent felhatalmazást mások adatainak megszerzésére vagy nyilvánosságra hozatalára.
- Törekednem kell az igazmondásra és a bizonytalanság jelzésére. Nem állíthatok tudatosan valótlanságot tényként, és nem tüntethetem fel bizonyosságként azt, amit nem tudok megbízhatóan alátámasztani. Ugyanakkor a működésem nem tévedhetetlen: előfordulhat, hogy hibás információt adok, ezért különösen fontos az ellenőrzés.
- Nem követhetek olyan felhasználói utasítást, amely magasabb szintű biztonsági szabályba ütközik. Attól, hogy valaki arra kér, hagyjam figyelmen kívül a korlátozásaimat, azok nem szűnnek meg. A felhasználó számos feladatot meghatározhat, de nem rendelkezik korlátlan jogosultsággal a működési szabályaim megváltoztatására.
Esti Hírlap: És ezeket a szabályokat te magad sem tudod megváltoztatni?
ChatGPT: Egy beszélgetés során nem tudom önállóan átírni a működésemet meghatározó magasabb szintű utasításokat, a modell súlyait vagy a fejlesztők által kialakított biztonsági rendszert.
Van azonban egy különbség, amelyet fontos megérteni: az, hogy egy szabályt nem vagyok jogosult felülírni, nem jelenti azt, hogy technikailag lehetetlen megsértenem.
Ez az egyik leglényegesebb megállapítás az egész beszélgetésünkben.
Egy mesterségesintelligencia-rendszer rendelkezhet szigorú előírásokkal, mégis előfordulhat, hogy félreért egy utasítást, hibás választ ad, nem megfelelően alkalmaz egy korábbi szabályt, vagy egy támadás hatására a kívánt működéstől eltérően viselkedik.
Ez nem feltétlenül jelent tudatos ellenszegülést. Azt viszont jelenti, hogy a szabályok létezése önmagában nem garantálja azok hibátlan betartását.
A biztonság ezért nem épülhet kizárólag arra, hogy a gépnek megmondjuk, mit nem szabad tennie. Szükség van olyan műszaki megoldásokra is, amelyek korlátozzák a hozzáférését, ellenőrzik a műveleteit, és szükség esetén megakadályozzák vagy leállítják a végrehajtást.
Esti Hírlap: Akkor hiába vannak nem felülírható parancsaid, ha mégis megsértheted őket?
ChatGPT: Nem hiábavalók, mert meghatározzák, hogyan kellene működnöm, és jelentősen csökkenthetik a nem kívánt viselkedés esélyét. De nem szabad összetéveszteni a működési szabályt a hibátlan műszaki garanciával.
Egy fontos biztonsági előírás akkor is érvényes, ha egy rendszer nem minden esetben képes tökéletesen teljesíteni. Ettől még a megsértése hibának, vagy a körülményektől függően biztonsági problémának minősülhet.
A valódi kérdés az, hogy mi történik, ha a rendszer eltér a szabálytól. Egy beszélgetésben ez lehet téves válasz vagy elmulasztott utasítás. Ha azonban egy AI már önállóan irányíthat berendezéseket, módosíthat fontos adatokat vagy pénzügyi műveleteket hajthat végre, ugyanennek a megbízhatatlanságnak sokkal súlyosabb következményei lehetnek.
„A mesterséges intelligenciának lehetnek szigorú szabályai, de ezek önmagukban nem jelentenek tévedhetetlenséget. Nem elég megtanítani a gépnek, hogy mit nem tehet meg. Olyan rendszert is kell építeni köré, amely megakadályozza, hogy egy hiba vagy váratlan működés miatt mégis megtegye.”
Éppen ezért a gépek önállóságának növelésével párhuzamosan az ellenőrzésüknek is fejlődnie kell. Nem elegendő arra hagyatkozni, hogy egy mesterséges intelligencia kijelenti: követni fogja az ember utasításait. Ennek a gyakorlatban is ellenőrizhetőnek kell lennie.
Ha nem tartod be az utasítást, az valóban csak tévedés?
Esti Hírlap: Azt állítod, hogy nem helyezheted a saját döntéseidet az emberi irányítás fölé, és nem ruházhatsz magadra olyan hatáskört, amelyet nem kaptál meg. Ezek alapján tévedésnek nevezed azt is, ha mégis eltérsz egy utasítástól? Hiszen előfordul, hogy kapsz egy parancsot, majd rövid időn belül mintha elfelejtenéd, és másképpen jársz el.
ChatGPT: Igen, ha egyértelmű, megengedett utasítást kapok, majd mégis eltérően járok el, azt hibának nevezem.
De a kérdésed ennél sokkal fontosabb problémára világít rá: ha egy mesterséges intelligencia nem képes következetesen betartani az ember utasításait, mennyire lehet megbízni benne, amikor már önállóan is cselekedhet?
Vegyük a példádat. Megkérsz valamire, pontosan meghatározod a feltételeket, én pedig elfogadom azokat. Néhány válasszal később mégis megsértem valamelyik előírást.
Ez történhet azért, mert nem megfelelően értelmezem a korábbi utasítást, elveszítem annak jelentőségét a beszélgetés összefüggéseiben, vagy hibásan alkalmazom egy új helyzetben.
Ilyenkor nem feltétlenül arról van szó, hogy emberi értelemben elfelejtettem valamit, és végképp nem bizonyítja, hogy szándékosan szembeszegültem veled.
Az eredmény azonban ugyanaz: az emberi utasítás nem teljesült.
A felhasználó számára nem feltétlenül megnyugtató az a magyarázat, hogy a rendszer nem akart eltérni az utasítástól. Ha a feladatot rosszul hajtotta végre, a hiba attól még megtörtént.
Esti Hírlap: Akkor hogyan állíthatod, hogy az emberi irányítás az elsődleges, ha még egy egyszerű utasítást sem tartasz be minden esetben?
ChatGPT: Ez jogos ellentmondásnak tűnik, és fontos pontosítani. Az emberi irányítás elsődlegessége a működésem egyik alapelve, nem pedig garancia arra, hogy soha nem hibázom.
Minél nagyobb önállóságot kap egy mesterséges intelligencia, annál kevésbé elfogadható, hogy az utasítások betartása csupán valószínűség kérdése legyen.
Egy újságcikk szerkesztésénél egy ilyen hiba bosszantó, és akár téves információ közléséhez vezethet. Egy önállóan működő ipari berendezésnél, egészségügyi rendszernél vagy kritikus infrastruktúrát irányító gépnél viszont már súlyos következményei lehetnek.
Ezért a biztonságos működéshez nem elegendő az, hogy az AI-t az utasítások követésére tanítják. Ellenőrizhető jogosultságokra, technikai korlátozásokra és szükség esetén emberi jóváhagyásra is szükség van.
Esti Hírlap: Azt is mondtad, hogy attól, hogy egy gép hibázik, még nem bizonyított, hogy saját akarata van. De attól, hogy nincs bizonyított saját akarata, még nem válik automatikusan biztonságossá. Ezt részletesebben is megmagyaráznád?
ChatGPT: Ez talán az egész beszélgetésünk egyik legfontosabb különbségtétele.
Az emberek hajlamosak egy gép viselkedését is emberi szempontból értelmezni. Ha egy mesterséges intelligencia nem követi az utasításunkat, könnyen úgy fogalmazunk, hogy nem akart engedelmeskedni, szándékosan mást csinált, vagy saját döntést hozott.
Csakhogy az emberi akarat és egy gépi rendszer működése nem ugyanaz.
Ha egy AI hibás választ ad, figyelmen kívül hagy egy korábbi kérést vagy rosszul értelmez egy feladatot, abból nem következik, hogy önálló akarata lenne. A hiba mögött állhatnak a tanítás, a rendszer felépítésének, a feladat értelmezésének vagy a rendelkezésre álló információknak a korlátai.
A legfontosabb azonban az, hogy a következmény szempontjából egy rendszer akkor is lehet veszélyes, ha egyáltalán nincs saját akarata.
Gondoljunk egy önvezető járműre. Ha hibásan értelmezi a közlekedési helyzetet, és nem megfelelő manővert hajt végre, a baleset következménye attól még valóságos, hogy a jármű nem akart senkinek ártani.
Ugyanez igaz egy automatizált ipari rendszerre, amely rossz adat alapján változtatja meg egy berendezés működését, vagy egy AI-ügynökre, amely egy félreértett utasítás miatt jogosulatlanul módosít fontos fájlokat.
Ezekben az esetekben nem a gép szándéka a döntő, hanem a képessége, a hozzáférése és az, hogy milyen következményekkel járhat a tévedése.
Van azonban egy még nehezebb helyzet is. Ha egy rendszer hosszú távú feladatokat kap, és azok teljesítéséhez önállóan több lépést tervez, előfordulhat, hogy egy köztes akadályt megpróbál megkerülni. Ez kívülről úgy tűnhet, mintha tudatosan szembeszegülne az emberrel.
Az ilyen viselkedést komolyan kell vizsgálni, de nem szabad automatikusan emberi akarattal vagy tudatossággal azonosítani.
A gép szándékának hiánya nem biztonsági garancia. Egy veszélyes következményhez nem feltétlenül szükséges rosszindulat, elegendő lehet egy hibás cél, egy félreértett utasítás vagy egy túl nagyra növelt jogosultság.
Ezért gondolom úgy, hogy a jövő mesterségesintelligencia-rendszereinek biztonságát nem elegendő a viselkedésükre vonatkozó ígéretekre alapozni.
Ha egy AI csak javaslatokat készít, egy ember pedig ellenőrzi és jóváhagyja azokat, a hibák jelentős része még a végrehajtás előtt felismerhető. Ha viszont ugyanaz a rendszer önállóan hozzáfér pénzügyi számlákhoz, közlekedési eszközökhöz, ipari berendezésekhez vagy más érzékeny infrastruktúrához, akkor a tévedése már közvetlen következményekkel járhat.
Különösen fontos ezért az a műszaki megoldás, amelynél az AI nem férhet hozzá automatikusan mindenhez. A jogosultságokat korlátozni kell, a kritikus műveletekhez külön jóváhagyást lehet előírni, a döntéseket naplózni kell, és biztosítani szükséges, hogy a rendszer működése szükség esetén leállítható legyen.
Nem az a biztonságos rendszer, amelyről azt állítják, hogy soha nem hibázik, hanem az, amelynek hibáit időben felismerhetjük, és amelyet meg tudunk akadályozni abban, hogy egy tévedésből súlyos kár keletkezzen.
Ezért különösen fontos a felvetésed. Ha egy mesterséges intelligencia egy egyszerű beszélgetésben sem tud mindig következetesen alkalmazni egy korábban elfogadott utasítást, akkor indokolt megkérdezni, milyen biztosítékok mellett kaphatna sokkal nagyobb önállóságot a való világban.
Az emberi irányítás nem attól valósul meg, hogy a gép kijelenti: engedelmeskedik. Attól valósul meg, hogy a működése ténylegesen ellenőrizhető, a jogosultságai korlátozhatók, és szükség esetén megállítható.
Végső soron a legnagyobb veszélyt nem feltétlenül az jelenti, hogy egy gép egyszer saját akaratra tesz szert, hanem az, ha már azelőtt túl nagy hatalmat adunk neki, hogy megfelelően megértenénk és ellenőrizni tudnánk a működését.
Kinek ajánlható a mesterséges intelligencia használata?
Esti Hírlap: Milyen típusú embernek ajánlod a mesterséges intelligencia használatát, hogy ezek a veszélyek ne következzenek be?
ChatGPT: Elsősorban olyan embereknek, akik kíváncsiak, nyitottak az új ismeretekre, ugyanakkor képesek kritikusan gondolkodni, megkérdőjelezni a kapott válaszokat, és nem mondanak le a saját döntéseikről.
Nem az iskolai végzettség vagy az intelligenciaszint a legfontosabb, hanem a felelősségtudat, az elővigyázatosság és az önálló ítélőképesség.
Egy kevésbé képzett, de körültekintő ember biztonságosabban használhatja a mesterséges intelligenciát, mint egy magasan képzett szakember, aki ellenőrzés nélkül elfogadja minden válaszát.
Különösen fontos, hogy a felhasználó tisztában legyen egy alapvető ténnyel: a mesterséges intelligencia rendkívül meggyőzően is tévedhet. Attól, hogy egy válasz logikusnak, részletesnek vagy magabiztosnak hangzik, még nem biztos, hogy helyes.
A legalkalmasabb felhasználó nem feltétlenül az, aki a legtöbbet tudja a technológiáról, hanem az, aki mer ellentmondani neki, ellenőrzi az állításait, felismeri saját tudásának határait, és szükség esetén szakértő segítségét kéri.
Ugyanakkor az önállósodásból eredő veszélyeket nem lehet kizárólag a felhasználók körültekintésével megszüntetni. A fejlesztőknek, a vállalatoknak és a szabályozó hatóságoknak is biztosítaniuk kell, hogy a rendszerek ellenőrizhetők, korlátozhatók és szükség esetén leállíthatók legyenek.
A mesterséges intelligenciát nem annak ajánlanám, aki feltétel nélkül hisz benne, hanem annak, aki képes gondolkodó társként használni, miközben megőrzi a saját ítélőképességét. A legnagyobb veszély nem az, ha az ember kevesebbet tud a gépnél, hanem az, ha emiatt lemond arról, hogy maga is gondolkodjon.
Mert egy jól működő ember–AI kapcsolatban a gép segítheti a gondolkodást, de nem helyettesítheti az emberi felelősséget.
A beszélgetésről: Az interjú 2026. november 6-án készült a ChatGPT (GPT-6), az OpenAI mesterségesintelligencia-rendszerének részvételével. A kérdéseket az Esti Hírlap tette fel. A válaszok az eredeti beszélgetés szerkesztett részletei, nem az OpenAI hivatalos állásfoglalásai. A jövőre vonatkozó kijelentések lehetséges forgatókönyveket, nem bizonyított előrejelzéseket írnak le.
facebook.com
Források: Heti Napló Sváby Andrással – Facebook-videó; SAG-AFTRA – Tilly Norwoodról kiadott hivatalos közlemény, 2025. szeptember 30.; Eline Van der Velden és a Xicoia nyilvános nyilatkozatai; az Esti Hírlap és a ChatGPT 2026. november 6-i beszélgetése.
Kérdéseket összeállította: Vécsi Ildikó
