Amikor a robotok átveszik a hatalmat: szolgálhat, megóvhat, de ölhet is a mesterséges intelligencia

Robotújságírókat vetett be a norvég NTB hírügynökség a hétfői parlamenti választások idejére. Ez volt az első alkalom, hogy az egyes választókerületek eredményeiről tudósító híreket egy számítógépes program írta. A robot a minőségi újságíráshoz munkaerőt szabadít fel. Így az újságíróknak több idejük marad, hogy mélyreható kutatásokat végezzenek. A közeljövőben az sem elképzelhetetlen, hogy egy program interjúkat tudjon készíteni.

 Ügyvédrobotok indítanak pert

Előfordulhat, hogy a robotok átveszik majd az oknyomozó újságírók feladatait? Dr. Jelasity Márk, az SZTE Számítógépes Algoritmusok és Mesterséges Intelligencia Tanszékének vezetője szerint ez még a science-fiction kategória.

– Amikor valamit mélyen meg kell érteni, és abból egy komplex szöveget produkálni, az még nem megy a mesterséges intelligenciának. Itt még nem tartunk – mondja a szakember. Hozzáteszi: – Olyan robotok azonban már léteznek, amelyek ügyvédek szerepét veszik át: robottal is lehet pereket indítani. Sőt, tőlünk nyugatabbra ezt már tömegesen meg is teszik. Parkolási bírságok esetében például végigvisznek egy egész jogi procedúrát. Persze kísérleteznek azzal is, hogy regényeket, verseket írassanak mesterséges intelligenciával, de jelenleg ez a legtávolabbi elérhető cél a számára.

 Összezúzta élő ellenfelét

Ellenben sok területen már régen túlnőttek az emberi intelligencián. Biztosan sokan emlékeznek, amikor a kilencvenes években először legyőzte sakkozó robot a világ legjobban sakkozó embereit – nagy mérföldkőnek számított. Az elmúlt másfél év ilyen mérföldköve a go játék (fekete és fehér korongokkal játszott táblajáték). Azt gondolta a tudományos kutatóközösség, hogy még nagyjából egy évtized szükséges, mire az emberi világbajnokot meg tudja verni egy mesterséges intelligencia. A Google kutatócsoportja másfél éve elérte.

A közelmúlt másik nagy áttörése: az a mesterséges intelligencia, ami jobban tud pókerezni, mint az emberek. Egy-két évvel ezelőtt még ez is nagyon távolinak tűnt. A legújabb történelmi jelentőségű lépés: az Elon Musk által támogatott OpenAI startup mesterséges intelligenciája elpusztította Danylo „Dendi" Ishutin profi Dota 2-játékost egy élő egy az egy elleni meccsen. Korábban még soha nem tudott mesterséges intelligencia legyőzni profikat kompetitív e-sportban.

 A Dota 2 egy ingyenesen játszható stratégia játék. A mesterséges intelligencia mindössze két hétig tanulta a játékot valós időben, és ez idő alatt kvázi egy életnyi tapasztalatot gyűjtött össze. Manővere tulajdonképpen már emberinek tűnt, miközben egyszerűen összezúzta élő ellenfele megoldását.

 Okosabb, mint a tervezője

 Ma már mindennapos téma, hogy a hazafelé tartó önvezető autóból miként lehet az otthoni hűtőgépet szabályozni, hogy megfelelő hőmérsékletűre hűtse a sört, vagy épp intézkedjen a hiányzó ital beszerzéséről. A technológia olyan szintet ér el, hogy már nemcsak egyszerűen technikai vívmányokról beszélünk, hanem a napi életben megjelenő, az emberi intelligenciával versenyre kelő megoldásokról.

A mesterségesintelligencia-rendszer összefüggéseket ismer fel, önmagát fejleszti, és okosabbá válhat, mint mi vagyunk. A rendszer okosabb lesz, mint a tervezője. Pedig amikor egy ilyen rendszer elkészül, még annyit sem tud, mint az őt készítő ember. De azután elkezd tanulni, és egy bizonyos idő után, ha ezt az öntanulási folyamatot nem úgy valósítjuk meg, hogy az kontrollálható legyen, elképzelni sem tudjuk, hogy hová fejlődik.

Emiatt fogalmazódnak meg mostanában Elon Muskéhoz hasonló apokalipszissel fenyegető gondolatok. Az amerikai üzletember – nevéhez fűződnek a Zip2, az X.com, a PayPal, a SpaceX, a Tesla Motors és a SolarCity vállalkozások – nem győzi hangsúlyozni, hogy a fejlesztőknek most kell a biztonsági megoldásokról is gondoskodniuk, mert különben késő lesz.

Olyan robotok azonban már léteznek, amelyek ügyvédek szerepét veszik át: robottal is lehet pereket indítani.  Parkolási bírságok esetében például végigvisznek egy egész jogi procedúrát.

Dr. Jelasity Márk, az SZTE Számítógépes Algoritmusok és Mesterséges Intelligencia Tanszékének vezetője

 Végzetes megoldások

– Ezeket az aggodalmakat nagyon is komolyan lehet venni, nem szabad lesöpörni az asztalról. Vannak nagyon okos emberek, filozófusok, akik könyveket is írtak erről a témáról, pl. Nick Bostrom a Superintelligence-ben. Utóbbi végkicsengése, hogy az apokalipszis nagyjából elkerülhetetlen. Az a baj, ha bonyolult rendszereket tervezünk, akkor a célokat nehéz pontosan megfogalmazni – magyarázza dr. Jelasity Márk. Példát is mond: – A porszívórobotba építenek egy koszszenzort. Az a cél, úgy programozzuk, hogy a szenzorból ne jöjjön jel, vagyis ne legyen kosz. Ezt a feladatot azonban kétféleképpen lehet megoldani: ha a robot felporszívózik, vagy ha tönkreteszi a koszt jelző szenzort. Ha elég okos a robot, azt fogja csinálni egy idő után, hogy nekirohan a falnak, és tönkreteszi a saját szenzorát. Én jóra gondoltam, csak ő egy másik megoldást talált ki. Ugyanazt a célt érte el, amit én adtam neki – mutat rá a tanszékvezető.

Egy drasztikusabb példát is hoz: az ápolórobotnak azt a célt adom, hogy csökkentse a páciensek szenvedéseit. Azt lehet úgy is csinálni, ahogy kell, meg úgy is, hogy megöli az ápoltjait. Ha erre nem gondolok előre, és nem zárom ki ezt a lehetőséget, mesterséges intelligencia szempontjából egy teljesen elfogadható megoldás, hiszen neki nincsenek erkölcsei.

Probléma az önvezető autókkal?

– A probléma ott kezdődik, amikor viszonylag magasrendű célokat programozok ezekbe a rendszerekbe, akkor nagyon oda kell arra figyelni, hogy milyen korlátokat állítok fel. Nagyon nehéz tökéletes rendszert alkotni ebből a szempontból, és ha a mesterséges intelligencia lényegesen erősebb mint az emberi, akkor garantált, ha létezik rövidebb út, akkor azt meg fogja találni, és az nekünk nem biztos, hogy jó lesz. Egyelőre még nem tartunk itt, de ezzel komolyan foglalkozni kell – figyelmeztet dr. Jelasity Márk. Amikor azt kérdezzük tőle, mikor következik be, hogy az említettek reális veszélyt jelentsenek, elmondja: őt például az önvezető autók már most aggasztják.

 – Olyan komplex rendszer, amelyben sok dolognak kell együttműködni, bonyolult döntéseket kell hozni. Gondoljunk bele egy baleseti helyzetben, milyen döntést hoz a mesterséges intelligencia: Kit kell mondjuk elütnie ahhoz, hogy a sofőrjét megvédje? De biztos őt kell védenie, ha ennek az az ára, hogy egy óvodáscsoportba hajt az autó? Ha egy ember ülne a volánnál – nem tudjuk, ki milyen döntést hozna –, de lehet, hogy inkább nekimenne egy oszlopnak, és a saját épségét kockáztatná, mint hogy gyerekeknek ártson...

Napjainkban a marketing területén alkalmazzuk a legtöbb mesterséges intelligenciát. A különböző nagyvállalatok rengeteg adatot szednek össze a felhasználókról és ezek alapján megpróbálják az emberek jövőbeni tevékenységeit modellezni, majd termékeket ajánlanak nekik. Ez elképesztően nagy piac, a mesterséges intelligencia kutatások nagy része jelenleg erre irányul. Az okosotthon térnyerése is egyre jellemzőbb. – Mindezekkel csak az a baj, hogy a folyamat során a magánélet és a magánszféra védelme elég komoly csorbát szenved. Aggasztó, hogy mennyi mindent tudnak rólunk ezek a cégek. Megfigyelik a szokásaimat, a személyiségemet. Jobban ismernek, mint a saját anyám. Ez egy kicsit azért ijesztő – mondja dr. Jelasity Márk. Hozzáfűzi: – Záros határidőn belül nem lesznek titkaink. Nemrég például kifejlesztettek egy olyan programot, amihez semmi más nem kell, csupán egy fénykép, és 90 százalékos pontossággal megmondja valakiről, hogy homoszexuális vagy sem. Az egy-két éve kifejlesztett algoritmusokkal lehetségesek ezek a teljesítmények.