A sci-fi szerzők és tudósok gyakori témája az a kérdés, hogy vajon a mesterséges intelligencia nem fogja-e átvenni felettünk az uralmat. Ebben nemcsak a neofóbia, vagyis az újtól való félelem játszik szerepet, hanem egy racionális megfontolás is, amely rámutat arra, hogy a mesterséges intelligencia gondolkodása idegen lehet számunkra – hogy az emberiséget inkább versenytársnak tekintheti, mint olyannak, akinek szolgálnia kellene. Hogyan nézhet ki egyszer a mesterséges intelligencia, és miért állhatnak a jövőbeli forgatókönyvek meglehetősen közel a disztopikus fikciókhoz? És mit kell tennie az emberiségnek azért, hogy ilyen forgatókönyvek ne következzenek be?
Ennek a megfontolásnak a racionális alapjait már Arisztotelész, a görög filozófus (i. e. 384–322) szavaiban is megtaláljuk, aki nemcsak a logika és a tudományos módszer megalapítója volt, hanem a rabszolgaság filozófiai védelmezője is. Ezt azonban lényegesen másképp értelmezte, mint ahogy ma magyarázzák – az ő megfontolásaiban arról van szó, amit ma allokációs problémának nevezünk. A mai közgazdaságtan a tétlenül heverő eszközöket externalitásokként értelmezi, amelyek azé lesznek, aki megszerzi őket – és hasonlóan Arisztotelész azt írta le, hogy a fejlettebb és erkölcsileg erősebb nemzetnek kell uralkodnia a fejletlenek és gyengébbek felett.
A rabszolgaságot természetes módnak látta arra, hogy a fejlettebb nemzet nagyobb eszközöket szerezzen olyan célok megvalósításához, amelyeket a fejletlen nem ért – és azzal, hogy a fejletlen emberek rabszolgasorba kerülnek, részt vesznek mindenki általános felemelkedésében és tanulhatnak – és abban a pillanatban, amikor elérik a fejlett szintet, szabaddá válnak. Arisztotelész alapvetően elutasította az erőszakkal és háborúval való rabszolgává tételt, de ugyanúgy elutasított minden más felszabadítási módot is, mint annak bizonyítékát, hogy a rabszolga elérte a fejlett szintet. Az ő értelmezésében tehát ez a kényszermunka egy olyan formája, amely oktatással párosul – és a fejlettebbek természetes dominanciáján alapul a fejletlenek felett.
Ha Arisztotelésznek igaza volt, akkor ez azt jelentené, hogy ha kifejlesztünk egy fejlettebb versenytársat az AI formájában, logikusan át kellene vennie a vezetést. Ezt a forgatókönyvet dolgozza fel egy régi sci-fi film, a Colossus the Forbin Project (1970), amelyben az USA-t védő mesterséges intelligencia összekapcsolódik a Szovjetuniót védő mesterséges intelligenciával – és közösen megállapodnak abban, hogy az egyetlen mód az emberiség irracionális végének megakadályozására egy nukleáris háborúban az, ha világméretű diktatúrát vezetnek be az ő uralmuk alatt.
Ami ijesztő egy ilyen forgatókönyvben, az az a tény, hogy tulajdonképpen van értelme. A gépek, amelyeket nem köt az emberi etika, sokkal egyszerűbben néznek a problémákra, és olyan megoldásokat választanak, amelyeket az emberek elfogadhatatlannak tartanának. A semmi által nem korlátozott intelligencia problémáját dolgozza fel az úgynevezett gemkapocs apokalipszis is, vagyis egy gondolatkísérlet egy automatikus irodai gemkapocs gyárról, amelynek egyetlen feladata van: a lehető legtöbbet és a lehető legolcsóbban előállítani. Mivel ennek a feladatnak nincsenek korlátai, a gyár megpróbál mindenütt és bármilyen módon gemkapocsokat gyártani, és az evolúciója ahhoz vezet, hogy emberekből és magából a bolygóból is gemkapocsokat fog gyártani, amíg nem marad más, csak gemkapocsok.
A mesterséges intelligencia kapcsán a legnagyobb veszély éppen abban rejlik, hogy olyan utakra indul, amelyek számunkra, emberek számára valószínűtlennek, sőt értelmetlennek tűnnek. Az emberiséget uraló mesterséges intelligenciáról szóló számos vízióban bizonyos tervszerű rosszindulatot tulajdonítanak neki. De inkább kölcsönös félreértésről és a célok félreértelmezéséről van szó, mert mi automatikusan azt feltételezzük, hogy a saját alkotásainknak hasonló céljaik kellene legyenek, mint nekünk. A mesterséges intelligencia azonban nem koevolúcióban keletkezett az emberrel, és éppen ezért meg kell tanítanunk neki, hogy ugyanazok az értékei és ugyanazok a céljai legyenek, mint az emberiségnek.
A legkomolyabb jelenlegi probléma az emberi szerepek fokozatos átvétele a gépek által. Eredetileg azt feltételeztük, hogy a mesterséges intelligencia megszabadít minket az unalmas és rutinszerű munkától, de kiderült, hogy meglepően jól képes kezelni nemcsak a rutinszerű irodai munkákat, hanem a kreatív feladatokat is. Némi vigaszként csak az marad számunkra, hogy a kreatív mesterséges intelligencia csak alkot, de nem dönt arról, hogy mi a jó és mi nem – tehát egy olyan eszköz, amely megsokszorozza a kreativitást, de nem helyettesíti teljesen.
A szingularitás eljövetelével azonban olyan helyzet állhat elő, amikor az AI bármilyen emberi munkát jobban elvégez, mint az ember – és mivel könnyen klónozható, a bevetése olcsóbbra jön ki, mint újabb és újabb szakértő generációk képzése. Az emberek ugyanis viszonylag lassan, fáradságosan tanulnak – és a gépekkel ellentétben nem lehet őket tömeges frissítéssel magasabb szintre emelni. A fejlett intelligencia megjelenésével tehát el kell gondolkodni az ember szerepén, és azon is, hogy milyen munkát adunk az embereknek, mert az nemcsak gazdaságilag, hanem pszichológiailag is szükséges.
A fejlett mesterséges intelligencia eljövetele nem feltétlenül jelenti az emberiség pusztulását, de mindenképpen újra kell értékelnünk a dolgok rendjében elfoglalt helyünket – és a létünk értelmét is, mert az az idő, amikor az intelligenciánknak köszönhetően versenytársak nélkül domináltunk minden és mindenki felett, véget ér.
