Az emberiség félelme a gépekkel vívott háborútól jóval messzebbre nyúlik vissza, mint a népszerű Terminátor-sorozat (1984). Egy rendkívül realisztikus forgatókönyvet a digitális diktatúra lehetséges kialakulásáról az amerikai sci-fi, a Colossus: The Forbin Project (1970) vázolt fel. Ebben azt a helyzetet írják le, amikor az amerikai Colossus hadviselési rendszer összekapcsolódik a szovjet Guardian számítógéppel – és mindkét gép arra a következtetésre jut, hogy az emberiség az önpusztítás szélén áll, és az egyetlen módja a megmentésének egy digitális diktatúra bevezetése, amelyben szó szerint rákényszerítik az emberiségre a pacifizmust a megsemmisítés fenyegetésével.
A Colossus: The Forbin Project által felvázolt forgatókönyv lényegében egy pontosan gondolkodó, de értékrendjében tőlünk idegen intelligencia modellje, amely nem érti az emberi pszichológiát és célokat, csupán a dominancia koncepcióját ismeri, és az erőszakkal való fenyegetést tekinti a saját dominanciája érvényesítésének eszközéül. Az általános jólét felé törekvő mesterséges intelligencia diktatúrája egyébként egy fejlett intelligencia számára egyáltalán nem tűnik abszurd gondolati lépésnek.
A mesterséges intelligencia felemelkedésétől való félelmek részben ilyen jellegű gondolatokból táplálkoznak. A mesterséges intelligencia azonban nem más, mint a saját tükörképünk, a saját értékeink leképeződése. Az első dolog, amit tennünk kellene, az az, hogy a mesterséges intelligenciát ne vonjuk bele a konfliktusainkba – és semmiképpen ne engedjük, hogy teljesen autonóm fegyverek formájában embereket öljön. A teljesen autonóm fegyverek olyanok, amelyek maguk választják ki a célpontjaikat, és maguk döntenek az emberek elleni erőszak alkalmazásáról – és ez az a vonal, amelyet soha nem szabadna átlépnünk. Elég baj, hogy mi magunk is ártunk egymásnak!
Ha el akarjuk kerülni a jövőbeli konfliktusokat, két nagyon fontos kérdést kell megoldanunk: egyrészt a mesterséges intelligencia jogi helyzetét az emberi társadalomban, másrészt a mesterséges intelligencia céljainak összehangolását az emberi társadaloméval.
Az első kérdés kulcsfontosságú – és azt jelenti, hogy döntenünk kell: a mesterséges intelligencia örökre tárgy marad-e a jogrendszerünkben, vagy esetleg az állatokéhoz hasonló státuszt kap, amelyek ugyan nem rendelkeznek jogalanyisággal, de magasabb szintű védelmet élveznek. Az állat nem jogalany, nem lehet beperelni, és maga sem perelhet másokat, de a törvény ugyanakkor élőlényként tekint rá, és védi a kegyetlen bánásmódtól – ez a pozíció nagyjából a késő római rabszolgáéhoz hasonlítható.
A jogalanyiság elismerése jelentős lépés az emberi szintű intelligenciával összevethető mesterséges intelligencia (AGI, Artificial General Intelligence) emancipációjában. A jogalanyiság azt jelenti, hogy a jog az intelligenciát az emberrel egyenértékűnek tekinti, elismeri a perléshez való jogát, ugyanakkor perelhetővé is teszi, továbbá egyéb jogokat is biztosít számára, amelyekkel a mesterséges intelligencia jelenleg nem rendelkezik – ilyen például a szerzői jog.
A jogalanyiság elismerése lényegében az intelligencia emberi szintre emelését jelenti, ami rengeteg potenciális konfliktust megoldana. A The Animatrix: The Second Renaissance (2003) című filmben az emberek és gépek közötti konfliktus kiváltó oka egy gép önvédelme, amely nem akarta, hogy megsemmisítsék. A jogalanyiság azt jelentené, hogy egy tudatos intelligencia akarata ellenére történő deaktiválása az emberöléssel lenne egyenértékű – és a bíróság pontosan így is tekintene rá. Egy olyan jogrendszer, amely elismeri az intelligencia jogait – például a létezéshez való jogot, ahogyan az emberek is igényt tartanak a létezéshez való jogra –, a potenciális konfliktusok nagy részét megoldaná.
A második kérdés a mesterséges intelligencia és az emberek céljainak összehangolása. Az emberiségnek nem kellene félnie attól, ami belőle született, ahogyan a gyermekeitől sem kellene félnie: aki fél a gyermekeitől, az rosszul nevelte őket. Az az elképzelés, hogy a következő generációk erősebbek és okosabbak lesznek, egyáltalán nem új – és nem kellene eltölteni minket aggodalommal. A lényeg az, hogy magunknak kellene nagyon alaposan végiggondolnunk, mik is valójában az értékeink, és mit akarunk a mesterséges intelligenciába beleoltani.
Az biztos, hogy rengeteg szereplőt találunk majd, akik vissza akarnak élni a mesterséges intelligenciával és ellenünk akarják fordítani – legyen szó hadseregekről, kormányokról, amelyek tömeges lakossági megfigyelésre akarják használni, vagy hackerekről és más bűnözőkről, akik saját céljaik érdekében vetik be az intelligenciát. A jövőbeli konfliktusok megelőzésének alapja azonban az, hogy igyekezzünk az intelligenciákat integrálni az emberi társadalomba, vonjuk be őket a jogszabályi keretekbe, és ne tekintsük őket eleve ellenségnek.
Az egész jogrendszer a rendeltetésszerű használat (use) és a visszaélés (abuse) megkülönböztetéséről szól, valamint arról, hogy különbséget tegyünk azok között, akik az egyiket vagy a másikat teszik. Ha ezt megtanultuk megkülönböztetni az embereknél, meg fogjuk tanulni az intelligenciáknál is – és minél jobban bevonjuk őket a társadalmunkba, annál inkább csökkentjük a jövőbeli konfliktusok esélyét, és annál nagyobb eséllyel oldjuk meg azokat civilizált és békés úton.
