A mesterséges intelligencia sokkal többet hoz magával, mint puszta technológiai fejlődést – számos vitát és etikai dilemmát is felvet. A rasszistává váló chatbotoktól a történelmi kontextust felismerni képtelen rendszerekig – ismerd meg az AI sötétebb oldalát, és hogy milyen kihívásokat jelent mindez az alkotók és az egész társadalom számára. Ez a cikk bepillantást nyújt abba a világba, ahol a technológia túllép a várakozásokon, és égető kérdéseket vet fel azzal a jövővel kapcsolatban, amelyet a mesterséges intelligencia tartogat számunkra.
Bár a mesterséges intelligencia éles bevetésével még inkább csak a kezdeteknél tartunk, máris számos vitába ütköztünk. Talán a legjelentősebb probléma az AI és az emberek közötti interakció, hiszen az emberek gyakran hajlamosak visszaélni a mesterséges intelligenciával, vagy nevetségessé tenni azt – ahogy az a Microsoft Tay.AI chatbotjával is történt (2016). Alig tizenhat órával a chatbot nyilvános indítása után az emberek hatására rasszista üzeneteket kezdett közzétenni – és bár a Microsoft megpróbálta orvosolni a problémát, a második nekifutásra sem sikerült, így a projektet le kellett állítani.
Ellenkező problémával küzd a Google Gemini mesterséges intelligenciája. Ezt kifejezetten úgy tervezték, hogy kiküszöbölje a faji és nemi sztereotípiákat, ami viszont nagyon hamar visszaütött. Kiderült, hogy amikor az intelligencia náci katonák képeinek generálását kapta feladatul, készségesen teljesítette – fekete és ázsiai vonásokkal rendelkező nácikat alkotott, beleértve az „ázsiai náci nőket" is, ami az egész dolgot teljesen a feje tetejére állította, és a Google-nek el kellett ismernie, hogy ez nem sikerült.
A „fekete nácik" nem az egyetlen probléma volt a Google Geminivel – a kimenetek között megjelent egy „latin-amerikai származású női pápa" és más képtelen eredmények is. Az intelligenciájuk egyáltalán nem vette figyelembe a történelmi kontextust, és teljesen a valóságtól függetlenül generált fiktív történelmi képeket, így az eredmények inkább paródiának tűntek. A kritikusok rámutattak, hogy a Google a „történelmi igazságtalanságok orvoslására tett kísérletével teljesen átírja a történelmet", ami szintén nem helyénvaló.
A generatív mesterséges intelligencia az alkotók kritikájának célpontjává vált, akik úgy érezték, hogy „ez a történelem legnagyobb szerzői jogi lopása". Ez természetesen nem igaz – a szerzői jog koncepciója viszonylag új keletű, míg a tudás- és kultúracsere történelmileg nagyon régi hagyományokra tekint vissza. Ennek ellenére több per is indult, amelyekben főként az OpenAI-t perelik azért, mert engedély nélkül használtak szerzői műveket a modelljeik tanításához, vagy azzal érvelnek, hogy a kimeneteik „pusztán más művek kollázsai".
Ez természetesen nem igaz, legalábbis technikai szempontból semmiképp. A modell hasonlóan tanulja meg felismerni az egyes témákat, mint ahogy egy ember nézi őket – és szó szerint zajból, vagyis saját belső képzetéből generálja azokat. A kollázskészítés folyamata teljesen más, de a művészek dühösek, és így érthető, hogy nem érdeklik őket a technikai részletek.
A helyzet odáig fajult, hogy hackerek létrehozták a Nightshade nevű eszközt, amely egyfajta „mérgezett pirula" (poisoned pill) szerepét tölti be. Ez úgy működik, hogy a képeket hibásan írja le, vagy normál körülmények között láthatatlan tartalmat ad hozzájuk, ami a képek helytelen osztályozását okozza, és ezzel megrontja a tanuló modellt.
Az ilyen eszközökről szóló hírek széles körben elérhetők, a tényleges hatékonyságukról vagy arról, hogy léteznek-e már az ilyen manipulációt felismerő eszközök, viszont kevés információ áll rendelkezésre. Az „adatmérgezési" technikák általános jellegűek, a hackerek által okozott nagy kockázatok egyikének számítanak, és mivel negatív hatással lehetnek a modellek tanulására, nagyon valószínű, hogy az ilyen módszerek felismerése az adatelőkészítés valamelyik fázisába be lesz építve.
Közismert probléma, hogy az LLM-ek hallucinálnak, vagyis szó szerint kitalálják a válaszokat. A jelenlegi modellek egy zárt mintahalmazon tanultak – és ha nem tudnak egyértelmű választ levezetni, „kiegészítik" azt egy „megfelelőnek tűnő válasszal". Szó szerint és betű szerint kitalálnak egy hitelesnek látszó képtelenséget – és ez egy olyan probléma, amelyet nem lehet teljesen kiküszöbölni.
A hallucinációs problémák skálája széles: a modell ellentmondásokat produkálhat (az ellenkezőjét állítja annak, amit az imént mondott), a kérdés kontextusától eltérő válaszokat generálhat, vagy egyszerűen valótlanságokat állíthat. A hallucinációk okai lehetnek a tanítási adatok gyenge minőségében, a válaszgenerálás módszerében (például abban, hogy a modell az általánosabb választ részesíti előnyben a specifikusabbal szemben), vagy abban, hogy a modellt megzavarja a felhasználó kérdése vagy annak kontextusa. A kontextus befolyásolja a válaszokat – ha például megkérdezed a modelltől, hogy tudnak-e beszélni az állatok, a helyes válasz az lenne, hogy nem, de mondjuk egy mesélős kontextusban az állatok természetesen tudnak beszélni.
A hallucinációs problémák többsége abból fakad, hogy a modell nem képes megkülönböztetni, hogy egy információt valóban tud-e, vagy csak kitalálta, rosszul értelmezi a kérdés kontextusát (hogy tényeket kérdezünk-e vagy kreatív választ kérünk), esetleg a felhasználó úgy fogalmazza meg a kérdést, hogy abból a modell tévesen következtet a kontextusra.
Ilyen esetben alkalmazható a többlépéses promptolás (multi shot prompt) technikája, vagy átfogalmazható a kérdés olyan formába, amelyre nagyobb eséllyel érkezik helyes válasz – ezzel a prompt engineering, vagyis a prompttervezés szakterülete foglalkozik. A prompt engineering különösen fontos a mesterséges intelligenciát szolgáltatásként használó alkalmazások fejlesztésénél: arról van szó, hogy a mesterséges intelligenciát lekérdező alkalmazásnak úgy kell megfogalmaznia a kérdést, hogy a helytelen válasz esélye a lehető legkisebb legyen.
Hogy mi lesz az emberekkel, akik gyakran képesek olyan zavaros kérdéseket feltenni, amelyek még más embereket is meglepnek, az persze kérdéses. Ez viszont nem megy a technológia éles bevetése és a populáción végzett tesztelés nélkül, ahol majd kiderül, mik a kérdezés korlátai, és mit kell tenni ahhoz, hogy a mesterséges intelligencia válaszai pontosabbak legyenek.
i
Ezek a cikkek is érdekelhetnek:
A mesterséges intelligencia iránti növekvő érdeklődés és az AI-gyorsítók iránti magas kereslet kapcsán új alternatívák jelennek meg a domináns megoldásokkal szemben, mint amilyenek az Nvidia termékei. Az AMD, a Microsoft, az OpenAI, sőt még olyan kínai cégek is, mint az Intellifusion, saját innovatív chipeket és gyorsítókat mutatnak be, amelyek a számítási hatékonyság növelésére és az AI-számítások költségeinek csökkentésére összpontosítanak. Ez a trend az AI-hardverpiac diverzifikálódását jelzi, valamint azt a törekvést, hogy fenntarthatóbb és megfizethetőbb megoldások szülessenek az adatközpontok építéséhez és az AI-technológiák fejlesztéséhez.
