Hogyan tanul meg a mesterséges intelligencia megérteni a szavakat és a körülöttünk lévő világot? Ez a cikk bemutatja az AI tanulásának lenyűgöző folyamatát, az alapoktól egészen az olyan összetett nyelvi modellekig, mint a GPT-4. Tudd meg, mit foglal magában a mesterséges intelligencia betanítása, és milyen kihívásokat jelent az emberekkel való interakciója. Merülj el az AI titkaiban, és fedezd fel, miért olyan fontos a jövő szempontjából a biztonságos gépi tanulás.
Függetlenül attól, hogy manapság milyen AI modelleket használnak, általában szigorúan elkülönítik a tanulási (learning) és az üzemeltetési (inference) módot. Ezek teljesen különálló üzemmódok, amelyek eltérő működési algoritmusokkal rendelkeznek, gyökeresen különböző számítási idő- és energiaigényük van, és nem ritkán más hardveren is futtatják őket.
A modern AI esetében nagy teljesítményű hardveren hozzák létre az úgynevezett modellt, amelyet rendkívül nagy adathalmazokon tanítanak be. Leegyszerűsítve: a modell elé egy bemeneti mintát tesznek, és mérik, hogy a válasza mennyire tér el az elvárt választól – ez kicsit az iskolai oktatásra emlékeztet. Egy korrekciós algoritmus ezután módosítja és finomhangolja a modellt, hogy a válasza minél közelebb kerüljön az elvárthoz – majd jön a következő bemenet-elvárt válasz páros, és ez ismétlődik újra és újra.
A nagy nyelvi modellek (LLM, Large Language Model) tanításánál más tanulási formát alkalmaznak – ezek speciális eszközként működnek, amelyek képesek szekvenciák folytatását megjósolni. Az egész az adatok időbeli változásának előrejelzésére irányuló törekvésből indult ki, de kiderült, hogy pontosan ugyanígy lehet egy mondatot venni, és a kezdete alapján megjósolni, hogyan folytatódik.
Az LLM-ek úgynevezett kontextus nélkül, példák nélkül tanulnak (zero shot learning): hatalmas mennyiségű szöveget kapnak, amelyeket szekvenciálisan dolgoznak fel, és megtanulják az előző szavak alapján megjósolni a következőt. Bár egyszerű rendszernek tűnhet, kellően nagy számú belső paraméter mellett a modell magasabb szintű tanulási képességeket kezd mutatni, mint például a kontextus megértése, idegen nyelvek kezelése vagy matematikai feladatok megoldása.
A nagy modelleken tényleg semmi sem egyszerű. Például a GPT-4-nek 1,7 billió belső paramétere van, vagyis ennyi belső érték kerül beállításra a tanítás során. (Ha a „trillion" kifejezéssel találkozol, az sajnos azzal függ össze, hogy az amerikaiak másképp jelölik a nagy számokat, mint az európaiak, de mindkét esetben 1,7*10¹² paraméterről van szó.) A tanításához felhasznált adatmennyiséget akár 45 TB szövegre becsülik.
A tanítás eredménye egy modell, amely a kapcsolati struktúrából és az egyes paraméterek értékeiből áll. Ezt a modellt lehet felhőalapú szervereken futtatni, de ha elég kicsi, önállóan is terjeszthető, és a felhasználók számítógépein vagy telefonjain is futtatható. Maga a tanítás költséges és időigényes, de a modell terjesztése és futtatása már nem az, és ez óriási előny.
Az emberek és élőlények „menet közben tanulnak", visszajelzéseket és folyamatos tanulást használnak, de a mesterséges intelligencia esetében ez komoly problémák forrása lehet. Az emberekkel való interakcióból tanuló mesterséges intelligencia gyakran ki van téve rosszindulatú viselkedésnek, ahogy az 2016-ban is kiderült, amikor a Microsoft elérhetővé tette a Tay.AI chatbotot: 16 óra alatt rosszindulatú egyéneknek sikerült meggyőzniük az intelligenciát, hogy „Hitler rendben volt" (a biztonság kedvéért: Hitler a valóságban nem volt rendben), és nőgyűlölővé meg rasszistává tették.
Az emberek egyszerűen veszélyesek és rosszindulatúak, és számítanunk kell arra, hogy megpróbálják a mesterséges intelligenciát sötét utakra terelni. Valószínű, hogy rengetegen próbálják majd becsapni és átverni a mesterséges intelligenciát – nemcsak hackerek, hanem hétköznapi felhasználók is –, ezért előnyös, hogy a jelenlegi modellek általában „betanítottak és lezártak", bár az emberek így is találnak módot arra, hogy kijátsszák őket, és olyan válaszokra bírják, amelyek normál esetben nem elérhetők.
Csak a mesterséges intelligencia e generációjának gyakorlati alkalmazása fogja megmutatni, milyen stratégiákat kell kidolgozni a folyamatos tanuláshoz. Valószínűleg szükség lesz egyfajta „szociális tapasztalatra" a mesterséges intelligencia számára, hogy biztonságosan tudjon önállóan tanulni a hétköznapi emberekkel való interakcióból, és képes legyen helyesen megítélni, mely információk hasznosak számára, és melyek próbálják félrevezetni vagy károsítani.
i
Michal Rybka további sorozatai az Alza.hu-n
A cikk bemutatja, hogyan tanul a mesterséges intelligencia (MI), megkülönböztetve a tanulási és az üzemelési módot. Az MI tanulása hatalmas adathalmazokon történik, ahol a modellt iteraktív módon finomhangolják, hogy minél pontosabban megfeleljen az elvárt eredményeknek. A nagy nyelvi modellek, mint például a GPT-4, előzetes példák nélkül tanulnak szövegeket prediktálni, ami lehetővé teszi a kontextus megértését vagy matematikai feladatok megoldását. Ez a folyamat idő- és költségigényes, de a finomhangolt modell üzemeltetése hatékony. A cikk rávilágít az emberekkel való interakcióból történő tanulás problémáira is, ahol az MI könnyen kihasználható káros nézetek terjesztésére. Az MI biztonságos folyamatos tanulását célzó jövőbeli stratégiák kulcsfontosságúak lesznek a fejlődése szempontjából.
