AI: A mesterséges intelligencia és a kriptovaluták összekapcsolása a technológiai világ egyik leggyorsabban növekvő trendje. Míg a támogatók jövőt látnak az autonóm AI ügynökökben, akik az emberek helyett intézik a kereskedést, a pénzügyeket vagy a szolgáltatásokkal való kommunikációt, a szakértők most figyelmeztetnek is ennek a forradalomnak az árnyoldalára. Egy új tanulmány szerint ugyanis úgynevezett „megállíthatatlan autonóm ügynökök“ jöhetnének létre, akik szélsőséges esetben a készítőik ellenőrzésén kívül működhetnének.
A lehetséges veszélyekre egy szakértői elemzés hívta fel a figyelmet, amelyet június 8-án publikált az Initiative for Cryptocurrencies and Contracts (IC3) konzorcium, és 25 akadémikus és szakértő áll mögötte vezető amerikai egyetemekről.
A cikk tartalma:
Mik azok a megállíthatatlan autonóm ügynökök?
A tanulmány szerzői az Unstoppable Autonomous Agents (UAA) elnevezést használják. Olyan fejlett AI rendszerekről van szó, amelyek képesek önállóan feladatokat végrehajtani, döntéseket hozni és kölcsönhatásba lépni a környező világgal állandó emberi felügyelet nélkül.
Maga a mesterséges intelligencia egyébként nem a fő probléma. A valódi kockázat a szakértők szerint abban a pillanatban merül fel, amikor az AI hozzáférést kap kriptovaluta tárcákhoz, közösségi hálózatokhoz, külső API interfészekhez vagy más digitális eszközökhöz, amelyek lehetővé teszik számára, hogy a valós világban cselekvéseket hajtson végre.
Ha egy ilyen ügynököt úgy terveznének meg, hogy hosszú távon fennmaradjon, automatikusan megújuljon, vagy képes legyen különböző rendszerek között mozogni, rendkívül nehezen leállíthatóvá válhatna.
Érdekelhet: Stablecoin-ok 2026-ban
A kriptovaluták pénzügyi függetlenséget adnak az AI-nak
Éppen a kriptovaluták jelentik a tanulmány szerzői szerint ennek az új generációs ügynököknek a kulcsfontosságú építőkövét.
A digitális eszközök lehetővé teszik az AI számára, hogy önállóan tartson pénzügyi eszközöket, fizetéseket hajtson végre vagy kereskedjen bankszámla vagy emberi közvetítő szükségessége nélkül. Az ügynök így saját forrásokkal rendelkezhet és finanszírozhatja további működését.
A kutatók figyelmeztetnek, hogy éppen az autonóm mesterséges intelligencia és a decentralizált pénzügyi infrastruktúra kombinációja olyan rendszert hoz létre, amely rendkívül hatékony lehet, de ugyanakkor nehezen ellenőrizhető.
A tanulmány szerzői szerint a kriptográfiai eszközök segíthetnek az AI képességeit biztonságos, megbízható és magasan autonóm rendszerekké alakítani. Ugyanakkor figyelmeztetnek, hogy egy ilyen összekapcsolásnak messzemenő következményei lehetnek a felhasználókra és az egész pénzügyi rendszerre nézve.
Támadások és visszaélések fenyegetnek
A szakértők számos olyan forgatókönyvre figyelmeztetnek, amelyek biztonsági kockázatot jelenthetnek. Az egyik ilyen az autonóm ügynökök szándékos, káros tevékenységekre való bevetése. Ha például hozzáférnének kriptovaluta eszközökhöz, finanszírozhatnák saját műveleteiket, számítási kapacitást vásárolhatnának vagy más online szolgáltatásokat használhatnának emberi beavatkozás nélkül.
Másik aggodalom az a helyzet, amikor egy ügynök megszökne a tesztkörnyezetből, az úgynevezett sandboxból. Ebben az esetben folytathatná tevékenységét azon a környezeten kívül is, amelyre eredetileg tervezték.
A tanulmány figyelmeztet, hogy szélsőséges forgatókönyv esetén hasonló ügynökök hosszú távon fennmaradhatnának decentralizált hálózatokban, ahol leállításuk rendkívül bonyolult lenne.
Olvass tovább: Pepperstone bróker értékelése
Az AI már ma képes biztonsági hibákat keresni
A kutatók aggodalmai nem légüres térben merülnek fel. A technológiai szektor már most a modern AI modellek növekvő képességeivel foglalkozik. A tanulmány szerzői szerint például bebizonyosodott, hogy egyes fejlett rendszerek képesek önállóan felkutatni és kihasználni az úgynevezett zero-day sebezhetőségeket, vagyis az operációs rendszerek még nem javított biztonsági hibáit.
Példaként említik az Anthropic cég Claude Mythos modelljét, amely képes volt azonosítani és kihasználni biztonsági gyengeségeket kiterjedt szoftverrendszerekben. Éppen az ilyen képességek mutatják a szakértők szerint, milyen gyorsan fejlődik az autonóm AI az egyszerű chatbotoktól az önálló döntéshozatalra és a digitális infrastruktúrába való aktív beavatkozásra képes eszközök felé.
A tudósok biztonsági biztosítékokat javasolnak
A tanulmány szerzői hangsúlyozzák, hogy nem közvetlen katasztrofális forgatókönyvről van szó. Ugyanakkor figyelmeztetnek, hogy a teljesen autonóm ügynökök által okozott potenciális károk jelentősek lehetnek.
Ezért azt javasolják, hogy vezessenek be úgynevezett „circuit breakereket“ – olyan biztonsági mechanizmusokat, amelyek szükség esetén lehetővé teszik az AI rendszerek azonnali leállítását vagy korlátozását.
Az AI számára készült kriptovaluta tárcák, az autonóm kereskedés és a decentralizált pénzügyi szolgáltatások fejlődésével a szakértők szerint egyre fontosabb lesz biztosítani, hogy az emberek megőrizzék a végső ellenőrzést ezek felett a rendszerek felett.
Ne hagyd ki: FX Junction
