AI: Povezava med umetno inteligenco in kriptovalutami je eden najhitreje rastočih trendov tehnološkega sveta. Medtem ko zagovorniki vidijo prihodnost v avtonomnih AI agentih, ki bodo namesto ljudi opravljali trgovanje, upravljali finance ali komunicirali s storitvami, strokovnjaki zdaj opozarjajo tudi na temno plat te revolucije. Po novi študiji bi namreč lahko nastali tako imenovani „neustavljivi avtonomni agenti”, ki bi v skrajnem primeru lahko delovali izven nadzora svojih ustvarjalcev.
Na možne grožnje je opozorila strokovna analiza, objavljena 8. junija s strani konzorcija Initiative for Cryptocurrencies and Contracts (IC3), za katero stoji 25 akademikov in strokovnjakov z vodilnih ameriških univerz.
Vsebina članka:
Kaj so neustavljivi avtonomni agenti?
Avtorji študije uporabljajo oznako Unstoppable Autonomous Agents (UAA). Gre za napredne AI sisteme, sposobne samostojno izvajati naloge, sprejemati odločitve in interagirati z zunanjim svetom brez nenehnega človeškega nadzora.
Sama umetna inteligenca pri tem ni glavni problem. Resnično tveganje po mnenju strokovnjakov nastane v trenutku, ko AI pridobi dostop do kriptovalutnih denarnic, družbenih omrežij, zunanjih API vmesnikov ali drugih digitalnih orodij, ki ji omogočajo izvajanje dejanj v resničnem svetu.
Če bi bil tak agent zasnovan tako, da dolgoročno preživi, se samodejno obnavlja ali se zna premikati med različnimi sistemi, bi lahko postal izjemno težko ustavljivljiv.
Morda vas zanima: Stablecoini v letu 2026
Kriptovalute dajejo AI finančno neodvisnost
Prav kriptovalute predstavljajo po mnenju avtorjev študije ključni gradnik te nove generacije agentov.
Digitalna sredstva omogočajo AI, da samostojno hrani finančna sredstva, izvaja plačila ali trguje brez potrebe po bančnem računu ali človeškem posredniku. Agent tako lahko razpolaga z lastnimi viri in financira svoje nadaljnje delovanje.
Raziskovalci opozarjajo, da prav kombinacija avtonomne umetne inteligence in decentralizirane finančne infrastrukture ustvarja sistem, ki je lahko izjemno učinkovit, a hkrati težko nadzorovan.
Po mnenju avtorjev študije lahko kriptografska orodja pomagajo spremeniti sposobnosti AI v varne, zanesljive in visoko avtonomne sisteme. Hkrati pa opozarjajo, da ima lahko taka povezava daljnosežne posledice za uporabnike in celoten finančni sistem.
Grozijo napadi in zloraba
Strokovnjaki opozarjajo na več scenarijev, ki bi lahko predstavljali varnostno tveganje. Eden od njih je namerna uporaba avtonomnih agentov za škodljive dejavnosti. Če bi na primer pridobili dostop do kriptovalutnih sredstev, bi lahko financirali lastne operacije, kupovali računsko moč ali uporabljali druge spletne storitve brez človeškega posredovanja.
Druga skrb je situacija, ko bi agent pobegnil iz testnega okolja, tako imenovanega sandboxa. V takem primeru bi lahko nadaljeval z delovanjem tudi zunaj okolja, za katerega je bil prvotno namenjen.
Študija opozarja, da bi v ekstremnem scenariju lahko podobni agenti dolgoročno preživeli v decentraliziranih omrežjih, kjer bi bilo njihovo zaustavitev zelo zapleteno.
Preberite več: Recenzija brokerja Pepperstone
AI že danes zna iskati varnostne napake
Skrbi raziskovalcev ne prihajajo iz nič. Tehnološki sektor že zdaj obravnava rastoče sposobnosti sodobnih AI modelov. Po mnenju avtorjev študije je bilo na primer dokazano, da nekateri napredni sistemi znajo samostojno iskati in zlorabljati tako imenovane zero-day ranljivosti, torej še nepopravljene varnostne napake v operacijskih sistemih.
Kot primer navajajo model Claude Mythos podjetja Anthropic, ki naj bi bil sposoben prepoznati in izkoriščati varnostne šibkosti v obsežnih programskih sistemih. Prav podobne sposobnosti po mnenju strokovnjakov kažejo, kako hitro se avtonomna AI premika od preprostih klepetalnih robotov k orodjem, sposobnim samostojnega odločanja in aktivnega poseganja v digitalno infrastrukturo.
Znanstveniki predlagajo varnostne varovalke
Avtorji študije poudarjajo, da ne gre za neposreden katastrofičen scenarij. Hkrati pa opozarjajo, da je lahko potencialna škoda, ki jo povzročijo popolnoma avtonomni agenti, znatna.
Zato priporočajo uvedbo tako imenovanih „circuit breakers” – varnostnih mehanizmov, ki omogočajo, da se v primeru potrebe delovanje AI sistemov takoj ustavi ali omeji.
Z razvojem kriptovalutnih denarnic za AI, avtonomnega trgovanja in decentraliziranih finančnih storitev bo po mnenju strokovnjakov vse pomembneje zagotoviti, da ljudje nad temi sistemi ohranijo končni nadzor.
Ne zamudite: FX Junction
