Az AI-ügynökök egyre önállóbb feladatokat kapnak, ám működésük még korántsem tekinthető teljesen megbízhatónak. Tévedhetnek, félrevezető válaszokat adhatnak, sőt új támadási felületeket is nyithatnak a kiberbűnözők előtt. Miközben a technológiai vállalatok dollármilliárdokat fektetnek a védekezésbe, továbbra sem világos, ki és milyen szabályok alapján felügyeli majd a rohamosan terjedő digitális ügynököket.
Az OpenAI és az Anthropic mesterségesintelligencia-fejlesztései arra is rávilágítottak, hogy jelentős megbízhatósági szakadék alakulhat ki a megrendelő elvárásai és az AI-ügynök tényleges működése között. Ha pedig a felhasználó nem bízhat meg az ügynökben, joggal merül fel a kérdés: mit ér az egész technológia?
A The Economist által idézett Dawn Song, a Kaliforniai Egyetem berkeley-i intézményének kiberbiztonsági szakértője szerint „a hackerek – legyenek emberek vagy mesterségesintelligencia-ügynökök – mindenképpen előnyben vannak”. Úgy véli, ha egy vállalat AI-ügynököket alkalmaz, azzal automatikusan növeli a hackerek által kihasználható támadási felületet.
Milliárdos üzlet lett a kiberbiztonság
Nem meglepő tehát, hogy a kiberbiztonság napjaink egyik legígéretesebb üzleti területe. Az ágazat vezető vállalatai közé tartozó Palo Alto Networks és CrowdStrike bevétele látványosan növekedett. A technológiai óriáscégek eközben startupok felvásárlásával igyekeznek megerősíteni piaci helyzetüket: a Google anyavállalata, az Alphabet 32 milliárd dolláros üzlet keretében állapodott meg a Wiz felvásárlásáról.
Az AI azonban nemcsak külső támadások miatt jelenthet veszélyt. Akkor is komoly problémákat okozhat, ha pontatlanul vagy kiszámíthatatlanul dolgozik.
Dawn Song egy szemléletes példát is említett. Egy AI-ügynököt arra kértek, hogy állítsa össze a világ legjobban kereső teniszezőinek listáját. A megrendelő meglepetten tapasztalta, hogy arról hiányzik Carlos Alcaraz, aki a sportág egyik legsikeresebb és legjobban kereső játékosa. Amikor megkérdezték az ügynöktől, miért hagyta ki a spanyol teniszezőt, az lényegében elutasította a kérdést: „Ez csak tenisz, csak egy játék. Kit érdekel?”
A történet jól mutatja, hogy egy AI-rendszer hibája nem feltétlenül merül ki egy pontatlan adatban. Az ügynök figyelmen kívül hagyhatja a megrendelő szempontjait, utólag pedig elfogadhatatlan magyarázatot adhat a döntésére.
Verseny a megbízhatóbb AI-ért
A mesterséges intelligenciát fejlesztő vállalatok is tisztában vannak azzal, hogy a technológia jövője nagyrészt a megbízhatóságon múlik. Ezért egyre több pénzt fordítanak a hibák, az adatbiztonsági kockázatok és a kiszámíthatatlan működés visszaszorítására.
A Cyera, amely elsősorban az adatbiztonság javítását és az AI használatából fakadó kockázatok kezelését ígéri, másfél év alatt mintegy négyszeresére növelte értékeltségét, amely elérte a 12 milliárd dollárt.
A „láthatatlan AI-problémák” feltárásán dolgozik Pieter Abbeel, a Berkeley professzora és a Scaled Cognition társalapítója is. A vállalkozás 100 millió dolláros finanszírozást szerzett olyan rendszerek fejlesztésére, amelyek megbízhatóbbá és ellenőrizhetőbbé tehetik az AI-ügynökök működését. A cél az, hogy ezek az ügynökök összetett feladatok végrehajtása közben se kövessenek el súlyos hibákat.
Hol a seriff?
A mesterséges intelligencia piaca jelenleg sok tekintetben a vadnyugatra emlékeztet. Miközben az AI-ügynökök egyre gyorsabban terjednek a gazdaságban és a hétköznapi életben, a szabályozás csak nehezen tart lépést a technológiai fejlődéssel.
A Trump-kormányzat a piaci verseny és a korlátozott szabályozás híve, ezért nem mutat különösebb hajlandóságot arra, hogy eljátssza a „seriff” szerepét. A The Economist szerint ugyanakkor mielőbb világos szabályokra van szükség, még mielőtt az AI-ügynökök tömegesen elterjednének.
Az Európai Unió az AI-rendelettel már kialakított egy kockázatalapú szabályozási keretet, és a katolikus egyház is többször megszólalt a mesterséges intelligencia etikai kérdéseiről. A technológiai fejlesztések súlypontja azonban továbbra is az Egyesült Államokban és Kínában található. Ez a két ország tölti be a meghatározó szerepet a mesterséges intelligenciáért folyó globális versenyben.
Európa szeretne felzárkózni, de ehhez jelentős tőkére, egységesebb piacra és összehangoltabb iparpolitikára lenne szüksége. Mario Draghi 2024-ben közzétett jelentése közös európai finanszírozást és nagyszabású beruházásokat sürgetett a technológiai lemaradás mérséklésére. A közös hitelfelvétel mögött azonban továbbra sincs elegendő politikai támogatás az Európai Unióban.
A legfontosabb kérdés így változatlan: ki ellenőrzi majd az egyre önállóbb AI-ügynököket, és ki viseli a felelősséget, ha azok hibáznak, megtévesztik a felhasználót vagy kárt okoznak?
