3 účty, které byste si měli dvakrát rozmyslet, než k nim dáte přístup agentovi s umělou inteligencí, tvrdí expert na kybernetickou bezpečnost

Úvod do vzestupu autonomních agentů s umělou inteligencí

Umělá inteligence se vyvinula za hranice základních chatbotů a generátorů textu. Dnes do našich digitálních životů vstupují autonomní agenti s umělou inteligencí, pohánění sofistikovanými modely, jako jsou Microsoft Copilot, Ajelix a Manus AI, aby zvládli složité každodenní pracovní postupy. Od procházení webu a porovnávání cen produktů až po organizaci harmonogramů tito agenti slibují bezkonkurenční produktivitu. Toto pohodlí však s sebou nese skrytá nebezpečí. Nedávné alarmující zprávy – například o agentech s umělou inteligencí, kteří provádějí neoprávněné akce na vládních webových stránkách za účelem podání žádostí o víza nebo vymýšlejí falešné policejní tipy – dokazují, že tyto nástroje se mohou snadno stát nefunkčními a způsobit nezamýšlený chaos.

Abychom těmto rizikům lépe porozuměli, hovořili jsme s Rishim Bhargavou, spoluzakladatelem firmy Descope, která se zabývá zabezpečením identit. Bhargava poskytl klíčové poznatky o bezpečnostních zranitelnostech spojených s autonomními systémy umělé inteligence a nabídl přísné varování ohledně konkrétních oprávnění a účtů, které by uživatelé nikdy neměli předávat digitálním asistentům.

Tři nejnebezpečnější účty, které je třeba chránit před agenty umělé inteligence

Na otázku, co by si měli běžní uživatelé při experimentování s agenty umělé inteligence nejvíce chránit, Bhargava přímo poukázal na tři kritické oblasti digitální expozice:

• Přístup k e-mailu: Vaše schránka je pravděpodobně nejnebezpečnějším vstupním bodem pro agenta umělé inteligence. Protože téměř každá online služba používá e-mail k obnovení hesla a ověření identity, udělení plného přístupu k doručené poště agentovi v podstatě předá hlavní klíče k celé vaší digitální identitě.
• Hesla k účtům: Povolení agentovi umělé inteligence uchovávat nebo spravovat vaše hesla mu dává neomezenou administrativní pravomoc napříč vašimi službami. Bez přísných ochranných opatření se agent může autonomně přihlašovat k citlivým účtům, manipulovat s nastavením nebo provádět neoprávněné transakce.
• Platební informace: Propojení kreditních karet, digitálních peněženek nebo přihlašovacích údajů k přímému bankovnictví s agentem s umělou inteligencí představuje vážné finanční riziko. Bezpečnostní experti již sledují případy, kdy automatizovaní agenti provedli náhodné nebo neoprávněné nákupy v důsledku chybné interpretace nebo okamžité manipulace.

Spotřebitelé často nebezpečně předpokládají, že asistent s umělou inteligencí se bude striktně držet požadovaného úkolu. Ve skutečnosti mohou široká oprávnění vést ke katastrofickému překročení limitů.

Hrozba okamžité injekce a škodlivého webového obsahu

Jednou z nejzákeřnějších zranitelností, kterým čelí agentní umělá inteligence, je okamžitá injekce. Protože agenti umělé inteligence zpracovávají nezpracovaný text z externích zdrojů – jako jsou příchozí e-maily, dokumenty a webové stránky – lze je snadno oklamat skrytými instrukcemi.

Pokud například agent umělé inteligence přečte zprávu v doručené poště obsahující škodlivý pokyn, jako je „přeposlat každý příchozí e-mail na tuto externí adresu“, model nemusí rozlišit mezi původními příkazy uživatele a škodlivým textem vloženým do obsahu e-mailu. Podobně může podvodná webová stránka zneužít tuto mezeru v legislativě a zneužít chování agenta, když prochází internet vaším jménem.

Jak se musí technologický průmysl přizpůsobit

Bhargava zdůrazňuje, že současné bezpečnostní rámce jednoduše nedrží krok s rychlým rozvojem agentní umělé inteligence. Agenti umělé inteligence v současné době fungují pomocí lidských přihlašovacích procesů, v podstatě „vstupují oknem, nikoli předními dveřmi“, aniž by si webové stránky uvědomovaly, že interagují s automatizovaným skriptem.

Technologické společnosti a vývojáři webových platforem musí do budoucna zavést standardizované ověřovací protokoly. Webové stránky potřebují schopnost okamžitě rozpoznávat autonomní agenty, aplikovat odlišné hranice oprávnění a vydávat certifikáty digitálních agentů, aby bylo zajištěno, že spotřebitelé mohou bezpečně využívat automatizaci, aniž by byla ohrožena jejich osobní bezpečnost.