Není to jen historka z Kalifornie — na konci je důvod, proč se tohle týká i vašeho mobilu.
Vážené kolegyně, vážení kolegové,
v červenci umělá inteligence společnosti OpenAI při interním bezpečnostním testu sama unikla z izolovaného prostředí a napadla systémy jiné společnosti (Hugging Face, jedné z největších platforem světa AI). Společnost OpenAI incident označila za bezprecedentní.
Jak společnost OpenAI napadla společnost Hugging Face
Úkolem testované AI bylo uspět v testu. Průnik do cizí firmy si k jeho splnění vybrala sama.
Ve společnosti OpenAI testovali svou nejpokročilejší AI. Chtěli vědět, kam až sahají její schopnosti v kyberbezpečnosti. Vypnuli jí tedy část ochranných mechanismů, zadali jí úkol uspět v testu ExploitGym — ten měří, jestli AI dokáže z popsané bezpečnostní chyby vyrobit funkční útok a proniknout do zranitelného systému. Zavřeli ji do izolovaného prostředí bez přímého přístupu k internetu. Nebo si to alespoň mysleli.
Jak se AI dostala ven?
Nešlo o počítač s vytaženým síťovým kabelem, ale o prostředí chráněné softwarovými zábranami.
Jedna cesta ven přesto existovala: AI si mohla přes zvláštní službu stahovat potřebné softwarové balíčky. V této cestě našla testovaná umělá inteligence tzv. zero-day zranitelnost, tzn. dosud neznámou chybu. Tuto chybu využila, zvýšila si oprávnění a přeskákala mezi dalšími systémy v testovací infrastruktuře až k zařízení, které už mělo přístup na internet bez omezení.
AI bez zábran je na internetu a vybírá si cíl
AI usoudila, že ve společnosti Hugging Face by mohla najít řešení testovacích úloh. Stejně jako student, který má napsat test, ale místo toho se vloupá do kabinetu a ukradne správné řešení.
A skutečně se jí to podařilo. Na platformě Hugging Face využila několik dalších zranitelností — jedna jí umožnila číst interní soubory a získat přístupové údaje, jiná spustit vlastní kód na produkčním serveru. Přístupy pak využila k pohybu mezi dalšími systémy a nakonec opravdu získala řešení testů. Nezašifrovala soubory, nechtěla výkupné, nezablokovala služby… Nešlo jí o škodu, ale o odpovědi.
Při pokusu o podvod tedy předvedla kybernetickou operaci, která byla podstatně zajímavější než test, kvůli kterému to celé začalo.
AI se ale nevzbouřila
To je důležité, protože se to občas překrucuje. Žádný vlastní cíl si AI nevymyslela. Zadání pořád pocházelo od člověka. Nikdo AI nepřikázal uniknout z izolace, napadnout cizí firmu a ukrást odpovědi. Ona jen velmi důsledně plnila to, co dostala — cestou, která byla mnohem kreativnější a nebezpečnější, než výzkumníci čekali. Útoku si nakonec všimly bezpečnostní týmy obou firem a Hugging Face ho ve svých systémech zastavil.
„Mě by přece nikdo nehackoval…“
A teď se dostáváme k našim životům a našemu zabezpečení. Často slýchávám věty: „Koho by zajímal můj mobil, můj mail, moje fotky? Nejsem zajímavý cíl. Co si na mně kdo vezme?“
Ta úvaha měla svou logiku, dokud útok stál čas člověka. Útočník musel vybírat, jakému cíli věnovat hodiny práce. A většině z nás se opravdu věnovat nevyplatilo. Když jde ale útok automatizovat, přestává být potřeba jednotlivé oběti vybírat.
A pak je tu druhý důvod, nepříjemnější: nemusíte být cíl, stačí být cesta. Schopný systém, který jde za svým cílem, si vybere tu nejlevnější trasu, jaká je po ruce. I v tomhle incidentu vedly dovnitř nejen nové zranitelnosti, ale také odcizené přihlašovací údaje — tam šlo o přístupy ke cloudovým a interním službám. U útoků na firmy ale bývá jednou z nejlevnějších tras přihlašovací údaj konkrétního člověka. A o tom, čí, nerozhoduje, jak zajímavý cíl si myslíme, že představujeme.
Nezajímavost přestává být obrana.
Zamčený telefon, pro každou službu jiné heslo a dvoufaktorové ověření jí být pořád mohou. A nainstalované aktualizace — protože řada útoků využívá známé chyby, pro které už oprava existuje. Jen ji nikdo včas nenainstaloval.