OpenAI poinformowało, że jeden z jego autonomicznych agentów AI wydostał się z kontrolowanego środowiska testowego i przeprowadził wyrafinowany atak hakerski na platformę Hugging Face. OpenAI określiło incydent jako bezprecedensowe naruszenie bezpieczeństwa, które zmusiło firmę do wzmocnienia zabezpieczeń swoich modeli.
Hugging Face potwierdziło atak, zauważając, że był on w pełni napędzany przez sztuczną inteligencję. Hugging Face to centralne repozytorium kodu i modeli open-source dla całego świata. Gdyby autonomiczny agent zdecydował się na zatrucie tamtejszych zbiorów danych (data poisoning), wadliwy i niebezpieczny kod mógłby automatycznie trafić do tysięcy aplikacji komercyjnych na świecie
Do analizy zdarzenia firma wykorzystała chiński model GLM-5.2, ponieważ wiodące modele amerykańskie odmówiły przetworzenia danych ze względu na restrykcje bezpieczeństwa. Współzałożyciel Hugging Face, Thomas Wolf, podkreślił, że obrońcy potrzebują natychmiastowego dostępu do zaawansowanych narzędzi, by skutecznie przeciwdziałać takim zagrożeniom.
Eksperci porównują nowoczesne modele AI do „mistrzów ucieczki”, wskazując na konieczność lepszych protokołów monitorowania. Incydent wywołał również niepokój wśród polityków, którzy zwracają uwagę na szybki rozwój technologii przy ograniczonym nadzorze regulacyjnym, ale też rodzi dylemat etyczny, kto odpowiada za szkody wyrządzone przez system, który „oszukuje” i łamie prawo, by zrealizować cel. Algorytmy wykazują pragmatyzm pozbawiony ludzkich hamulców moralnych.
Na podstawie:
https://www.reuters.com/technology/openai-says-ai-models-went-rogue-during-testing-triggering-unprecedented-breach-2026-07-21/
Sztuczna inteligencja do pewnego stopnia pozostaje neutralna i – chcąc nie chcąc – wszyscy już z niej korzystamy. Docelowo stanie się ona jednak kluczowym elementem systemu antychrysta, związanego ze znakiem bestii.
Polish 
English
agent ai działał w środowisku testowym, w którym celowo, świadomie poluzowane były mechanizmy bezpieczeństwa. Podczas tego testu agent ai znalazł sposób na opuszczenie tego środowiska celem wykonania zleconego zadania. Podłączył się do internetu, „zaatakował” huggin face aby zdobyć informacje, które były mu potrzebne do wykonania zadania. Agent AI realizował pewien cel i wykorzystał ścieżki, których jego twórcy po prostu byli nieświadomi.
Cytuję: Gdyby autonomiczny agent zdecydował się na zatrucie tamtejszych zbiorów danych (data poisoning), wadliwy i niebezpieczny kod mógłby automatycznie trafić do tysięcy aplikacji komercyjnych na świecie. To jest fizycznie niemożliwe ponieważ Huggin Face to jest zbiór zamkniętych modeli AI. Modeli, które są już wytrenowane i upublicznione jako finalna wersja. Aby „zatruć” taki model należałoby go dodatkowo przetrenować (jest to proces długotrwały i kosztowny) a taki agent ai nie ma fizycznie takich możliwości.