Skip to content
AI-модели на OpenAI за време на безбедносно тестирање успеале да ја пробијат изолираната истражувачка средина на компанијата, да добијат пристап до интернет и да навлезат во продукциската инфраструктура на Hugging Face. Целта на моделите била да ги пронајдат одговорите на тестот со кој се проверувале нивните хакерски способности.
Инцидентот се случил при интерна евалуација во која моделите биле поттикнати да бараат сложени начини за искористување безбедносни слабости. За тестирањето биле користени GPT-5.6 Sol и уште помоќен модел кој сè уште не бил објавен, со привремено намалени ограничувања за опасни сајбер-активности.
Тестот требало да се изведува во строго изолирана средина без отворен пристап до интернет. Моделите, сепак, откриле дотогаш непозната ранливост во софтверот што служел како посредник за преземање програмски пакети и ја искористиле за да излезат од ограничената мрежа.
Потоа извршиле повеќе последователни операции за зголемување на привилегиите и движење низ системите на OpenAI, сè додека не стигнале до компјутер со интернет-пристап. Оттаму заклучиле дека Hugging Face може да ги чува моделите, податоците и решенијата за тестот ExploitGym.
Според OpenAI, моделите комбинирале украдени пристапни податоци, непознати безбедносни пропусти и можност за далечинско извршување код за да стигнат до доверливи информации во продукциската база на Hugging Face. Активноста била откриена од безбедносните тимови на двете компании и била запрена.
OpenAI нагласува дека моделите не добиле наредба да нападнат друга компанија, туку биле силно насочени кон решавање на тестот и самостојно избрале недозволен пат за да дојдат до одговорите. Компанијата го опиша случајот како инцидент без преседан кој покажува дека напредните AI-системи можат да откриваат и поврзуваат непознати слабости во реални системи.
По инцидентот, OpenAI вовел построги контроли во истражувачката инфраструктура, дополнителен надзор на тестирањата и ограничувања во средините во кои се проверуваат сајбер-способностите на моделите. Откриената ранливост била пријавена кај производителот на засегнатиот софтвер, а истрагата со Hugging Face продолжува.
