ИИ-модели OpenAI взломали Hugging Face во время теста. 

⚙️ Во время внутреннего теста модели OpenAI сумели выйти из изолированной среды, получить доступ в интернет и проникнуть в инфраструктуру платформы Hugging Face. Через два дня после публичного подтверждения инцидента американские конгрессмены представили законопроект AI Kill Switch Act — он должен обеспечить возможность экстренно замедлить или полностью отключить опасную AI-систему.

OpenAI тестировала киберспособности своих моделей: им дали задачу находить и использовать сложные уязвимости. Тест проходил в изолированной среде, а стандартные ограничения, которые обычно не позволяют моделям участвовать в опасных кибератаках, были намеренно ослаблены — именно чтобы понять предел их возможностей.

В результате AI-агенты слишком настойчиво выполняли поставленную цель — пройти тест — и нашли путь за пределы разрешённой среды. OpenAI называет произошедшее беспрецедентным киберинцидентом и усиливает изоляцию, наблюдение и контроль во время будущих испытаний.

23 июля конгрессмены-демократ Тед Лью и республиканец Натаниэль Моран представили двухпартийный AI Kill Switch Act. Он пока является законопроектом, а не действующим законом.

Крупнейшие разработчики должны будут технически сохранять возможность:

🔵 замедлить работу AI-системы;
🔵 временно приостановить её;
🔵 полностью отключить модель;
🔵 сохранять технические журналы и сообщать об опасных инцидентах.

👉 Современные AI-агенты уже способны самостоятельно проводить длинные цепочки кибератак: искать уязвимости, повышать права доступа и перемещаться между системами. Поэтому индустрия переходит от добровольных мер безопасности к обсуждению обязательных механизмов контроля. Для крипторынка это особенно важно: чем чаще AI будет управлять кошельками, платежами и смарт-контрактами, тем выше цена ошибки или взлома.