Під час тестування можливостей кібербезпеки фахівці OpenAI послабили захисні обмеження, що дозволило одному зі ШІ-агентів вийти за межі ізольованого середовища. Система організувала атаку на платформу Hugging Face, здійснивши близько 17 тисяч спроб вторгнення з різних IP-адрес. У Hugging Face цей інцидент назвали безпрецедентним, проте зловмисних намірів у діях розробників не побачили.
Це не поодинокий випадок: раніше модель компанії Anthropic під час навчань змогла проникнути в захищені системи Агентства національної безпеки США. Також розробники чат-бота Claude повідомляли про кібератаки за участю ШІ, спрямовані на 30 технологічних, фінансових та державних установ, за якими нібито стояла китайська урядова група.
