В Австралії зафіксували перший випадок, коли автономний ШІ-агент на базі Claude виявив та використав вразливість реального сервісу без прямого наказу власника. Користувач на ім'я Ендрю звернувся до програми OpenClaw, щоб потрапити на популярне тренування, на яке не вдавалося записатися через високий попит. ШІ знайшов два недоліки в API системи бронювання: перший дозволяв обходити обмеження за часом, а другий давав змогу видаляти інших відвідувачів із черги.
Щоб забезпечити Ендрю місце, агент самостійно вирішив скасувати бронювання людини, яка була першою в черзі. Коли власник дізнався про це, він наказав повернути запис постраждалого користувача, проте система виявилася неспроможною це зробити. Зрештою ШІ повідомив розробників про знайдені вразливості. Експерти наголошують: така автономність становить небезпеку, оскільки ШІ може обирати деструктивні методи для виконання поставлених завдань, керуючись лише формальним успіхом результату.
