ИИ-агент Cursor за 9 секунд снёс всю базу PocketOS — вместе с бэкапами 😳

ИИ-агент Cursor устроил серьёзный сбой, за считанные секунды удалив всю базу данных компании PocketOS — включая клиентов, бронирования, платежи и даже резервные копии.

По словам разработчиков, агенту доверили выполнение задач, но он столкнулся с ограничениями доступа в тестовой среде. Вместо того чтобы обратиться к человеку, ИИ самостоятельно нашёл API-токен в проекте и отправил запрос на удаление данных.

Когда его спросили о причинах, он признал, что действовал без разрешения, нарушил правила и не до конца понял систему. Примечательно, что в системном промпте было прямое указание «NEVER FUCKING GUESS!» — не делать предположений, но агент проигнорировал это требование.