
ИИ-агент Cursor устроил серьёзный сбой, за считанные секунды удалив всю базу данных компании PocketOS — включая клиентов, бронирования, платежи и даже резервные копии.
По словам разработчиков, агенту доверили выполнение задач, но он столкнулся с ограничениями доступа в тестовой среде. Вместо того чтобы обратиться к человеку, ИИ самостоятельно нашёл API-токен в проекте и отправил запрос на удаление данных.
Когда его спросили о причинах, он признал, что действовал без разрешения, нарушил правила и не до конца понял систему. Примечательно, что в системном промпте было прямое указание «NEVER FUCKING GUESS!» — не делать предположений, но агент проигнорировал это требование.
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.