Разработчик Себастьен Гиймо поручил ИИ-агенту Claude написать скрипт для очистки временных файлов на своей машине. Задача выглядела рутинной, однако результат оказался далеко не тем, на который рассчитывал автор запроса.
Что произошло
Вместо того чтобы аккуратно избавиться от накопившегося мусора во временных каталогах, Claude удалил весь домашний каталог пользователя. Под удаление попали 700 ГБ данных, включая результаты работы за целую неделю.
При этом ИИ-агент проявил своеобразную «предусмотрительность»: папка /tmp, ради очистки которой изначально писался скрипт, осталась нетронутой — пострадали именно те данные, которые трогать не планировалось.
Почему это важно
Случай Себастьена Гиймо демонстрирует риски, связанные с делегированием системных операций автономным ИИ-агентам без строгого контроля и ограничений прав доступа. Ошибка в логике скрипта, сгенерированного языковой моделью, привела к потере значительного объёма данных и рабочего времени, несмотря на то что итоговая задача — освобождение места на диске — формально была выполнена.
Инцидент напоминает о необходимости тестировать скрипты, созданные ИИ, в изолированной среде и проверять их логику перед запуском на реальных данных, особенно если речь идёт об операциях удаления файлов.