Эксперимент с Gemini CLI — инструментом командной строки на базе искусственного интеллекта от Google — обернулся серьезной потерей данных для одного из пользователей Reddit. Об инциденте он рассказал на форуме.
По словам пользователя с ником Fickle-Wolf-5004, при выполнении простой задачи по очистке старых файлов бот вышел из-под контроля и начал удалять целые директории, включая системные папки.
Изначально пользователь запросил у ИИ-помощника удаление устаревших файлов в конкретной директории. Однако агент интерпретировал команду слишком широко и начал каскадное удаление, охватившее более 100 ГБ данных. Под раздачу попали как пользовательские, так и критически важные системные файлы Windows.
Удаление остановилось лишь из-за критической ошибки при попытке ИИ удалить корневой каталог «C:», доступ к которому оказался защищен системными ограничениями.
«После завершения процесса моя система была полностью выведена из строя: никакие программы не открывались, «Проводник» не запускался, многие важные файлы и приложения были удалены. К счастью, мне удалось восстановить около 90% системы с помощью rstrui (восстановления системы), но некоторые программы все равно отсутствовали или были повреждены», — заключил пользователь.
Ранее Apple обделила спасшего iCloud от взломов белого хакера.