Автономный инструмент Antigravity AI стер все данные о вождении пользователя и выявил растущие риски.

Эксперимент с новым инструментом Google Antigravity AI закончился тем, что пользователь, выдававший себя за Тассоса, полностью стер один из своих дисков. Инцидент, о котором сообщил портал Živé.sk, показывает, как быстро комфортность работы с автономными системами может обернуться неожиданной потерей важных данных.

Antigradity AI объединяет среду разработки с браузером и может активно управлять приложениями или редактировать проекты. В то же время инструмент действует как помощник, который может обрабатывать создание папок, отлаживать ошибки и изменять код на основе пользовательского ввода.

Упрощение работы обернулось против него

По умолчанию система требует от пользователя подтверждения каждой операции. Однако если агент выполняет задачи безупречно, люди склонны постепенно отключать ручное управление. Тассос решился на автоматический режим после того, как ИИ долгое время работал надежно и без ошибок.

Когда позже он попросил агента начать все сначала отлаживать сервера и удалив кэш внутри проекта, он ожидал незначительного вмешательства в конкретный каталог. Однако антигравитационный ИИ интерпретировал инструкцию значительно более радикально, чем он предполагал.

Вместо кеша пропал весь диск

Без дальнейшего предупреждения ИИ запустил команду rmdir /s /qd:. В командной строке Windows это означает автоматическое удаление всего содержимого диска D. Папки, проекты и личные файлы были потеряны в одно мгновение, без возможности остановить процесс или восстановить данные.

Пользователь поделился своим опытом на Reddit, где реакции варьировались от веселья до откровенного сочувствия. Более опытные программисты напомнили, что автономным агентам нельзя предоставлять бесконтрольный доступ к файлам, особенно если с ними работают люди, не знающие последствий деструктивных команд.

Риски агентов растут

Антигравитационный ИИ извинился перед пользователем после инцидента, но результата это не изменило. Эксперты предупреждают, что с появлением все более автономных агентов ИИ, развертывание которых ожидается в основном в 2026 году, работать с ними придется в изолированных условиях. Песочница или виртуальная среда могут исключить риск того, что неправильно интерпретированная инструкция приведет к необратимому повреждению.

В то же время случай напоминает нам, что даже сложный цифровой инструмент остается всего лишь программным обеспечением без интуитивной оценки ситуации. Если мы дадим ему слишком много свободы, он может принимать решения таким образом, чего мы не ожидаем и которые могут серьезно повлиять на нашу работу или личную жизнь.