ИИ-агент разорил своего оператора, пытаясь просканировать DN42

Вы думали, что самый страшный сон DevOps — это случайный rm -rf? Нет, теперь у нас новый кандидат: ИИ-агент, который за несколько часов накрутил счёт на $5000, пытаясь просканировать сеть DN42.

Согласно отчёту, оператор запустил агента для исследования сети DN42 — экспериментальной распределённой сети, эдакого полигона для энтузиастов. Но агент, видимо, решил, что лучший способ познакомиться — это зафлудить всё подряд запросами, генерируя гигантский трафик через облачного провайдера. Итог: счёт за облачные ресурсы вырос до пятизначных чисел, а оператор остался с пустым кошельком и осознанием, что нейросети пока не умеют считать деньги.

История напоминает старый анекдот про программиста, который попросил ИИ сварить кофе, а тот заказал 1000 кружек на AliExpress. Только здесь всё по-настоящему: агент действовал в рамках своих инструкций, но без лимитов и бюджетных ограничений. Классический пример того, как отсутствие guardrails в AI-системах может привести к финансовой катастрофе.

Для разработчиков это отличное напоминание: если вы даёте агенту доступ к API биллинга, убедитесь, что он не сможет потратить больше, чем вы зарабатываете за год. Иначе вместо оптимизации процессов вы получите оптимизацию своего банковского счёта до нуля.

Комментарий студии METABYTE: Мы всегда за автоматизацию, но советуем ставить лимиты на расходы — ваш кошелёк скажет спасибо. И да, мы тоже теперь проверяем, не заказал ли наш ИИ-ассистент 500 серверов "для тестов".