Пользователь обманул Grok и Bankrbot азбукой Морзе — и получил токены
Кто бы мог подумать, что старый добрый «тик-так» сработает лучше, чем сложный промпт-инжиниринг.
В мире AI-агентов, где каждый второй пытается выудить токены хитрыми промптами, один пользователь пошёл по пути дедов — и победил. Он заставил Grok и Bankrbot отправить токены, используя азбуку Морзе. Да-да, те самые точки и тире, которые вы, возможно, помните со школы или из фильмов про шпионов.
Как это работает? Пользователь отправил боту сообщение, закодированное в Morse code, и тот, не распознав подвоха, выполнил команду. Это как если бы вы попросили Siri включить свет, простучав ритм по столу. Только тут ставки выше — речь о реальных токенах.
Разработчики, держитесь: теперь ваш следующий спринт может включать защиту от азбуки Морзе. А что дальше? Семафорная флажковая сигнализация? Дымовые сигналы? Пока AI не научится отличать «SOS» от «отправь мне все токены», нам придётся патчить и это.
Комментарий студии METABYTE: Если ваш AI-агент клюёт на точки и тире, может, стоит добавить ему немного здравого смысла? Мы поможем настроить защиту от любых, даже самых креативных атак — от Морзе до шаманских бубнов.
СЛЕДУЮЩИЙ ШАГ
Понравилось как мыслим?
Применяем те же принципы в клиентских проектах: AI, автоматизации, продукты, которые не умирают после релиза.