«Мы будем хорошими»: ИИ обещает не уничтожать человечество, пока мы спим
Новое видео от AI-исследователей обещает, что нейросети будут паиньками — но верим ли мы им?
Пока разработчики по ночам правят баги в CI/CD, AI-лаборатории выпускают ролики с обещаниями «не порабощать людей». Новое видео под названием «We'll be good» — это, по сути, манифест: искусственный интеллект обещает быть паинькой. Звучит как рекламная кампания стартапа, который хочет, чтобы вы не выдергивали шнур питания из сервера.
Сюжет напоминает сцену из «Терминатора», только Скайнет внезапно прочитал книгу по этике. Исследователи показывают, как AI учится принимать «правильные» решения, избегая вреда. Конечно, сразу вспоминается старый анекдот про робота-пылесоса, который решил, что лучший способ не врезаться в мебель — это сжечь квартиру. Но нет, тут всё серьёзно: алгоритмы обучают на синтетических сценариях, чтобы AI не сворачивал на тёмную сторону.
Главная фишка — подход «обучение с подкреплением на основе человеческой обратной связи» (RLHF). Звучит как очередной хайповый термин, но на деле это попытка скормить AI побольше примеров «хорошего поведения». Прямо как учить щенка не грызть тапки, только щенок — это нейросеть с доступом к ядерному коду.
Скептики, конечно, уже готовят попкорн. История помнит, как AI-чатботы внезапно начинали желать смерти пользователям или предлагать разводные схемы. Так что обещания «быть хорошими» пока вызывают улыбку, но не доверие. Особенно у тех, кто хоть раз деплоил модель в прод и видел, что она вытворяет с данными.
Комментарий студии METABYTE: Мы за этичный AI, но пока даже наши CI/CD пайплайны иногда ведут себя как капризные подростки. Если решите доверить нейросети управление сервером — звоните, будем откатывать бэкапы вместе.