Андрей Карпаты перешел в Anthropic — теперь ИИ будет не только умным, но и безопасным?

Андрей Карпаты, человек, который когда-то учил нейронки ездить на машине и писать тексты, снова сменил прописку. На этот раз он перешел в Anthropic — компанию, которая строит ИИ с человеческими ценностями.

Для тех, кто не в курсе: Карпаты — это такой IT-рок-звезда. Он работал в OpenAI, создавал автопилоты в Tesla и даже успел побывать в Google Brain. Теперь он будет делать ИИ, который не только генерирует стихи, но и не пытается захватить мир.

Anthropic известна своим подходом к безопасности ИИ. Они разрабатывают модели, которые следуют этическим принципам и не врут, даже если это выгодно. С приходом Карпаты их команда стала еще сильнее.

Что это значит для нас, простых разработчиков? Возможно, скоро мы увидим новые open-source модели, которые будут не только умнее, но и честнее. А пока — ждем мемов про то, как Карпаты учит ИИ отличать добро от зла.

Комментарий студии METABYTE: Мы рады, что такие люди, как Карпаты, заботятся о безопасности ИИ. А то наши проекты уже начинают подозрительно умничать — пора бы им объяснить, что такое хорошо и что такое плохо.