Надоели AI-черные ящики? Разработчик собрал модель, в которую можно залезть с отверткой

Если вы когда-нибудь пытались объяснить бабушке, почему нейросеть решила, что она — "вероятно, тостер", то знаете: AI-черные ящики бесят. Один разработчик решил, что хватит это терпеть, и собрал Dead Star AI — reasoning engine, где человек не просто смотрит на результат, а может залезть внутрь и покрутить винтики.

Проект построен на Gemma 4 и реализует концепцию Human-in-the-Loop: модель не выплевывает ответ как бог на душу положит, а показывает цепочку рассуждений. Прямо как в старых добрых экспертных системах, только без бороды и с современным NLP. Разработчик утверждает, что это submission для devchallenge и gemmachallenge, но выглядит как реально полезная штука для тех, кто устал гадать на кофейной гуще после очередного API-запроса.

Почему это не очередной хайп?

• Прозрачность: можно увидеть, какие факты и правила привели к выводу.
• Контроль: человек может вмешаться в рассуждение на любом шаге.
• Обучение: отличный инструмент для объяснения AI новичкам — можно показывать, как модель "думает".

Конечно, до полноценного продакшена еще далеко — но сам подход напоминает, что AI не обязательно должен быть магией. Иногда полезно иметь модель, которую можно не только обучить, но и отладить, как старый добрый CI/CD пайплайн.

Комментарий студии METABYTE: Dead Star AI — отличный пример того, как human-in-the-loop может сделать AI не только умнее, но и честнее. Мы в METABYTE тоже любим, когда код не врет, а модели можно доверять — иначе как объяснить клиенту, что его баг — это фича?