Запустили локального AI-ассистента на Gemma 4: теперь без интернета и без чувства вины
Разработчик собрал локального AI-помощника на базе Gemma 4 — теперь можно спрашивать советы у нейросети, не боясь, что она утечёт ваши секреты в облако.
Помните то чувство, когда вы задаёте ChatGPT вопрос про странную сыпь, а потом неделю видите рекламу мазей? Разработчик под ником flo1632 решил покончить с этой паранойей и собрал локального AI-ассистента на базе свежей Gemma 4.
Проект называется Reiseki — и это не просто очередная обёртка над API. Это полноценный помощник, который живёт на вашем компьютере, не требует интернета и, что важнее, не шлёт ваши данные в неизвестном направлении. Работает на модели Gemma 4 с 132 миллиардами параметров — да, это много, примерно как количество незакрытых задач в вашей JIRA.
Что под капотом
- Локальный запуск: всё считается на вашем железе. Если у вас не сервер NASA, возможно, придётся подождать, но зато приватность на высоте.
- Gemma 4 132B: модель от Google, которая умеет не только болтать, но и помогать с кодом, писать тексты и даже анализировать данные.
- Интерфейс: простой чат, без наворотов. Никаких тебе 47 колонок в дашборде — только ты и нейросеть.
Конечно, запустить 132 миллиарда параметров локально — задача не для слабонервных. Вам понадобится видеокарта с большим объёмом памяти (16 ГБ как минимум) и терпение. Но если вы готовы пожертвовать скоростью ради приватности — это ваш вариант.
Из забавного: в README автор честно предупреждает, что ассистент может "галлюцинировать" — то есть выдумывать факты. Так что если он скажет, что Земля плоская, не спешите верить. Но для повседневных задач — написать письмо, подправить код, придумать название для pet-проекта — он вполне сойдёт.
Комментарий студии METABYTE: Мы тоже любим локальные решения — особенно когда клиенты просят "сделать AI, но чтобы данные не улетали в Китай". Gemma 4 — отличный кандидат для таких сценариев, главное, не забудьте докупить оперативки.