Asistent AI local pe bază de Gemma 4: fără internet și fără remușcări

Vă aduceți aminte senzația aia când întrebați ChatGPT ceva și apoi vedeți reclame la chestia respectivă o săptămână întreagă? Un dezvoltator cunoscut ca flo1632 a decis să pună capăt acestei paranoia și a construit un asistent AI local pe baza proaspetei Gemma 4.

Proiectul se numește Reiseki — și nu e doar o altă împachetare a unui API. E un asistent complet care trăiește pe calculatorul tău, nu necesită internet și, mai important, nu trimite datele tale în neștire. Funcționează pe modelul Gemma 4 cu 132 de miliarde de parametri — da, e mult, cam cât numărul de taskuri nefinalizate din JIRA-ul tău.

Ce e sub capotă

• Rulare locală: totul se calculează pe hardware-ul tău. Dacă nu ai un server de la NASA, poate va trebui să aștepți, dar confidențialitatea e la maxim.
• Gemma 4 132B: model de la Google care știe nu doar să vorbească, ci și să ajute cu cod, să scrie texte și să analizeze date.
• Interfață: un chat simplu, fără pretenții. Niciun dashboard cu 47 de coloane — doar tu și rețeaua neurală.

Desigur, să rulezi 132 de miliarde de parametri local nu e pentru cei slabi de inimă. Ai nevoie de o placă video cu multă memorie (cel puțin 16 GB) și răbdare. Dar dacă ești dispus să sacrifici viteza pentru confidențialitate, asta e soluția ta.

Amuzant: în README, autorul avertizează sincer că asistentul poate „halucina” — adică poate inventa fapte. Așa că dacă spune că Pământul e plat, nu te grăbi să crezi. Dar pentru sarcini zilnice — scris un email, corectat cod, găsit un nume pentru pet-project — e destul de bun.

Comentariul studioului METABYTE: Și nouă ne plac soluțiile locale — mai ales când clienții cer „un AI, dar datele să nu zboare în China”. Gemma 4 e un candidat excelent pentru astfel de scenarii, doar nu uitați să cumpărați mai multă memorie RAM.