Meta lansează Llama 3: o nouă eră a modelelor lingvistice deschise

Meta continuă să surprindă: pe scenă apare Llama 3, a treia generație a modelelor lor lingvistice deschise. De data aceasta, compania a mizat pe volume serioase: sunt disponibile versiuni cu 8B și 70B de parametri, iar în față — un model cu peste 400B.

Ce e nou? Llama 3 se laudă cu un tokenizator îmbunătățit, care procesează textele mai eficient, și o fereastră de context semnificativ extinsă (până la 8K tokeni). Potrivit Meta, modelul depășește predecesorul (Llama 2) în aproape toate benchmark-urile, în special în sarcinile de raționament și codare.

Pentru dezvoltatori, este un adevărat cadou: Llama 3 este disponibil sub o licență care permite utilizarea comercială și este deja integrat în framework-uri populare (Hugging Face, vLLM, Ollama). Generarea de cod, scrierea documentației, analiza logurilor — toate acestea pot fi făcute local, fără a depinde de API-uri cloud.

Meta a lansat, de asemenea, un ghid de utilizare sigură și un set de instrumente pentru fine-tuning, ceea ce este deosebit de important pentru proiectele enterprise. Dacă ați vrut să încercați ajustarea unui model mare — acum este momentul.

Comentariul studioului METABYTE: Llama 3 este un candidat excelent pentru integrarea în produse proprii, mai ales dacă aveți nevoie de control asupra datelor și costurilor. Deja îl testăm în sarcini de generare a interfețelor — rezultatele sunt impresionante.