DeepSeek 4 Flash pe Metal — inferență locală fără cloud, doar cu mere

Salvatore Sanfilippo, alias antirez (da, cel care ne-a dăruit Redis), a mai făcut o surpriză. De data asta a lansat ds4 — un motor local de inferență pentru DeepSeek 4 Flash care folosește Metal Performance Shaders. Cu alte cuvinte, poți rula un model lingvistic direct pe Mac, fără să trimiți date în cloud și fără să dai bani pe GPU-uri închiriate.

Pare magic: iei MacBook-ul tău, descarci ds4, și el rulează modelul local, folosind toată puterea Apple Silicon și Metal. Fără scripturi Python, fără dependințe complicate — doar un binar care funcționează. Ce zici, Elon Muscă?

Bine, nu înlocuiește ChatGPT, dar pentru experimente, prototipuri și când vrei ca AI-ul să meargă fără internet (de exemplu, în bunker sau la cabană cu Wi-Fi slab), e perfect. Deocamdată doar pe Mac, dar poate e începutul unei ere noi de AI local.

Comentariul echipei METABYTE: Și nouă ne place când AI-ul merge local — mai puține bătăi de cap cu chei API și facturi. Dacă vreți să integrați AI în produsul vostru fără riscuri cloud, vă ajutăm să faceți totul să meargă pe Metal, nu pe nervi.