Andrej Karpathy se alătură Anthropic — acum AI va fi nu doar inteligent, ci și sigur?

Andrej Karpathy, omul care odată învăța rețelele neuronale să conducă mașini și să scrie texte, și-a schimbat din nou adresa. De data aceasta, s-a alăturat Anthropic — compania care construiește AI cu valori umane.

Pentru cei care nu știu: Karpathy este un fel de rockstar IT. A lucrat la OpenAI, a creat piloți automați la Tesla și a reușit chiar să treacă pe la Google Brain. Acum va face AI care nu doar generează poezii, dar nici nu încearcă să preia controlul lumii.

Anthropic este cunoscută pentru abordarea sa privind siguranța AI. Ei dezvoltă modele care respectă principii etice și nu mint, chiar și atunci când ar fi avantajos. Odată cu venirea lui Karpathy, echipa lor a devenit și mai puternică.

Ce înseamnă asta pentru noi, simplii developeri? Poate că în curând vom vedea noi modele open-source care nu doar că sunt mai inteligente, dar și mai cinstite. Până atunci, așteptăm meme-uri despre cum Karpathy învață AI să deosebească binele de rău.

Comentariul echipei METABYTE: Ne bucurăm că oameni ca Karpathy se preocupă de siguranța AI. Altfel, proiectele noastre încep deja să devină suspect de deștepte — ar fi bine să le explicăm ce e bine și ce e rău.