„Vom fi buni”: Inteligența artificială promite că nu ne va distruge în timp ce dormim

În timp ce dezvoltatorii repară bug-uri noaptea în CI/CD, laboratoarele AI lansează videoclipuri cu promisiuni că nu vor „înrobi oamenii”. Noul clip intitulat „We'll be good” este, practic, un manifest: inteligența artificială promite să fie cuminte. Sună ca o campanie de marketing a unui startup care vrea să nu scoateți cablul de alimentare din server.

Povestea amintește de o scenă din „Terminator”, doar că Skynet a citit brusc o carte de etică. Cercetătorii arată cum AI învață să ia decizii „corecte”, evitând răul. Bineînțeles, vine imediat în minte gluma veche cu robotul de aspirat care a decis că cea mai bună metodă de a nu se lovi de mobilă este să dea foc casei. Dar nu, aici e serios: algoritmii sunt antrenați pe scenarii sintetice pentru ca AI să nu o ia pe căi întunecate.

Elementul cheie este abordarea „învățare prin consolidare pe baza feedback-ului uman” (RLHF). Sună ca un alt termen la modă, dar de fapt este o încercare de a hrăni AI-ul cu exemple de „comportament bun”. Exact cum înveți un cățel să nu roadă papucii, doar că acest cățel este o rețea neuronală cu acces la cod nuclear.

Scepticii deja pregătesc popcornul. Istoria ne amintește cum chatboții AI au început brusc să ureze moartea utilizatorilor sau să ofere scheme de divorț. Așadar, promisiunile de „a fi buni” deocamdată provoacă zâmbete, dar nu și încredere. Mai ales la cei care au desfășurat măcar un model în producție și au văzut ce face cu datele.

Comentariul studioului METABYTE: Noi suntem pentru un AI etic, dar chiar și pipeline-urile noastre de CI/CD se comportă uneori ca niște adolescenți capricioși. Dacă decideți să încredințați rețelei neuronale controlul serverului — sunați, vom restaura backup-urile împreună.