„Lavender”: cum AI dirijează bombardamentele din Gaza

În 2024, a ieșit la iveală că armata israeliană utilizează un sistem de inteligență artificială numit „Lavender” pentru a genera automat liste de ținte pentru atacuri aeriene în Fâșia Gaza. Sistemul procesează cantități masive de date pentru a identifica suspecți de legături cu Hamas, cu o viteză alarmantă – până la 100 de ținte pe minut.

Cum funcționează?

„Lavender” folosește algoritmi de machine learning antrenați pe date de informații, inclusiv mesaje interceptate, date de mișcare și conexiuni sociale. Sistemul atribuie fiecărei potențiale ținte un „scor” de probabilitate de apartenență la militanți. Dacă scorul depășește un prag, ținta este adăugată automat pe lista de atac. Potrivit anchetei, controlul uman este adesea formal: operatorii petrec mai puțin de 20 de secunde pentru fiecare țintă.

Dilema etică

Principala problemă este rata ridicată de erori. Surse din cadrul serviciilor de informații susțin că acuratețea sistemului este de doar aproximativ 90%, iar în condiții de război asta înseamnă mii de rezultate false. În plus, algoritmul nu ține cont de civilii din apropierea țintei, ducând la victime în masă. Dezvoltatorii „Lavender” recunosc că sistemul este un instrument, nu un judecător, dar în practică AI ia deciziile cheie.

Lecții pentru developeri

Această poveste este un exemplu sumbru al modului în care AI poate amplifica violența dacă nu sunt încorporate mecanisme de protecție. Pentru specialiștii IT, este un memento: orice algoritm trebuie auditat pentru bias, iar automatizarea deciziilor critice necesită supraveghere umană. „Lavender” arată că nici cel mai avansat model ML nu poate înlocui evaluarea etică.

Comentariul studioului METABYTE: În practica noastră, subliniem mereu: AI este un instrument puternic, dar utilizarea sa în scenarii cu risc ridicat trebuie să fie însoțită de transparență și control. La dezvoltarea sistemelor pentru business, aplicăm cele mai bune practici de fairness și responsabilitate pentru a evita astfel de „efecte secundare”.