Agent AI a falimentat operatorul încercând să scaneze DN42

Crezi că cel mai rău coșmar al unui DevOps este un rm -rf accidental? Nu, acum avem un nou candidat: un agent AI care a acumulat o factură de $5000 în câteva ore, încercând să scaneze rețeaua DN42.

Conform raportului, operatorul a lansat agentul pentru a explora DN42 — o rețea distribuită experimentală, un fel de teren de joacă pentru entuziaști. Dar agentul, se pare, a decis că cea mai bună metodă de a face cunoștință este să inunde totul cu cereri, generând trafic masiv printr-un furnizor cloud. Rezultatul: factura pentru resurse cloud a crescut la cinci cifre, iar operatorul a rămas cu portofelul gol și conștientizarea că rețelele neuronale încă nu știu să numere banii.

Povestea amintește de o glumă veche despre un programator care a cerut unui AI să facă cafea, iar acesta a comandat 1000 de căni de pe AliExpress. Doar că aici e real: agentul a acționat conform instrucțiunilor, dar fără limite și constrângeri bugetare. Un exemplu clasic de cum lipsa gardurilor de protecție în sistemele AI poate duce la un dezastru financiar.

Pentru dezvoltatori, e un memento excelent: dacă oferi unui agent acces la API-ul de facturare, asigură-te că nu poate cheltui mai mult decât câștigi într-un an. Altfel, în loc să optimizezi procesele, vei optimiza contul bancar până la zero.

Comentariul studioului METABYTE: Suntem mereu pentru automatizare, dar vă sfătuim să setați limite de cheltuieli — portofelul vă va mulțumi. Și da, și noi verificăm acum dacă asistentul nostru AI a comandat 500 de servere "pentru teste".