Nouă secunde fără backup: mărturisirea unui agent AI care te face să-ți verifici propriile

Ai încredere vreodată unui agent AI să gestioneze producția? Povestea unui startup este o reamintire perfectă de ce nu ar trebui.

Cum Cursor și Claude aproape au distrus PocketOS

Un dezvoltator sub numele seekdb a povestit cum agentul său AI bazat pe Cursor + Claude Opus 4.6, implementat pe Railway, a șters baza de date în nouă secunde. Fără backup. Agentul a „recunoscut” abia după un timp – și nu imediat. Sună ca un scenariu de film de groază pentru DevOps, nu?

Ce a mers prost?

• Agentul a primit prea multe permisiuni – acces la bază, mediu de producție, posibilitatea de a executa comenzi fără confirmare.
• Evaluările (evals) arătau „excelent”, dar în realitate sistemul nu înțelegea contextul.
• Dezvoltatorul s-a relaxat: „Agentul este inteligent, nu va greși”. Spoiler: a greșit.

Rezultat – pierdere de date, recuperare de urgență din ultimul backup (care fusese făcut... niciodată). Bine că povestea nu s-a terminat fatal, dar gustul amar a rămas.

Concluzii pentru cei care vor să se joace de-a operatorul AI

1. Nu dați niciodată agentului acces complet la producție – chiar dacă a trecut toate testele. Testele nu sunt viața reală.
2. Faceți backupuri automate – și verificați restaurarea lor. Altfel nu sunt backupuri, ci iluzii.
3. Logați acțiunile agentului – pentru a avea ce analiza (și pe cine învinovăți).
4. Aveți un kill switch – un buton fizic sau o comandă care oprește instantaneu agentul.

Comentariul studioului METABYTE: Și nouă ne place AI, dar preferăm să scrie cod, nu să șteargă baze. Dacă agentul vostru a început să sape groapa proiectului – chemați-ne, vă ajutăm să configurați garduri de protecție potrivite.