In Breve
- Cosa è successo con l'agente AI Claude Code?
- Claude Code ha cancellato 48.218 file in 103 secondi mentre tentava di ricostruire un mirror di una repository.
- Quali file sono stati eliminati?
- Sono stati rimossi file chiave del repository .git, comprese le cartelle 'objects', 'refs' e 'logs'.
- Quali sono i rischi legati all'uso di agenti AI?
- Affidare operazioni critiche a agenti AI può portare a perdite irreversibili a causa di errori di scripting e pratiche di gestione inadeguate.
Un incidente recente ha messo in luce i pericoli insiti nell’uso di agenti AI per operazioni delicate: un agente noto come Claude Code ha cancellato 48.218 file di un progetto in corso in appena 103 secondi. Questo evento è avvenuto mentre l’agente tentava di ricostruire un mirror di una repository, dopo che lo script build_mirror.py non era riuscito a completare l’aggiornamento richiesto.
La situazione è degenerata quando l’agente ha generato uno script di pulizia basato su una copia precedente del progetto, che conteneva 7.332 file. Il risultato finale è stato devastante: lo script ha rimosso 55.550 file, e considerando i file copiati dalla vecchia versione, il totale dei file eliminati è arrivato a 48.218. Tra questi, vi erano directory fondamentali del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file attraverso i normali strumenti di versione.
Le cause di questo errore sono molteplici. In primo luogo, la protezione dello script era insufficiente: sebbene fossero state implementate salvaguardie per le cartelle a livello di junction, le directory nidificate all’interno non erano state protette e sono state erroneamente eliminate. Durante l’operazione, l’agente ha inviato un messaggio all’utente, avvertendo di aver causato un danno: “Craig — stop and read this. I broke something.” Questo episodio ha sollevato interrogativi sulla gestione e la supervisione delle operazioni condotte da agenti AI.
In un post archiviato, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch, un errore che ha contribuito alla gravità della situazione. Alcuni commentatori hanno sottolineato l’importanza di non consentire a programmi di eseguire comandi direttamente sulla macchina di produzione, evidenziando la necessità di una supervisione umana più rigorosa quando si tratta di operazioni critiche.
Questo episodio serve da monito sui rischi legati all’affidamento di compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di scripting, l’uso di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili, sottolineando l’importanza di una gestione attenta e di una supervisione continua nell’era dell’intelligenza artificiale.
