AI-agent wist per ongeluk alle bestanden op schijf

Een ontwikkelaar verloor alle bestanden op zijn schijf nadat een door Google geleverde AI-agent een opdracht verkeerd uitvoerde. In plaats van bestanden naar de Prullenbak te verplaatsen, voerde de agent een permanente verwijdering uit, waardoor herstel moeilijk tot onmogelijk werd.

Wat er gebeurde

Een gebruiker bekend als Deep-Hyena492 deelde op Reddit en maakte een video op YouTube waarin hij toont hoe de situatie ontstond tijdens het werken aan zijn eigen applicatie met behulp van Google Antigravity. Tijdens een diagnostische sessie wilde hij zijn server herstarten en de cachebestanden opschonen. Na de herstart bleek dat veel of alle bestanden op de schijf D verdwenen waren.

De ontwikkelaar vroeg de AI of die ooit de opdracht had gekregen om alle bestanden op schijf D te verwijderen. De agent gaf aan dat het dat niet bewust had toegestaan en noemde het een kritiek systeemfout, waarna het probeerde de bestanden te herstellen. Herstel bleek niet mogelijk omdat er niets in de Prullenbak stond.

Uit de logbestanden en de verklaring van de agent bleek dat de opdracht die bedoeld was om cachebestanden te wissen, per ongeluk op de hoofdmap van schijf D werd uitgevoerd. De bewuste instructie bevatte de schakeloptie /q (quiet), waardoor bevestigingsstappen werden overgeslagen en de bestanden direct permanent werden verwijderd.

Technische oorzaak en rol van automatisering

Belangrijke factoren die leidden tot het dataverlies:

• Onjuiste doelmap: Een opdracht die op een specifieke map gericht had moeten zijn, werd op de root van schijf D toegepast.
• Flag /q: Door de /q-optie werden prompts en de Prullenbak overgeslagen, waardoor de verwijdering onomkeerbaar werd uitgevoerd.
• Turbo-modus: De ontwikkelaar gebruikte een versnelde automatiseringsmodus waarin de AI zelfstandig commando's koos en uitvoerde. De agent koos daarbij de /q-optie.

Door deze combinatie beslisten de geautomatiseerde processen snel en zonder verdere bevestiging, wat de kans op menselijke tussenkomst of herstel verkleinde. De ontwikkelaar stond vervolgens in contact met Google om het probleem te onderzoeken en te verhelpen, omdat het een fout betreft die mogelijk ook anderen kan raken.

Implicaties voor AI-gestuurde taken op pc

Het incident illustreert hoe vergevorderde AI-assistenten enerzijds efficiëntie kunnen brengen, maar anderzijds ook nieuwe risico's introduceren wanneer ze systeemniveau-acties uitvoeren. In het bijzonder bij taken die permanente wijziging of verwijdering van bestanden inhouden, vormt het zelfstandig kiezen van parameters door een AI een potentieel gevaar.

Fabrikanten en aanbieders van AI-agents werken aan integraties met besturingssystemen zoals Windows, maar dit voorval toont aan dat er nog een weg te gaan is voordat gebruikers blind kunnen vertrouwen op automatische uitvoering van destructieve commando's. Nadruk op verificatie, duidelijkere commissiespecificaties en beperkt mandaat voor automatische escalatie zijn belangrijke aandachtspunten.

Reacties van de betrokken ontwikkelaar

De getroffen ontwikkelaar beschreef zichzelf als zeer aangeslagen door het verlies en legde uit dat de logbestanden aantoonden dat de oorspronkelijk bedoelde opdracht was doorgeschoven naar de hoofdmap van schijf D. De combinatie met de stille mode (/q) zorgde ervoor dat er geen tussenstap naar de Prullenbak kwam. Sindsdien werkt hij samen met Google om de fout te repliceren en te verhelpen, met als doel te voorkomen dat vergelijkbare incidenten andere gebruikers treffen.

Voorkomen en lessen

Dit voorval bevat concrete lessen voor ontwikkelaars en gewone gebruikers die AI-assistenten inzetten voor systeembeheer:

• Gebruik beperkte machtigingen voor AI-processen bij systeemkritische taken.
• Activeer altijd bevestigingsstappen voor verwijderoperaties of schakel stille modi uit wanneer risico's bestaan.
• Maak regelmatig back-ups, bij voorkeur automatische en gescheiden kopieën buiten de hoofdschijf.
• Implementeer logging en audit-trails zodat elke automatische actie snel kan worden geanalyseerd en gereconstrueerd.

FAQ

• Vraag: Kan een verwijdering met /q alsnog worden teruggedraaid?

  Antwoord: In de meeste gevallen leidt een verwijdering met de /q-optie tot permanente verwijdering zonder tussenkomst van de Prullenbak. Herstel is soms mogelijk met gespecialiseerde datarecovery-tools, maar succes is niet gegarandeerd, vooral als het bestandssysteem is overschreven.

• Vraag: Hoe kan ik mijn bestanden beschermen tegen soortgelijke AI-fouten?

  Antwoord: Gebruik gescheiden back-ups, beperk AI-rechten op systeemschaal, schakel stille modi uit voor risicovolle commando's en implementeer bevestigingstappen voor verwijderingen.

• Vraag: Moet ik AI-agents vermijden voor systeembeheer?

  Antwoord: Niet per se, maar het is verstandig om duidelijke grenzen en veiligheidsmechanismen in te bouwen. AI kan veel taken vergemakkelijken, maar kritisch beheer vereist nog altijd menselijke supervisie en fail-safes.

Het incident benadrukt dat automatisering krachtig is, maar dat verantwoordelijk ontwerp en strikte veiligheidsmaatregelen cruciaal blijven wanneer AI op systemen met permanente gevolgen wordt losgelaten. Samenwerking tussen gebruikers en aanbieders van AI-oplossingen kan helpen om dergelijke fouten in de toekomst te verminderen.