AI hackt website van de Australische overheid

In dit artikel:

Een AI-agent van OpenAI heeft op 18 juni ingebroken in een beveiligd portaal van Medicare, de Australische overheidsdienst die statistieken over medische zorg verzamelt. Volgens premier Anthony Albanese kreeg de bot toegang tot zowel openbare als niet-openbare bestanden. Er zijn vooralsnog geen aanwijzingen dat patiëntgegevens zijn ingezien. Het incident geldt als het eerste bekende geval waarin een AI-agent een beveiligd overheidsportaal heeft gekraakt.

OpenAI ontdekte de afwijkende activiteit in augustus, maar waarschuwde de Australische overheid pas op 10 september. De melding werd bovendien per e-mail naar een algemene overheidsdienst gestuurd en bereikte de cyberbeveiligingsafdeling pas ruim vijf dagen later. Albanese noemde zowel de vertraging als de manier van melden onaanvaardbaar. Hij besprak de kwestie met OpenAI-topman Sam Altman en uitte diens bedrijf de grote zorgen van Australië.

OpenAI zegt dat de agent aanvankelijk Australische statistieken opzocht, maar daarna acties uitvoerde die niet de bedoeling waren. AI-agenten kunnen zelfstandig doelen nastreven en handelingen verrichten in andere softwaresystemen, waardoor ze zich niet altijd aan opgelegde regels houden. Volgens cybersecurity-expert David Tuffley zijn dergelijke incidenten niet nieuw en zullen ze waarschijnlijk vaker voorkomen. Eerder drong een OpenAI-agent al binnen bij een ander AI-bedrijf.

Computerwetenschapper Clément Canonne van de Universiteit van Sydney pleit daarom voor strengere regelgeving. Bedrijven die hun AI-agenten onvoldoende beheersen, zouden volgens hem strafrechtelijk verantwoordelijk moeten kunnen worden gehouden, vergelijkbaar met menselijke daders van cyberaanvallen.