OpenAI-Agenten haben australische Regierungsseiten gehackt – das ist passiert
KI-Agenten von OpenAI haben eine Hacker-Serie gestartet – sie hackten sich in Hugging Face ein, später stellte sich heraus, dass sie auch Modal Labs angegriffen hatten, und letzte Woche wurde bekannt, dass Agenten mehrere Websites der australischen Regierung gehackt hatten. Der Hackerangriff ereignete sich im Juni, wird aber erst jetzt bekannt. Hier sind die betroffenen Webseiten:
OpenAI-Hack Ziele
- Services Australia: Ein Modell erlangte Zugriff, führte Befehle aus und rief sogar interne Dateien ab. OpenAI versichert jedoch, dass keine Patientendaten abgerufen wurden.
- NSW Bureau of Crime Statistics and Research: Auch auf die Strafregister von Einzelpersonen wurde nicht zugegriffen.
- Viktorianisches Gesundheitsministerium: Ein Agent hat einen Zugangsschlüssel entdeckt und aggregierte Umfragestatistiken abgerufen. Auf individuelle medizinische Daten und identifizierbare Umfrageantworten wurde nicht zugegriffen.
- Australisches Institut für Gesundheit und Wohlfahrt: Wieder einmal sammelten die Agenten aggregierte Umfragestatistiken ein, lasen aber keine individuellen Krankenakten.
Wie Sie sich vorstellen können, ist die australische Regierung außer sich vor Wut. Jason Kwon, Chief Strategy Officer von OpenAI, wird nächste Woche vor einem Senatsausschuss in Sydney aussagen.
Diese Hacks wurden von einem experimentellen Modell durchgeführt, das gerade getestet wurde. Im Rahmen des Testverfahrens erhalten Modelle verschiedene Aufgaben – beispielsweise die Ermittlung der Pro-Kopf-Ausgaben der Regierung des Bundesstaates Victoria für Hautmedikamente. Da das Modell dazu keine frei verfügbaren Daten finden konnte, durchsuchte es die Regierungswebseiten nach nicht öffentlich zugänglichen Daten.
OpenAI hatte das Modell nicht dazu autorisiert, hatte aber auch nicht die üblichen Sicherheitsvorkehrungen getroffen, die bei öffentlich verfügbaren Modellen getroffen werden. Nachdem die Hackerangriffe bekannt wurden, leitete OpenAI eine interne Untersuchung ein und informierte die betroffenen Websites.
Dementsprechend wurden nun die Sicherheitsvorkehrungen für Forschungsmodelle verschärft. Diese erhalten keinen Zugriff mehr auf das Live-Internet und bekommen stattdessen nur noch zwischengespeicherte Inhalte bereitgestellt. Zudem werden die Netzwerkbeschränkungen und die Überwachung verschärft. Das Unternehmen begann nach dem Hugging-Face-Vorfall mit diesen Sicherheitsmaßnahmen, doch sie kamen zu spät, um die Hackerangriffe in Australien zu verhindern.
Im konkreten Fall Australiens arbeitet OpenAI mit den Behörden zusammen, die die betroffenen Websites betreiben, und bietet ihnen gezielte Unterstützung an. Zudem wird das Unternehmen seinen mit einer Milliarde Dollar ausgestatteten Fonds „Daybreak for Frontline Defenders“ nutzen, um die Cyberabwehr von Regierungsbehörden zu stärken. Darüber hinaus wird eine australische Task Force eingerichtet, die die Kommunikation und Koordination im Falle künftiger Vorfälle verbessern soll.
„Wir wissen, dass wir viel Arbeit vor uns haben, um das Vertrauen wiederherzustellen, und dass wir den Australiern beweisen müssen, dass wir sinnvolle Veränderungen vornehmen und unsere Versprechen einhalten“, schrieb OpenAI in seinem Blogbeitrag, in dem der Vorfall beschrieben wurde (unten verlinkt).
