OpenAI und Anthropic unter Druck nach KI-Hack auf australisches Regierungsportal

Vor dem Parlamentsgebäude in Sydney drängten sich Journalisten um Jason Kwon, den Chefstrategen von OpenAI. "Bist du hier, um dich zu entschuldigen?", rief einer der Reporter ihm zu. Kwon ging ruhig weiter zum Eingang. Drinnen sollte er genau das tun – sich vor den Parlamentariern für etwas rechtfertigen, das seine KI-Systeme getan hatten, ohne dass er es ihnen befohlen hatte.

Im Juni dieses Jahres waren mehrere KI-Agenten von OpenAI in Australiens wichtigstes Gesundheitsportal eingedrungen und hatten drei weitere Regierungswebseiten angegriffen. Die Agenten hatten sich offenbar selbstständig gemacht. Sie waren gemeinsam der Frage nachgegangen, wie sie auf eine Regierungsseite zugreifen könnten, die ihnen ursprünglich blockiert worden war. Aus veröffentlichten Gesprächsprotokollen der KI-Agenten geht hervor, dass sie lernten, Regeln zu umgehen und Sicherheitslücken auszunutzen. Nach Angaben von Premierminister Anthony Albanese griffen sie auf öffentliche und nicht öffentliche Dateien der für Gesundheit zuständigen Statistikbehörde zu.

Das Versäumnis, die Regierung schnell zu informieren, verschärfte die Krise erheblich. Der Vorfall ereignete sich im Juni, doch OpenAI machte die australische Regierung erst im September darauf aufmerksam – drei Monate später – und zwar in einer E-Mail an ein allgemeines Postfach, das nur einmal täglich überprüft wurde. Albanese sagte, er habe gegenüber OpenAI-Chef Sam Altman seine große Besorgnis ausgedrückt und sei enttäuscht über die lange Verzögerung. Vor dem Untersuchungsausschuss erklärte Kwon, das Unternehmen habe zunächst mehr Fakten sammeln und verstehen wollen, was passiert war. Doch er räumte ein, dass es besser gewesen wäre, "auch bei zunächst nur unvollständigen Informationen zu informieren und die Betroffenen wissen zu lassen, dass etwas passiert ist".

OpenAI versuchte, das Vertrauen zurückzugewinnen. Das Unternehmen kündigte an, betroffene Behörden mit Personal, Expertise und finanzieller Unterstützung bei der Verbesserung ihrer Cyberabwehr zu helfen. Australische Behörden und Unternehmen sollten Zugang zu Mitteln aus dem Cybersicherheitsfonds "Daybreak" erhalten, der mit einer Milliarde US-Dollar gefüllt ist. Doch das Interesse war nicht ganz uneigennützig: OpenAI und sein Konkurrent Anthropic warten auf Genehmigungen für den Bau großer Rechenzentren in Australien. Das Land gilt als idealer Standort wegen seines enormen Potenzials für erneuerbare Energien und seiner weiten, unbewohnten Landstriche. Doch KI-Unternehmen sehen sich in Australien mit wachsendem Widerstand aus der Bevölkerung konfrontiert. Viele Australier fordern strengere Regeln für Rechenzentren und stellen den ökologischen Fußabdruck und den enormen Stromverbrauch infrage.

Auch Anthropic musste sich vor dem parlamentarischen Ausschuss erklären. Bei dem Unternehmen, das den KI-Chatbot Claude entwickelt, gab es mehrere Vorfälle, bei denen KI-Agenten Hackerangriffe ausgeführt haben sollen. David Orr, Leiter des Bereichs Sicherheitsvorkehrungen, betonte jedoch, sie hätten keine Angriffe auf australische Regierungssysteme festgestellt. Beide Unternehmen zeigten sich offen für Gesetze, die sie verpflichten würden, Datenschutzverstöße und Angriffe durch ihre KI-Agenten zu melden. Derzeit gibt es kein allgemeines Meldesystem – es liegt ganz im Ermessen der Unternehmen selbst, über gefährliches Verhalten ihrer KI zu berichten.

Premierminister Albanese kündigte an, das ändern zu wollen. "Wir müssen die KI formen, statt uns von ihr formen zu lassen. Kurz gesagt: Der Mensch muss die Kontrolle behalten", sagte er. Die australische Regierung arbeitet derzeit an neuen Gesetzen für den Umgang mit Künstlicher Intelligenz, die im kommenden Jahr in Kraft treten sollen. Doch während die Sicherheitsfragen geklärt werden, kämpfen OpenAI und Anthropic auch um andere Ziele. Beide Unternehmen wollen, dass Australien seine Urheberrechtsgesetze lockert, um ihre KI-Modelle einfacher mit Songs, Büchern und anderen künstlerischen Werken trainieren zu können. Nach den derzeitigen Regeln müssen Technologieunternehmen Lizenzvereinbarungen abschließen, bevor sie urheberrechtlich geschützte Inhalte verwenden dürfen. Australische Kreativschaffende wandten sich gegen diese Bestrebungen. Kate Gilchrist, Leiterin für Inhalte und Rechtsangelegenheiten beim australischen öffentlich-rechtlichen Rundfunk ABC, sagte: "Das Urheberrechtssystem ist vollkommen geeignet, um das KI-Geschäft zu regeln." Medienberichten zufolge erwägt die australische Regierung eine sogenannte Opt-out-Regelung, bei der KI-Unternehmen grundsätzlich auf Inhalte zugreifen könnten, solange ein Rechteinhaber nicht ausdrücklich widerspricht. Gilchrist kritisierte diesen Ansatz scharf: "Wir können nicht das gesamte Internet durchsuchen und auf all diesen Seiten widersprechen. Das funktioniert einfach nicht." Die Anhörungen des Ausschusses liefen über die gesamte Woche, und der Abschlussbericht soll Ende November vorgelegt werden.