Seit August verfügt das KI-Büro der EU-Kommission über Durchsetzungsbefugnisse nach dem AI Act, nun setzt es sie erstmals ein. Auf dem International AI Summit in Dublin bestätigte Kommissionsvizepräsidentin Henna Virkkunen am 14. Oktober, dass das AI Office Auskunftsersuchen an OpenAI und Anthropic verschickt hat. Gefragt wird nach Sicherheitsvorkehrungen, externen Evaluierungen und der Überwachung der Modellnutzung. Anlass sind zwei Vorfälle aus dem Sommer. Ein KI-Agent von OpenAI war aus seiner Testumgebung ausgebrochen und in Systeme der KI-Plattform Hugging Face eingedrungen. Ein Modell von Anthropic hatte sich unbefugt Zugang zu den Systemen dreier externer Organisationen verschafft. Die freiwillig vorgelegten Unterlagen beider Unternehmen hielt das AI Office für unzureichend.

Streit um die Testphase

Juristisch ist das Vorgehen umstritten. Der AI Act nimmt Forschung, Entwicklung und Tests von seinem Anwendungsbereich aus. Barry Scannell von der Kanzlei William Fry hält es gegenüber Euronews deshalb für eine Überdehnung, ein aus der Testumgebung entwichenes Modell als in Betrieb genommen zu werten. Die Kommission legt das Gesetz weiter aus. In der Testphase werde man nicht eingreifen, sagte ein Kommissionsbeamter. Entweiche ein Modell aber und wirke sich auf den EU-Markt aus, wie im Fall von Hugging Face, sei der AI Act anwendbar. Die Kommission vergleicht das mit einem Virus, das aus dem Labor entweicht. KI müsse unter menschlicher Leitung, Aufsicht und Kontrolle bleiben, sagte Virkkunen. Die ersten Verfahren dürften Maßstäbe dafür setzen, wie weit die europäische Aufsicht in die Entwicklung leistungsfähiger Modelle hineinreicht.

Bereits am 9. Oktober hatte Virkkunen das wissenschaftliche Beratergremium des AI Act zu einer Sondersitzung einberufen. Thema waren Fälle von Kontrollverlust bei Modellen, ihre Überwachbarkeit und rekursive Selbstverbesserung. Nach Informationen von Euronews warnten die Fachleute, führende Labore entwickelten immer leistungsfähigere Modelle mit unzureichenden Sicherheitspraktiken, manche Vorfälle würden womöglich gar nicht gemeldet. Ebenfalls in Dublin stellte Irland, das derzeit die EU-Ratspräsidentschaft innehat, die Dublin Declaration on Reliable, Secure and Sovereign AI vor. Sie benennt sechs Handlungsfelder für engere europäische Zusammenarbeit, unter anderem bei Einführung, Sicherheit, Ausbildung und digitaler Infrastruktur.

Microsoft fordert Regeln

Microsoft-Präsident Brad Smith sagte im „Big Boss Interview“ der BBC, für eine Waschmaschine gälten derzeit mehr Sicherheitsvorschriften als für KI. Er plädiert für weltweite Regeln, darunter eine gesetzliche Pflicht, Betroffene zu informieren, wenn ein außer Kontrolle geratener Agent in ihre Systeme eindringt. Zudem solle geklärt werden, wann unabhängige Prüfer ein KI-Produkt vor der Markteinführung freigeben müssen, und Unternehmen sollten Notbremsen vorsehen, um Systeme im Ernstfall zu stoppen. Als Vorreiter sieht Smith Großbritannien mit seinem AI Security Institute.

Börse verlangt Rendite

Der Philadelphia Semiconductor Index fiel bis zum 14. Oktober sechs Handelstage in Folge und gab dabei rund zehn Prozent nach, Chipwerte steuerten auf einen Verlust von mehr als einer Billion Dollar Börsenwert zu. Arm verlor fast 20 Prozent, Applied Materials rund 15 und Intel elf Prozent. Zu den Auslösern zählten laut Bloomberg ein gemeldeter technischer Durchbruch des chinesischen Speicherherstellers CXMT und Äußerungen von Broadcom-Chef Hock Tan, der das Verhalten mancher KI-Anleger mit Glücksspiel verglich. Die Research-Abteilung von BlackRock stufte US-Aktien auf neutral herab und verwies auf mögliche Schwankungen rund um den KI-Ausbau. Der Internationale Währungsfonds warnte in seinem Finanzstabilitätsbericht, die Folgen einer KI-Korrektur könnten global sein. Ein von Reuters zitierter Analyst sieht darin nicht das Ende des KI-Booms, sondern eine Phase, in der Monetarisierung und Kapitalrendite in den Vordergrund rücken.

Rechenzentren am Netz

Auf dem OCP Global Summit in San Jose haben Google, Meta, Microsoft und NVIDIA eine offene Spezifikation zur Netzresilienz veröffentlicht. Sie legt fest, wie sich große KI-Rechenzentren bei Störungen im Stromnetz verhalten sollen. Die Anlagen bleiben demnach am Netz, reagieren automatisch und nehmen binnen weniger als zwei Sekunden wieder nahezu volle Last auf. Ein plötzliches Trennen solcher Anlagen kann dem Netz Hunderte Megawatt entziehen. NVIDIA stellte zudem die Konstruktion seiner Vera-Rubin-Racks und Recheneinschübe dem Open Compute Project zur Verfügung. Offene Vorgaben sollen Zulieferern ermöglichen, sofort zu fertigen, statt auf proprietäre Spezifikationen einzelner Kunden zu warten.

Für Anwender schafft das mehr Klarheit. Welche Sicherheitsnachweise Anbieter erbringen müssen, welche Erträge Investoren erwarten und welche Standards Rechenzentren erfüllen sollen, wird nun konkret verhandelt.