Das Wichtigste in Kürze
- Start der Infrastruktur: FLARE-AI geht am 1. Juli 2026 an den Start, entwickelt mit Beiträgen von 49 Experten aus 32 Organisationen, darunter das Software Engineering Institute der Carnegie Mellon University.
- Technische Architektur: Das System erzeugt standardisierte, maschinenlesbare Berichte, die an Entwickler, das CERT/CC über die Plattform VINCE, an MITRE sowie an US-Bundesbehörden weitergeleitet werden können – mit der Möglichkeit, CVE-Kennungen zu vergeben.
- Geschlossene Regelungslücke: Das Projekt analysiert zwölf bestehende Meldesysteme, identifiziert fünf wiederkehrende Schwachstellen und fließt in einen parteiübergreifenden Gesetzentwurf ein, der im Juni 2026 im US-Kongress diskutiert wurde.
Die operative Lücke in der KI-Sicherheitskette
Bis heute fehlte jedem, der eine kritische Fehlfunktion in einem KI-System entdeckte – etwa die Generierung von Schadsoftware, Bauanleitungen für gefährliche Gegenstände oder die Offenlegung persönlicher Daten – ein strukturierter Eskalationskanal. Das einzige verbliebene Ventil war die Veröffentlichung in sozialen Netzwerken, ein Mechanismus ohne Nachverfolgbarkeit, Prüfpfad oder Verantwortlichkeit gegenüber den Anbietern. FLARE-AI (Flaw Reporting for AI) schließt diese infrastrukturelle Lücke, indem es die in der klassischen Cybersicherheit längst etablierte Koordinationslogik in den Bereich der künstlichen Intelligenz überträgt.
Das Projekt entstand aus einer Forschungsarbeit unter der Leitung von Avijit Ghosh, KI-Policy-Forscher bei Hugging Face, gemeinsam mit Elaine Zhu und Shayne Longpre. Die zugehörige wissenschaftliche Arbeit, angenommen für die Konferenz ICML 2026, kartiert zwölf bereits existierende Meldesysteme und isoliert daraus fünf systemische, wiederkehrende Schwachpunkte – fragmentierte Kanäle, fehlende Formatstandardisierung, kein zentrales Triage-Verfahren, mangelnde Transparenz beim Follow-up sowie das Fehlen eines Koordinationsmechanismus zwischen mehreren Anbietern.
Meldeprozess: Vom Formular bis zur CVE-Vergabe
Die operative Schnittstelle befindet sich auf ai-reports.org. Das Formular nutzt bedingte Logik, um Meldende durch gezielte Fragen zu führen, und erzeugt daraus einen standardisierten, maschinenlesbaren Bericht. Dieses einheitliche Format ist der eigentliche technische Hebel des Projekts: Es entfällt die Notwendigkeit, dass jeder Empfänger unstrukturierte Textmeldungen neu interpretieren muss, wodurch der Aufwand für die Triage erheblich sinkt.
Die abgedeckten Kategorien reichen von Sicherheitsbedrohungen – Schadsoftware, Phishing, gefährliche Anleitungen – über Datenschutzverletzungen und psychische Belastungen durch längere Interaktionen mit Chatbots bis hin zu diskriminierenden Verzerrungen und Desinformation. Nach Fertigstellung des Berichts wählt der Meldende den Empfänger aus: Modellentwickler für die direkte Behebung, das SEI/CERT Coordination Center über die Plattform VINCE, MITRE zur Vergabe von CVE-Kennungen, Regierungsbehörden oder öffentliche Vorfalldatenbanken.
Die Koordination nach Eingang der Meldung übernehmen das CERT/CC-Team und das AI Security Incident Response Team (AISIRT) des SEI, die die abgestimmte Offenlegung gegenüber allen betroffenen Anbietern und Integratoren steuern. Diese Logik folgt dem Modell verantwortungsvoller Offenlegung, das seit Jahrzehnten das Software-Patching bestimmt, und überträgt es nun auf einen Bereich – Sprachmodelle und agentische Systeme –, in dem bislang ein vergleichbares Protokoll fehlte.
Regulatorische Einbindung und weitere Entwicklung
Im Juni 2026 schlug ein parteiübergreifender Gesetzentwurf im US-Kongress vor, der Bundesregierung eine zentrale Koordinationsrolle bei der Erfassung von KI-Schwachstellen zu übertragen. Mitglieder des FLARE-AI-Teams waren an der Ausarbeitung des Textes beteiligt – ein Hinweis darauf, dass die Infrastruktur von einer freiwilligen Initiative zu einem möglichen faktischen Regulierungsstandard weiterentwickelt werden könnte.
Operative Herausforderungen und Skalierbarkeit
Jessica Ji, Forscherin am Center for Security and Emerging Technology, begrüßt jeden Mechanismus, der die Transparenz in der Branche erhöht. Rumman Chowdhury, CEO von Humane Intelligence, erkennt das Potenzial des Instruments an, weist jedoch auf das zentrale operative Risiko hin: die Bewältigung des Meldevolumens im großen Maßstab sowie die Vorbeugung von Missbrauch – etwa betrügerische oder koordinierte Meldungen, die die Triage-Pipeline überlasten sollen.
Der kritische Punkt liegt somit in der Verarbeitungskapazität des menschlichen Backends. Ein standardisiertes Protokoll senkt den Aufwand pro Meldung, beseitigt jedoch nicht den Engpass, der durch die Analysekapazitäten bei CERT/CC und AISIRT entsteht. Die Skalierbarkeit des gesamten Systems wird davon abhängen, wie schnell das Ökosystem – Entwickler, Hosting-Plattformen, Behörden – das Format als faktischen Standard übernimmt.
Ausblick
Mit der Ausweitung agentischer Systeme und der wachsenden Risikofläche, die immer autonomere Modelle mit sich bringen, stellte das Fehlen eines einheitlichen Meldekanals ein zunehmendes systemisches Risiko dar, das infrastrukturell nicht länger tragbar war. Der Open-Source-Charakter von FLARE-AI und seine Interoperabilität mit bestehenden Rahmenwerken schaffen die Grundlage für ein verteiltes Meldeökosystem. Ob eine kritische Anzahl von Anbietern das System übernimmt, wird darüber entscheiden, ob es sich zum faktischen globalen Standard für den Umgang mit KI-Schwachstellen entwickelt.
