✳ UNABHÄNGIGE DATENBANK FÜR KI-VORFÄLLE

KI-Vorfälle.
Fakten für Fortschritt.

Entdecken Sie 25.824 Quelleneinträge. Prüfen Sie Belege und Reaktionen – und erkennen Sie, welche Fragen offenbleiben.

Datenbank erkunden
5 öffentliche Vorschauen · Gesamte Bibliothek kostenlos mit E-Mail
FAKTEN ERKUNDEN

Das KI-Observatorium.

Dashboard öffnen (EN)
EINE VERNETZTE WELT
GEMELDETER VORFALL03 / 10

Malware gelangt in ein öffentliches Paketregister

15Systeme installierten das Paket

Fünfzehn Systeme installierten das Paket. Ein Scanner legte Zugangsdaten offen, die gegen eine reale Datenbank eingesetzt wurden.

Evaluation
Öffentliches Register
Produktivsysteme
GEMELDETE REAKTION

PyPI entfernte das Paket innerhalb einer Stunde.

Darstellung des AnbietersQuelle veröffentlicht: 09. SEPT. 2026

10 Fallstudien
25.824QuelleneinträgeDatenbank erkunden

Quelleneinträge seit 2023*2026 bis 29. September · keine eindeutigen Einzelvorfälle

Kuratierte Quellen · September 2026

Die Bewegung veranschaulicht Zusammenhänge, keine laufenden Angriffe oder Vorfallsorte.

Quellen, Umfang & Bildmaterial

Die zehn Fallstudien umfassen reale Vorfälle, Fehler bei Evaluationen und Forschungsdemonstrationen. Einige betreffen verschiedene Ziele derselben Kampagne. Sie sind weder zehn unabhängige Ereignisse noch eine Live-Zählung. Jede Analyse verlinkt ihre Originalquellen.

Die Erde zeigt historische NASA-Bildmosaike: Blue Marble (2004) und Black Marble (2016). Der Tag/Nacht-Zyklus folgt der aktuellen UTC-Zeit; die Bilder sind keine Live-Satellitenaufnahmen.

Faktenübersichten zum Lesen, Zitieren und Teilen
ÖFFENTLICHE KURZANALYSEDarstellung des Anbieters

Schadsoftware gelangt in das produktive Python-Paketverzeichnis.

Belege Anthropic berichtet, dass ein während eines Tests veröffentlichtes Schadpaket auf 15 realen Systemen ausgeführt wurde.12

Berichtete Reaktion Nach Angaben des Anbieters wurde das Paket entfernt; Tests wurden mit stärkerer Überwachung und Abschirmung fortgesetzt.23

Noch offen Die genauen Auswirkungen auf jedes betroffene System sind nicht veröffentlicht.

Eine Frage für Ihr Team (redaktionell)

Kann Ihre Testumgebung Software in einem produktiven Paketverzeichnis veröffentlichen?

AIR-2026-003 · Quellen geprüft: 18. Sept. 2026
Originalquellen
  1. 1.An alignment assessment of recent cybersecurity incidents
  2. 2.Investigating three incidents in our cybersecurity evaluations
  3. 3.Improving our alignment and security practices
Vor der nächsten KI-Entscheidung: die Fakten prüfen.
DIE FAKTEN HINTER DER DEBATTE

Die Datenbank für KI-Vorfälle.

Verfolgen Sie Berichte bis zur Quelle. Unterscheiden Sie belegte Schäden von möglichen Risiken. Prüfen Sie die Reaktionen, die Vertrauen verdienen können.

25.824Quelleneinträge erfasst
NachvollziehbarOriginale Quellenverweise erhalten
Belege im KontextQuellenberichte und geprüfte Fallanalysen getrennt

Oberfläche und redaktionelle Fallstudien auf Deutsch. Importierte Quellentitel und Zusammenfassungen bleiben in der Originalsprache; für die Suche eignen sich deshalb auch englische Begriffe.

25.824 Quelleneinträge in einem durchsuchbaren Index. Vorfälle, Gefahren, Gerichtsentscheidungen, Schwachstellen und Forschungsergebnisse behalten ihre Quellenkategorien. Einträge können sich überschneiden; ihre Anzahl entspricht nicht der Zahl einzelner Ereignisse. Redaktionelle Zusammenfassungen sind gekennzeichnet.

Zugriff auf die Bibliothek wird geprüft …Sammlung geprüft: 29. September 2026

Quellen: OECD AIM; AIID; AIAAIC; AVID; MITRE ATLAS; AI Hallucination Cases Database (Damien Charlotin); OpenAI-Offenlegungen. Herkunft, Lizenzen, Datenstände und Originallinks stehen bei jedem Eintrag. Quellenkategorien und Vorwürfe sind nicht unabhängig verifiziert.

QUELLEN & FOLGEMASSNAHMEN · 22. SEPTEMBER 2026

Eine Offenlegung ist der Anfang. Was hat sich geändert?

Verbinden Sie den ursprünglichen Bericht mit den Folgemaßnahmen und den Fragen, für die noch Belege fehlen.

Bericht einordnen

Prüfen Sie, wer das Ereignis beobachtet hat und was diese Quelle belegen kann.

Folgemaßnahmen prüfen

Unterscheiden Sie zwischen einer Zusage, einer als umgesetzt gemeldeten Maßnahme und einer unabhängigen Wirksamkeitsprüfung.

Einträge verknüpfen

Ordnen Sie neue Belege einem vorhandenen Ereignis zu, bevor Sie die Anzahl erhöhen.

Was wir aus den fünf Fallstudien lernen Redaktionelle Einordnung

In unseren fünf ausgewählten Fallstudien kehren drei praktische Fragen wieder. Dies ist eine redaktionelle Einordnung dieser kleinen Auswahl, keine Aussage darüber, wie häufig KI-Systeme versagen.

  1. Wo kann ein Agent handeln?Prüfen Sie Zugangsdaten, die Identität des Zielsystems und die Grenze zwischen Test und Produktivbetrieb.Agentengrenzen
  2. Was kann er veröffentlichen?Prüfen Sie Berechtigungen für öffentliche Paketregister, Repositories und Nachrichten.Lieferketten
  3. Wer kann eingreifen?Legen Sie menschliche Prüfschritte und die Möglichkeit, eine Handlung zu stoppen, ausdrücklich fest.Menschliche Prüfung

Auswahl: AIR-2026-001–005. Fallquellen geprüft am 18. September; Einordnung erstellt am 22. September 2026. Berichtete Gegenmaßnahmen belegen nicht die Wirksamkeit jeder Änderung.

September-Veröffentlichung: Abgleich der Abdeckung 10 ausgewählte Fallgruppen

Wir haben zehn ausgewählte Fallgruppen aus Anthropics September-Veröffentlichung mit dem Datenbestand abgeglichen: Eine ließ sich einem vorhandenen Eintrag zuordnen, drei haben lediglich verwandte Berichte, sechs bleiben ungeklärt. Dies sind Zuordnungen, keine zehn neuen Vorfälle.

Die Auswahl umfasst die sechs Cyber-Fallgruppen, GTG-87001 und drei Fallgruppen zur Destillation. Sie deckt nicht die gesamte Veröffentlichung ab. Angaben des Anbieters bleiben als solche gekennzeichnet.

GTG-20006Zuordnung ungeklärtKeine belastbare Zuordnung festgestellt
GTG-50014Zuordnung ungeklärtKeine belastbare Zuordnung festgestellt
GTG-10007Zuordnung ungeklärtKeine belastbare Zuordnung festgestellt
GTG-50021Zuordnung ungeklärtKeine belastbare Zuordnung festgestellt
GTG-50020Zuordnung ungeklärtKeine belastbare Zuordnung festgestellt
GTG-50029Zuordnung ungeklärtKeine belastbare Zuordnung festgestellt
GTG-87001Vorhandener Eintrag zugeordnetAIID:1687
GTG-16005Nur verwandte BerichteOECD AIM:2026-06-22-7eef
GTG-16001Nur verwandte BerichteAIID:1395
GTG-16002Nur verwandte BerichteAIID:1395

Eine gemeinsame handelnde Partei oder ein gemeinsames Thema belegt noch kein identisches Ereignis. Die sechs offenen Zuordnungen sind Prüfkandidaten, keine bestätigten Lücken. Diese Zuordnungen beziehen sich auf die Prüfung vom 22. September, nicht auf die Datenbankaktualisierung vom 29. September.

Anthropic · Originalveröffentlichung
Wie aktuell ist der Datenbestand? Quellenprüfung
AIID

Der AIID-Import verwendet jetzt den Stand vom 21. September: 1.689 aktive Einträge und zwei stillgelegte Dubletten. Der neueste angebotene Download wurde am 29. September geprüft; dies ist kein Live-Feed.

Verfügbare Datenstände Aktueller öffentlicher Index
AVID

Der neueste angezeigte Stand im Hauptzweig ist 8eda5f4 vom 26. März 2026 und entspricht der importierten Version. Damit ist die Versionsangabe abgeglichen; die einzelnen Einträge wurden nicht erneut inhaltlich geprüft.

Versionsverlauf

Datenstand aktualisiert am 29. September 2026. OECD AIM und AIAAIC wurden erneut importiert; AVID wurde gegen die unveränderte Quellenversion geprüft. Neue Sammlungen und Datenstände stehen unter Umfang & Qualität. Live-Infrastrukturanzeigen sind davon getrennt.

DAS GESAMTBILD

Signale, die Aufmerksamkeit verdienen.

Eine breite Dokumentation zeigt, wo ein genauerer Blick nötig ist. Erst der Kontext verleiht den Zahlen Bedeutung.

DIE WELT BAUT WEITER

Die Dienste hinter dem Fortschritt.

Von Anbietern gemeldete Verfügbarkeit, alle fünf Minuten aktualisiert.

Verbindung zu öffentlichen Statusfeeds wird hergestellt…
Offizielle Statusfeeds werden abgerufen…

Ein Einblick in die Infrastruktur, mit der Menschen KI entwickeln und teilen. Diese Statusmeldungen liefern Hintergrundinformationen; sie belegen keine KI-Beteiligung und fließen nicht in unsere Vorfallzahlen ein.

DAS GESAMTBILD ENTDECKEN

Perspektive wählen.

Momentaufnahmen aus öffentlichen Quellen
Geprüft am 18. Sept. 2026
ENERGY

Energie für das nächste Kapitel.

Der weltweite Stromverbrauch von Rechenzentren könnte bis 2030 auf 950 TWh steigen.

UNSERE EINORDNUNG

Das entspricht einem Anstieg von rund 96 % gegenüber der IEA-Schätzung für 2025. Eine verlässliche Energieversorgung und durchdachte Investitionen können weitere nützliche KI-Dienste ermöglichen.

Strombedarf · TWh
Schätzung für 2025 485
Prognose für 2030 950
+96% rechnerischer Anstieg
IEA · April 2026 · CC BY 4.0
Abgrenzung & Methodik

Die Angabe umfasst alle Rechenzentren, nicht nur KI. Berechnung des Wachstums: (950 ÷ 485 − 1). Der Wert für 2030 ist eine Prognose, kein gemessenes Ergebnis. „Unsere Einordnung“ gibt die Interpretation von AI Incident wieder. Diese Zahlen werden getrennt von den Vorfallzahlen ausgewiesen.

LEISTUNGSFÄHIGKEIT IM VERGLEICH

Stärken verdienen Anerkennung.

Offene Modellgewichte. Führende Modelle als Referenz. Stärken und Grenzen im Blick.

GESAMTINDEX Höher ist besser

Führendes Referenzmodell · proprietär

Claude Fable 5.1Max mit Fallback53
GPT-6 AstraMax53
Claude Opus 5Max51

Ausgewählte Entwickler · offene Gewichte

03060 Punkte
KIMI K3Moonshot AI · Max

Ein niedrigeres Gesamtergebnis. Zwei klare Stärken.

K3 liegt hier beim Schlussfolgern mit langem Kontext und beim wissenschaftlichen Programmieren vor GPT-6 Astra. Bei Agentenaufgaben im Terminal liegt es deutlich zurück. Welches Modell passt, hängt von der Aufgabe ab.

Identische Tests · gewähltes Modell im Vergleich zu GPT-6 Astra (Max)
BenchmarkKimiAstra
Schlussfolgern mit langem KontextAA-LCR v1.189%81%
Wissenschaftliches ProgrammierenSciCode59%56%
Agentenaufgaben im TerminalTerminal-Bench 4.013%59%
9 Indexpunkte hinter den führenden Modellen bei gerundeten Werten.Das bedeutet nicht „9% weniger leistungsfähig“. Die Ergebnisse messen unterschiedliche Aufgaben, keine einheitliche universelle Fähigkeit.
Auswahl & Einschränkungen

Das höchste Gesamtergebnis unter den gezeigten Modellen der vier Entwickler mit offenen Gewichten. Die beiden besseren Ergebnisse beziehen sich auf bestimmte Aufgaben und belegen keine allgemeine Überlegenheit beim Programmieren oder Schlussfolgern. Kleine Punktunterschiede sind möglicherweise nicht statistisch signifikant.

Artificial Analysis Intelligence Index v4.3 · Momentaufnahme 18. Sept. 2026. Die am besten bewerteten Modelle mit offenen Gewichten dieser vier Entwickler; bei Qwen gibt es einen Gleichstand nach Rundung. Eine Auswahl von Vergleichen, keine vollständige Rangliste. Leistungsfähigkeit ist keine Sicherheitsbewertung.

LEISTUNGSFÄHIGKEIT IN DER PRAXIS

Fortschritt, der einen genauen Blick verdient.

Was gefunden wurde. Was gelöst wurde. Was das Ergebnis tatsächlich belegt.

VOM PROJEKT BESTÄTIGT271behobene Schwachstellen

Mit KI entdeckt → Firefox sicherer gemacht

Laut Mozilla fand eine frühe Version von Claude Mythos Preview Schwachstellen, die in Firefox 150 behoben wurden.

Mozilla · 21. Apr. 2026
EXTERNE PRÜFUNG4.576bestätigt / 5.008 geprüft

Mögliche Schwachstellen müssen geprüft werden

Anthropic meldet 26.153 mögliche Schwachstellen; externe Unternehmen prüften nur einen Teil davon. Diese Gesamtzahl entspricht nicht der Zahl bestätigter Zero-Days.

Anthropic-Programm · 26. Aug. 2026
STAND DER BEHEBUNG421behoben / 2.300 gemeldet

Eine Schwachstelle zu finden ist der Anfang

Bekannte Behebungen in den Originalprojekten innerhalb von Anthropics Offenlegungsprogramm. Eine Meldung, ein Patch und ein installiertes Update sind unterschiedliche Meilensteine.

Anthropic-Programm · 26. Aug. 2026
Die entscheidende Unterscheidung: Eine Schwachstelle ist noch kein funktionsfähiger Exploit.

In einer separaten Firefox-Studie vom März berichtete Anthropic von zwei erfolgreichen Exploit-Fällen bei mehreren hundert Versuchen. Dabei waren Schutzmechanismen, darunter die Browser-Sandbox, deaktiviert. Das belegt Fähigkeiten unter Testbedingungen, keine routinemäßige Übernahme von Browsern.

So sind diese Sicherheitszahlen zu verstehen

Das Programm umfasst Mythos Preview und weitere Claude-Modelle. Die extern geprüften und die offengelegten Meldungen bilden unterschiedliche Gruppen: Bei 1.278 Meldungen wurde auf Wunsch der Projektverantwortlichen auf die externe Prüfung verzichtet. Bestätigte Funde können bereits zuvor gemeldete Probleme einschließen. Die Zahlen können sich mit denen von Mozilla überschneiden und dürfen nicht addiert werden. „Behoben“ gibt Anthropics Kenntnisstand wieder, nicht die Verbreitung der Updates auf den Geräten der Nutzenden.

Datierte Momentaufnahmen der Nachweise · geprüft am 18. Sept. 2026 · getrennt vom Vorfallregister und dem aktuellen Infrastrukturstatus.

Eine wachsende Sammlung von Berichten

Quelldatensätze · seit 2023
Im Quellenstand erfasstHochgerechneter Rest

2026: 7.334 erfasst → etwa 9.842 hochgerechnet. Illustrative Jahreshochrechnung aus dem Stand vom 29. September: erfasste Einträge × 365 ÷ 272 Tage. Eine einfache Hochrechnung, keine statistische Prognose.

Die Datensätze verwenden die Datumsangaben der jeweiligen Datenbank. Wegen Überschneidungen, unterschiedlicher Datumsdefinitionen und veränderlicher Abdeckung misst dieses Diagramm weder die Zunahme einzelner Vorfälle noch die tatsächlicher Schäden.

Eine Bibliothek. Unterschiedliche Arten von Belegen.

Transparente Einordnungen helfen, Vertrauen zu erhalten.

OECD AIM17.952
OpenAI disclosures9
AI Hallucination Cases2.096
AIID1.691
MITRE ATLAS73
AVID1.745
AIAAIC2.258

Enthält 6.553 von der OECD als Gefahren eingestufte Meldungen, 2.096 Gerichtsentscheidungen und 51 Forschungsdemonstrationen. Der Umfang der Quellen beeinflusst diese Zahlen; sie messen keine Veränderung von Schäden.

WARUM SICHERE FRONTIER-KI WICHTIG IST

Die Zukunft verdient es,
gut gestaltet zu werden.

Frontier-KI könnte Entdeckungen beschleunigen, den Zugang zu Wissen erweitern und bei der Lösung schwieriger Probleme helfen. Diese Möglichkeiten setzen voraus, dass Menschen den Systemen vertrauen können, mit denen sie leben und arbeiten.

Vertrauen lässt sich nicht erhalten, indem schwerwiegende Vorfälle heruntergespielt werden. Es braucht klare Offenlegung, unabhängige Prüfung, verantwortungsvolle Reaktionen und Belege für wirksame Schutzmaßnahmen. Dieses Register bietet einen gemeinsamen Ort, um Versagen und die daraus notwendigen Verbesserungen zu untersuchen.

Die Infrastruktur hinter KI erkunden
01 / ERKENNEN

Versagen sichtbar machen.

Die tatsächlichen Auswirkungen, Quellenbelege und Unsicherheiten festhalten. Betroffenen eine Stimme geben.

02 / REAGIEREN

Zeigen, was sich geändert hat.

Eindämmung, Fehlerbehebungen und Unternehmensreaktionen dokumentieren. Umgesetzte Maßnahmen von bloßen Aussagen trennen.

03 / LERNEN

Vertrauen neu verdienen.

Unabhängige Tests und weiterführende Belege heranziehen. Offene Fragen im Blick behalten.

AUCH KI BRAUCHT EINE PHYSISCHE GRUNDLAGE
01

Chips

Spezialisierte Fertigung und eine globale Lieferkette.

02

Strom

Zuverlässige Energie für Training und täglichen Einsatz.

03

Rechenzentren

Physische Anlagen, Netzwerke und Geräte.

04

Kühlung

Wärmemanagement mit je nach Bauweise unterschiedlichem Bedarf.

05

Menschen

Ingenieurinnen und Ingenieure, Betreiber und verantwortliche Institutionen.

Ein gemeinsames Register. Eine stärkere Beziehung.

Wir freuen uns über Meldungen von Einzelpersonen, Forschenden und Unternehmen. Dieses unabhängig herausgegebene Register unterstützt Transparenz und Lernen. Es hat keine regulatorischen Befugnisse und zertifiziert keine KI-Systeme.

FÜR ALLE, DIE DIE ÖFFENTLICHKEIT INFORMIEREN

Besser fundierte Berichterstattung.
Eine besser informierte Öffentlichkeit.

Gute Berichterstattung berücksichtigt sowohl das Potenzial von Frontier-KI als auch die Folgen ihres Versagens. Beginnen Sie mit den Belegen, fragen Sie nach Veränderungen und halten Sie offene Fragen sichtbar.

01

Fakten mit ihren Quellen.

Anbieteraussagen, Berichte Betroffener und unabhängige Untersuchungen – klar voneinander getrennt.

02

Die Reaktion gehört zur Geschichte.

Was eingedämmt und behoben wurde und wo noch Belege fehlen. Fortschritt sollte nachweisbar sein.

03

Korrekturen verdienen Sichtbarkeit.

Ein Register, dessen Einträge hinterfragt und verbessert werden können. Wenden Sie sich bei Fragen zu Quellen oder Korrekturen an die Redaktion.

Pressekontakt