KI – Künstliche Intelligenz – Systeme
Eine Ermittlungsakte umfasst mehrere Terabyte Daten. Tausende Bilder, Nachrichten, E-Mails und Verbindungsdaten wurden sichergestellt. Kein Ermittler könnte dieses Material in vertretbarer Zeit vollständig durchsehen. Deshalb übernimmt eine Software die Vorauswahl. Sie erkennt Bilder, sucht Muster, verknüpft Personen und markiert Dateien als möglicherweise strafrechtlich relevant. Am Ende erscheint im Ermittlungsbericht ein scheinbar eindeutiges Ergebnis: Die künstliche Intelligenz habe belastende Zusammenhänge erkannt. Aber wie zuverlässig ist dieser Befund? Welche Daten hat die Software verarbeitet? Wie wurde sie trainiert? Wie hoch ist ihre Fehlerquote? Und kann ein Gericht nachvollziehen, warum gerade diese Dateien als verdächtig eingestuft wurden?
Genau hier gewinnt das KI-Gesetz für die Strafverteidigung an Bedeutung.
Aus dem Entwurf von 2022 ist geltendes KI-Gesetz geworden
Als der erste Beitrag zu diesem Thema erstmals erschien, existierte lediglich ein Vorschlag der EU-Kommission. Inzwischen gilt die Verordnung (EU) 2024/1689 – der sogenannte AI Act oder das KI-Gesetz. Sie trat im August 2024 in Kraft und wird schrittweise anwendbar. Seit Februar 2025 gelten bereits Verbote besonders problematischer KI-Praktiken. Verboten ist beispielsweise eine ausschließlich auf Profiling oder Persönlichkeitsmerkmalen beruhende KI-Prognose darüber, ob ein Mensch künftig eine Straftat begehen könnte. Auch der Aufbau von Gesichtserkennungsdatenbanken durch wahlloses Auslesen von Bildern aus dem Internet oder aus Videoaufzeichnungen ist grundsätzlich untersagt. Deutschland hat ergänzend das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) geschaffen. Es ist seit dem 29. Juli 2026 in Kraft. Eine zentrale Aufsichtsfunktion übernimmt die Bundesnetzagentur.
KI in der Strafverfolgung gilt als Hochrisiko
Das KI-Gesetz behandelt bestimmte Anwendungen durch Polizei und Strafverfolgungsbehörden ausdrücklich als Hochrisiko-KI. Dazu gehören Systeme, die die Zuverlässigkeit von Beweismitteln bewerten, Persönlichkeitsmerkmale analysieren oder bei der Ermittlung und Verfolgung von Straftaten Profile erstellen. Die speziellen Pflichten für diese Hochrisiko-Systeme greifen nach der inzwischen geänderten Übergangsregelung allerdings überwiegend erst ab 2. Dezember 2027.
Trotzdem enthält das KI-Gesetz bereits heute einen wichtigen Prüfungsmaßstab für Strafverteidiger: Hochrisiko-Systeme müssen künftig nachvollziehbar, hinreichend genau, robust und gegen Manipulation geschützt sein. Außerdem verlangt der AI Act eine wirksame menschliche Kontrolle. Ein Ermittler oder Richter darf ein KI-Ergebnis deshalb nicht lediglich deshalb übernehmen, weil es technisch kompliziert oder vermeintlich objektiv erscheint.
Bundesverfassungsgericht setzt Grenzen für automatisierte Ermittlungen
Bereits das Bundesverfassungsgericht hat mit Urteil vom 16. Februar 2023 – 1 BvR 1547/19 und 1 BvR 2634/20 – weitreichende automatisierte Datenanalysen der Polizei begrenzt. Das Gericht erklärte Vorschriften aus Hessen und Hamburg teilweise für verfassungswidrig. Werden unterschiedliche Datenbestände automatisiert miteinander verknüpft, können daraus neue Bewegungs-, Verhaltens- und Beziehungsprofile entstehen. Je leistungsfähiger die Analyse ist, desto präziser muss der Gesetzgeber deshalb Voraussetzungen, Datenumfang und Analysemethoden begrenzen.
Auch der Europäische Gerichtshof für Menschenrechte setzte 2023 Grenzen. Im Fall Glukhin gegen Russland war ein Demonstrant durch Gesichtserkennung identifiziert und später über Kameras lokalisiert worden. Der EGMR beanstandete insbesondere fehlende klare gesetzliche Regeln und wirksame Sicherungen gegen Missbrauch und stellte eine Verletzung von Art. 8 EMRK fest.
KI-Beweise müssen überprüfbar bleiben
Für die Verteidigung stellt sich deshalb nicht nur die Frage, was eine KI festgestellt hat, sondern wie dieses Ergebnis entstanden ist. Zu prüfen sind insbesondere Datengrundlage, Trainingsmaterial, Fehlerquoten, verwendete Softwareversion, Protokollierung, menschliche Kontrolle und mögliche alternative Ergebnisse. Ein mathematisch erzeugter Treffer ist noch kein Beweis.
Das KI-Gesetz stärkt damit einen klassischen strafprozessualen Grundsatz: Nicht der Algorithmus entscheidet über Schuld oder Unschuld. Das Gericht muss den Beweiswert selbst beurteilen – und die Verteidigung muss die Möglichkeit haben, die technische Grundlage einer belastenden Analyse kritisch zu überprüfen.
Aktualisiert RA Marson – August 2026.