Die strafrechtliche Haftungsfalle in der KI-Regulierung: Türkischer Entwurf im Vergleich zum EU-Modell

I. Einleitung

KI-Regulierung wird besonders schwierig, wenn sie strafrechtliche Haftung und Meinungsfreiheit berührt. In generativen Systemen (LLMs) interagieren Nutzer über Prompts, die Ausgaben sind nicht vollständig vorhersehbar, und derselbe Input kann je nach Kontext und Modelleinstellungen unterschiedliche Ergebnisse erzeugen. Behandelt das Recht jede Ausgabe so, als sei sie unmittelbar vom Nutzer verfasst worden, kann Haftung von rechtswidriger Äußerung auf die Absicht des Nutzers in einem unsicheren, probabilistischen Prozess übergehen. In der Praxis führt dieses Risiko häufig zu Selbstzensur und übermäßiger Filterung.

In unserem früheren Beitrag Regulating AI Speech in Turkey: Lessons From the Grok Ban and 2025 Draft Laws haben wir die Grok-Episode und das türkische Entwurfspaket von Ende 2025 untersucht. Aufbauend auf dieser Grundlage nutzt dieser Beitrag den Vergleich Türkei vs. EU, um die schwierigen Fragen einer Belastungsprobe zu unterziehen: wie Vorsatz nachgewiesen werden kann, wenn Prompts keine Ergebnisse garantieren, wie Entwicklerhaftung mit dem Grundsatz persönlicher strafrechtlicher Verantwortlichkeit vereinbar ist und wie Durchsetzungsentscheidungen rechtmäßige Nutzung auch ohne ausdrückliche Verbote verengen können.

II. Zwei unterschiedliche Ansätze für das KI-Problem

2.1. Die EU: Governance-Pflichten, Aufsicht und skalierende Geldbußen

Der Schwerpunkt im EU AI Act liegt auf Governance. Im Mittelpunkt stehen klare Pflichten, Transparenz, Risikomanagement, Dokumentation und eine aufsichtsrechtliche Durchsetzung, die durch Geldbußen flankiert wird, die für große, grenzüberschreitend tätige Betreiber spürbar sind.

Praktisch bedeutet dies, dass die EU weniger auf einen einzelnen Vorfall fokussiert ist, sondern stärker darauf, ob der Betreiber Kontrolle nachweisen kann. Wenn Probleme auftreten, lautet die Frage regelmäßig: Welche Schutzmaßnahmen wurden eingebaut, was wurde getestet, was wurde nach der Einführung überwacht und was wurde geändert, nachdem das Risiko sichtbar wurde? Erwartet wird nicht Perfektion. Erwartet wird eine disziplinierte, nachweisbare Risikominderung, die Umfang und Sensibilität des Einsatzes entspricht.

Deshalb kann eine Durchsetzung nach EU-Vorbild auch auf Geldbußen als tatsächlichen Hebel setzen. Der Binnenmarkt ist groß, die Aufsicht strukturell koordiniert, und Sanktionen können am Umsatz ausgerichtet werden. Für Unternehmen liegt der Compliance-Druck daher häufig auf dem Prozess: Sie müssen glaubwürdig zeigen können, dass Risiken bewertet und gesteuert, nicht ignoriert wurden.

2.2. Türkei: Zugangsbeschränkungen und strafrechtliche Haftung

Die Türkei bewegt sich in einer anderen Durchsetzungsrealität. Große KI-Entwickler, Modellbetreiber und zentrale Infrastrukturanbieter befinden sich häufig im Ausland. In diesem Umfeld können Geldsanktionen zwar auf dem Papier existieren, sind aber in als dringend eingestuften Situationen nicht immer der wirksamste Hebel.

Deshalb legt das türkische Instrumentarium praktisches Gewicht auf Maßnahmen, die lokal und schnell umgesetzt werden können: Inhaltsentfernung, Geoblocking und Zugangsbeschränkungen. Die in unserem früheren Beitrag behandelte Grok-Episode spiegelte diese Logik deutlich wider: Der unmittelbare Druckpunkt war nicht die Einziehung einer Geldbuße im Ausland, sondern die Unterbindung der Verbreitung in der Türkei.

Rechtlich sensibler wird das Entwurfspaket von Ende 2025 dadurch, dass es nicht bei Interventionsmechanismen stehen bleibt. Es versucht außerdem, bestimmte KI-bezogene Schäden mit strafrechtlicher Zurechnung zu verknüpfen, und zwar in einer Weise, die für nutzerseitiges Prompting und in bestimmten Szenarien auch für entwicklerseitige Design- und Trainingsentscheidungen echte Risiken schaffen kann. Schon bevor die Einzelheiten der Umsetzung geklärt sind, verändert allein dieser Rahmen das Compliance-Risikoprofil globaler Betreiber erheblich.

2.3. Warum dieser Unterschied wichtig ist

Diese Ansätze setzen unterschiedliche Anreize. Das EU-Modell fördert eine governance-intensive Compliance: mehr Tests, mehr Dokumentation, mehr Monitoring, klarere interne Kontrollen und eine Beweisspur, die einer aufsichtsrechtlichen Prüfung standhalten kann. Die türkische Richtung fördert eher reaktionsorientierte Compliance, allerdings mit schärferer Kante: Wenn strafrechtliche Exponierung im Raum steht und Zugangsbeschränkungen ein realistischer Hebel sind, haben Unternehmen starke Anreize, konservativ zu handeln, Filter zu verschärfen, sensible Kategorien einzuschränken, Sharing-Funktionen zu reduzieren oder jurisdiktionsspezifische Einstellungen einzuführen, um Eskalationen zu vermeiden.

Die möglichen Probleme solcher Regelungen sind leicht vorhersehbar. Sind Standards zu offen formuliert, reagieren Unternehmen defensiv, indem sie zu viel entfernen, zu stark filtern oder Funktionen begrenzen. Sind Standards zu eng, bleiben erhebliche Schäden ungeregelt. Die rechtliche Herausforderung besteht darin, den richtigen Mittelweg zu finden: Regeln, die praktisch durchsetzbar sind, zugleich aber diszipliniert genug bleiben, um ergebnisorientierte Haftung und routinemäßige Überbeschränkung zu vermeiden.

III. Der türkische Entwurf: Strafrechtliche Haftung und das eigentliche Problem

3.1. Was der Entwurf in einfachen Worten erreichen will

Das türkische Entwurfspaket von Ende 2025 erweitert nicht nur Instrumente zur Entfernung von Inhalten und zur Zugangssperre. Es versucht auch, KI-Nutzung mit strafrechtlicher Haftung zu verbinden.

Der Entwurf folgt einer einfachen Struktur:

• Nutzerseitige Haftung: Wenn eine Person ein KI-System nutzt, um etwas hervorzubringen, das nach türkischem Recht bereits eine Straftat darstellt, kann diese Person als Täter behandelt werden. Die KI wird als Werkzeug gerahmt.
• Entwicklerseitige Exponierung: Der Entwurf deutet außerdem auf eine erhöhte Exponierung von Entwicklern hin, wenn Design oder Training des Systems als Ermöglichung bestimmter Straftaten angesehen werden.

Dieser Ansatz soll die durch nicht-menschliche Ausgaben entstehende „Verantwortungslücke“ schließen. Sobald strafrechtliche Haftung jedoch an Prompts und Modelldesign geknüpft wird, werden die rechtlichen Fragen deutlich schwieriger als in gewöhnlichen Plattform-Inhaltsfällen.

3.2. Risiko für die Meinungsfreiheit: Warum „Prompts“ die Grenzziehung erschweren

In einem KI-Umfeld interagiert der Nutzer über einen Prompt mit dem System, also über die Eingabe, die er schreibt, um eine Antwort zu erhalten. Das Modell erzeugt anschließend eine Ausgabe. Diese Ausgabe kann privat bleiben oder öffentlich werden, wenn sie gepostet, geteilt oder über eine Plattformfunktion angezeigt wird. Diese Struktur ist rechtlich bedeutsam, weil sie eine einfache Frage aufwirft: Reagiert das Recht auf etwas, das tatsächlich öffentlich geäußert wurde, oder auf den Versuch eines Nutzers, ein System zu testen und zu steuern, bevor irgendetwas veröffentlicht wurde?

Deshalb muss auch der Begriff „rechtswidrige Äußerung“ sorgfältig behandelt werden. Alle Rechtsordnungen beschränken bestimmte Formen von Ausdruck, insbesondere wenn daraus ein realer Schaden entsteht, etwa unmittelbare Drohungen, gezielte Belästigung oder Aufstachelung. Die Linie ist jedoch nicht fest. In der Praxis hängt das, was als „rechtswidrig“ gilt, von den Straftatbeständen der jeweiligen Jurisdiktion und davon ab, wie weit Begriffe wie „öffentliche Ordnung“ ausgelegt werden. Wird die Definition zu weit gezogen, beschränkt sich die Wirkung nicht auf einige Entfernungen oder Strafverfolgungen. Sie kann vielmehr dazu führen, dass Nutzer und Unternehmen rechtmäßige Äußerungen meiden, die als riskant interpretiert werden könnten, mit anderen Worten zu Selbstzensur.

Genau hier wird die nutzerseitige strafrechtliche Rahmung des Entwurfs sensibel. Liegt die Haftung zu nahe am Prompt, kann das Recht beginnen, Nachfragen und Erkundung statt Ausdruck zu bestrafen. Prompts werden häufig zum Testen, für Satire, Übersetzungen oder hypothetische Szenarien verwendet. Wird dieses vorgelagerte Verhalten zum Hauptauslöser, steigt die Gefahr der Überdehnung. Zugleich können Plattformen defensiv reagieren und strengere Filter, eine engere Themenabdeckung und „Türkei-Einstellungen“ einführen, die rechtmäßige Nutzungen einschränken, um Eskalationen zu vermeiden.

3.3. Vorsatz und Beweis: Prompting ist nicht dasselbe wie das Verfassen der Nachricht

Ein Prompt kann die Ausgabe beeinflussen, verschafft dem Nutzer aber keine vollständige Kontrolle. Wenn der Nutzer nicht zuverlässig vorhersehen kann, was das Modell erzeugen wird, wird es für die strafrechtliche Zurechnung problematisch, die Ausgabe als eigene Aussage des Nutzers zu behandeln.

Ein Beispiel verdeutlicht dies: Der Verfasser einer Droh-E-Mail kontrolliert die Worte tatsächlich und entscheidet vollständig, was in der E-Mail steht. Bei einem KI-System hingegen wird die Ausgabe von einem probabilistischen Modell erzeugt, das durch Trainingsdaten, Systemanweisungen, Sicherheitsfilter und Kontext geprägt ist. Selbst ein sorgfältig formulierter Prompt garantiert kein bestimmtes Ergebnis. Derselbe Prompt kann je nach Modellversion, Einstellungen, Sprache oder kleinen Formulierungsänderungen unterschiedliche Ergebnisse erzeugen.

Das erschwert den Vorsatznachweis. Eine einzelne rechtswidrig wirkende Ausgabe zeigt nicht automatisch, dass der Nutzer genau dieses Ergebnis beabsichtigt hat. Dieselbe Ausgabe kann durch gezieltes Steuern entstehen, aber auch dadurch, dass der Prompt mehrdeutig war, sich der Kontext verschoben hat, eine Übersetzung die Bedeutung verändert hat oder das Modell unerwartet reagierte.

Wenn strafrechtliche Sanktionen im Raum stehen, ist dies kein technisches Detail. Strafrecht verlangt den Nachweis über vernünftige Zweifel hinaus. In KI-Fällen erfordert dies in der Regel eine Betrachtung des Gesamtbildes, etwa was der Prompt tatsächlich verlangte, ob der Nutzer wiederholt versucht hat, das Modell zu rechtswidrigen Inhalten zu lenken, ob das Ergebnis im selben Systemkontext reproduzierbar ist und was der Nutzer anschließend getan hat.

Der Entwurf signalisiert die Absicht, „Steuerung“ als Grundlage strafrechtlicher Exponierung zu behandeln. Er erläutert jedoch noch nicht, wie Prompt-Output-Fälle beweisrechtlich zu bewerten sind. Ohne klare Standards besteht ein reales Risiko, dass die Durchsetzung ergebnisorientiert wird: Die Ausgabe wirkt rechtswidrig, also muss der Nutzer sie beabsichtigt haben.

3.4. Entwicklerexponierung: Die Grenze der „persönlichen strafrechtlichen Verantwortlichkeit“

Entwicklerseitige Exponierung ist noch sensibler. Entwickler verfassen nicht jede Ausgabe in der Weise, wie ein Mensch eine Aussage verfasst. Sie bauen und betreiben ein System, das je nach Prompts, Kontext, Sprache und Sicherheitskonfiguration unterschiedlich reagiert.

Hier wird ein Grundprinzip wichtig. Strafrechtliche Verantwortlichkeit ist grundsätzlich persönlich und in vielen Rechtssystemen an verfassungsrechtliche oder grundrechtliche Sicherungen gebunden. Praktisch bedeutet dies, dass strafrechtliche Sanktionen auf einer eigenen schuldhaften Handlung und einem eigenen Verschulden der betroffenen Person beruhen sollten. Ein Modell, das einem Entwickler bereits deshalb strafrechtliche Exponierung auferlegt, weil eine rechtswidrige Ausgabe entstanden ist, ohne ein klares Verschulden nachzuweisen, läuft Gefahr, den verfassungsrechtlichen Grundsatz zu verletzen.

Damit Entwicklerexponierung tragfähig ist, braucht sie klare Grenzen. In einem KI-Umfeld sollte sie mehr verlangen als den Nachweis, dass eine schädliche Ausgabe existierte. Sie sollte auf Verschulden verweisen, etwa auf wissentliches Ermöglichen rechtswidriger Nutzung, vorsätzliche Erleichterung oder rücksichtsloses Ignorieren wiederholter und dokumentierter Fehlermuster.

Andernfalls wird der Entwickler zum Garanten dessen, was ein probabilistisches System sagen könnte. Das ist strafrechtlich schwer zu rechtfertigen.

IV. Fazit

KI-Systeme können schädliche Inhalte schnell, in großem Umfang und über Grenzen hinweg erzeugen. Sowohl die EU als auch die Türkei reagieren auf diese Realität, tun dies aber mit deutlich unterschiedlichen Ansätzen. Das EU-Modell ist auf Governance aufgebaut. Es drängt Betreiber zu Transparenz, Risikomanagement, Dokumentation und Aufsicht, flankiert durch Geldbußen, die in einem großen Binnenmarkt tatsächlich Verhalten beeinflussen können. Das türkische Entwurfspaket legt demgegenüber größeres praktisches Gewicht auf schnelle Intervention auf der Zugangsebene und versucht außerdem, bestimmte KI-Szenarien mit strafrechtlicher Zurechnung für Nutzer und in manchen Fällen für Entwickler zu verbinden.

Der strafrechtliche Aspekt ist der Punkt, an dem die Probleme entstehen. Ein Prompt kann eine Ausgabe beeinflussen, gibt dem Nutzer aber weder vollständige Kontrolle noch vollständige Vorhersehbarkeit. Dasselbe gilt für Entwickler. Entwickler bauen und betreiben probabilistische Systeme, verfassen aber nicht jede Aussage, die das System später als Reaktion auf wechselnde Prompts, Kontexte und Einstellungen erzeugt. Knüpft strafrechtliche Exponierung zu eng an die Ausgabe an, ohne einen klaren verschuldensbasierten Standard und einen Beweisansatz, der Vorsatz zuverlässig nachweisen kann, droht die Durchsetzung ergebnisorientiert zu werden.

In der Praxis drängt eine solche Unsicherheit den Markt meist in eine Richtung. Betreiber warten nicht darauf, dass die Rechtsprechung die Grenze klärt. Sie reduzieren Risiken im Voraus, indem sie Filter verschärfen, sensible Kategorien enger fassen und Funktionen im lokalen Markt begrenzen, insbesondere dort, wo Zugangsbeschränkungen ein realistischer Hebel sind. Dies kann zwar bestimmte Schäden verringern, zugleich aber rechtmäßige Nutzung und legitime Äußerung verengen, nicht weil das Gesetz dies ausdrücklich verlangt, sondern weil die sicherste Produktentscheidung häufig die restriktivste ist. Der langfristige Test für den Entwurf wird daher sein, ob er vorsätzlichen Missbrauch abschrecken kann, ohne gewöhnliches Prompting und routinemäßiges Produktdesign zu einer Quelle strafrechtlicher Exponierung zu machen.

Hinweis: Diese Übersetzung wird lediglich als Service bereitgestellt und kann geringfügig vom Originaltext abweichen.