Verbotene KI-Praktiken nach dem EU AI Act: Was Website-Betreiber vermeiden müssen
Verstehen Sie die Verbote nach Artikel 5 des EU AI Act, wie manipulative KI und Dark Patterns Websites betreffen und welche Compliance-Maßnahmen Website-Betreiber jetzt benötigen.
Der EU AI Act verlangt nicht nur Transparenz – er verbietet bestimmte KI-Praktiken vollständig. Verstößt Ihre Website gegen diese Verbote, drohen Strafen von bis zu 35 Millionen Euro oder 7 % Ihres Jahresumsatzes.
Die meisten Website-Betreiber wissen nicht, dass ihre KI-gestützten Tools diese Grenzen überschreiten könnten. Dieser Leitfaden erklärt, was verboten ist, wie es für Websites gilt und wie Sie sicherstellen, dass Ihre Plattform Sie compliant hält.
Verwandt: Siehe unseren Leitfaden zu EU AI Act Transparenzanforderungen für Offenlegungspflichten.
Was sind „verbotene KI-Praktiken"?
Artikel 5 des EU AI Act legt KI-Systeme mit „unannehmbarem Risiko" fest, die in der gesamten EU verboten sind. Diese Verbote traten im Februar 2025 in Kraft – sie sind also bereits Gesetz.
Warum diese Praktiken verboten sind
Die EU hat KI-Praktiken identifiziert, die:
- Menschliches Verhalten manipulieren und Schaden verursachen
- Schwachstellen bestimmter Gruppen ausnutzen
- Soziale Kontrolle oder Überwachung ermöglichen
- Grundrechte bedrohen
Für Website-Betreiber: Die meisten Verbote zielen auf Regierungs- oder Unternehmenssysteme ab, aber zwei Kategorien betreffen kommerzielle Websites direkt – Manipulation und Dark Patterns.
Das Wichtigste: Manipulative KI-Systeme (Artikel 5(1)(a))
Dies ist das für Websites und Online-Geschäfte relevanteste Verbot.
Was verboten ist
Der AI Act verbietet KI-Systeme, die „unterschwellige Techniken jenseits des Bewusstseins einer Person" oder „manipulative oder irreführende Techniken" einsetzen, um das Verhalten wesentlich zu verzerren und dadurch erheblichen Schaden zu verursachen oder wahrscheinlich zu verursachen (Artikel 5(1)(a)).
Einfach ausgedrückt: Sie dürfen keine KI verwenden, um Menschen zu Dingen zu manipulieren, die sie sonst nicht tun würden, insbesondere wenn es ihnen schadet.
Wie dies für Websites gilt
Viele gängige Website-Optimierungstechniken überschreiten verbotenes Terrain, wenn sie von KI angetrieben werden:
Vorgetäuschte Verknappung
KI erzeugt gefälschte Dringlichkeitssignale oder falschen Social Proof.
- KI generiert „Nur noch 2 Artikel verfügbar!“, obwohl der Bestand tatsächlich unbegrenzt ist
- Dynamische Countdown-Timer, die sich für jeden Besucher zurücksetzen
- Falsche „X Personen sehen sich dies gerade an“-Benachrichtigungen
Ausbeuterischer psychologischer Druck
KI erkennt Schwachstellen und übt gezielten Druck aus.
- KI-Chatbot, der trainiert wurde, Zögern zu erkennen und emotionalen Druck auszuüben
- Systeme, die vulnerable Nutzer (finanzielle Belastung, emotionaler Zustand) identifizieren und mit manipulativen Nachrichten ansprechen
- Dark-Pattern-Abläufe, die Kündigungen absichtlich erschweren
Versteckte Überzeugungstechniken
KI personalisiert Überzeugung auf Weisen, die Nutzer nicht erkennen können.
- KI, die Preise basierend auf geschätzter Zahlungsbereitschaft anpasst (Preisdiskriminierung)
- Systeme, die Inhalte personalisieren, um bekannte kognitive Verzerrungen auszunutzen
- Manipulative Sprachgenerierung, die darauf ausgelegt ist, rationale Entscheidungsfindung zu überschreiben
Aggressive Lead-Generierung
KI setzt Nutzer unter Druck, Daten oder Kontaktdaten zu teilen.
- KI, die falsche Dringlichkeit erzeugt, um Kontaktinformationen zu extrahieren („Jetzt anmelden oder für immer verlieren!“)
- Chatbots, die darauf ausgelegt sind, Nutzer zu zermürben, damit sie persönliche Daten preisgeben
- Manipulative „zeitlich begrenzte Angebote“, die tatsächlich nicht begrenzt sind
Nicht jede Überzeugung ist verboten – nur Techniken, die manipulativ, irreführend oder Schwachstellen ausnutzen:
Legitimes Marketing
- Echte zeitlich begrenzte Angebote mit tatsächlichen Ablaufdaten
- Genaue Bestandszahlen
- A/B-Tests zur Verbesserung der Nutzererfahrung
- Personalisierte Empfehlungen basierend auf Browserverlauf
- Ehrliche Produktvergleiche
Die Schwelle des „erheblichen Schadens"
Nicht jede manipulative Technik ist automatisch illegal – sie muss erheblichen Schaden verursachen oder wahrscheinlich verursachen:
Was als erheblicher Schaden gilt:
- Finanzieller Verlust oder Schaden
- Körperverletzung oder gesundheitliche Auswirkungen
- Psychologischer Schaden
- Verlust von Grundrechten
- Schädigung von Ruf oder Beziehungen
Praktische Auswirkung: Ein leicht aufdringlicher Chatbot ist wahrscheinlich kein „erheblicher Schaden". Ein System, das ältere Nutzer manipuliert, unnötige teure Dienstleistungen zu kaufen, definitiv schon.
Was ist mit „Dark Patterns"?
Dark Patterns – Design-Tricks, die Nutzer manipulieren – existieren schon lange vor der KI. Der AI Act zielt speziell auf KI-gestützte Dark Patterns ab.
Der entscheidende Unterschied
Traditionelle Dark Patterns (menschlich gestaltet): Weiterhin durch Verbraucherschutzgesetze reguliert, aber nicht durch den AI Act.
KI-gestützte Dark Patterns (KI-generiert oder optimiert): Jetzt ausdrücklich durch den AI Act verboten, wenn sie erheblichen Schaden verursachen.
Beispiele für KI-gestützte Dark Patterns
❌ Verboten:
- KI, die automatisch manipulative Texte optimiert für Konversion ohne Sicherheitsprüfungen generiert
- Machine-Learning-Systeme, die lernen, welche Dark Patterns am besten funktionieren und sie implementieren
- KI-Chatbots, die Taktiken dynamisch anpassen basierend auf Schwachstellen-Signalen der Nutzer
✅ Erlaubt mit Schutzmaßnahmen:
- KI-Inhaltsgenerierung mit integrierten Ethikfiltern
- Conversion-Optimierung, die die Nutzerautonomie respektiert
- Personalisierung, die das Erlebnis verbessert ohne Manipulation
Wie Ihr Website-Builder damit umgehen sollte
Wesentliche Sicherheitsmerkmale:
-
Content Safety Filter
- KI-Ausgaben werden vor Veröffentlichung geprüft
- Automatische Blockierung manipulativer Sprache
- Entfernung falscher Dringlichkeitsindikatoren
-
Ethische Leitplanken
- Verbot der Generierung vorgetäuschter Verknappung
- Keine irreführenden Countdown-Timer
- Einschränkungen bei Drucktaktiken
-
Menschliche Aufsicht
- Überprüfungsmöglichkeiten für KI-generierten Inhalt
- Möglichkeit zur Vorschau vor Veröffentlichung
- Klare Dokumentation dessen, was KI generiert hat
Warnsignale:
- „Maximiere Conversions um jeden Preis" ohne ethische Einschränkungen
- KI, die Inhalte ohne menschliche Überprüfung generiert
- Keine dokumentierten Content-Safety-Richtlinien
- Plattform fördert manipulative Taktiken
Weitere verbotene Praktiken (seltener für Websites)
Obwohl sie Standard-Business-Websites weniger wahrscheinlich betreffen, sollten Sie sich dieser zusätzlichen Verbote bewusst sein:
Social Scoring (Artikel 5(1)(c))
Verboten: KI-Systeme, die Personen basierend auf sozialem Verhalten oder persönlichen Merkmalen bewerten oder klassifizieren, was zu Folgendem führt:
- Nachteilige Behandlung in nicht zusammenhängenden Kontexten
- Ungerechtfertigte oder unverhältnismäßige Behandlung
Website-Relevanz: Verwenden Sie keine KI, um Besucher basierend auf Profiling automatisch zu blockieren, zu benachteiligen oder zu diskriminieren.
Ausnutzung von Schwachstellen (Artikel 5(1)(b))
Verboten: KI, die Schwachstellen im Zusammenhang mit Alter, Behinderung oder sozioökonomischer Situation ausnutzt, um Verhalten wesentlich zu verzerren und Schaden zu verursachen.
Website-Relevanz: Seien Sie besonders vorsichtig, wenn Ihr Publikum Folgendes umfasst:
- Kinder oder Jugendliche
- Ältere Nutzer
- Menschen in finanzieller Not
- Personen mit kognitiven Beeinträchtigungen
Beispiel-Verstoß: KI-gestützte Kurzzeitkredit-Website, die finanziell verzweifelte Nutzer identifiziert und manipulative Taktiken einsetzt, um hochverzinsliche Kredite zu pushen.
Biometrische Kategorisierung (Artikel 5(1)(e))
Verboten: Verwendung biometrischer Daten, um sensible Merkmale (Rasse, politische Meinungen, sexuelle Orientierung) abzuleiten, außer in spezifischen Strafverfolgungsfällen.
Website-Relevanz: Verwenden Sie keine KI, um Besucherfotos oder -videos zu analysieren, um sie nach geschützten Merkmalen zu kategorisieren – auch wenn Sie denken, es sei für „Personalisierung".
Strafen und Bußgelder nach dem EU AI Act
Das Verständnis der Strafstruktur hilft Ihnen, Risiken einzuschätzen.
Strafstufen
Der AI Act legt drei Stufen von Strafen fest (Artikel 99):
| Verstoßart | Maximales Bußgeld |
|---|---|
| Verbotene KI-Praktiken (Artikel 5) | 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes (je nachdem, welcher Betrag höher ist) |
| Nichteinhaltung von Verpflichtungen (Hochrisikosysteme) | 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes |
| Falsche oder unvollständige Informationen an Behörden | 7,5 Millionen Euro oder 1,5 % des weltweiten Jahresumsatzes |
Wie Strafen berechnet werden
Vollzugsbehörden berücksichtigen:
- Schwere und Dauer des Verstoßes
- Vorsätzlicher oder fahrlässiger Charakter
- Ergriffene Maßnahmen zur Schadensbegrenzung
- Grad der Verantwortung unter Berücksichtigung technischer/organisatorischer Maßnahmen
- Frühere relevante Verstöße
- Kooperationsniveau mit Behörden
- KMU-Status (kleinere Unternehmen können reduzierte Bußgelder erhalten)
Auswirkungen in der Praxis
Für kleine Unternehmen: Selbst die niedrigste Stufe (7,5 Millionen Euro) wäre katastrophal. Der Verhältnismäßigkeitsgrundsatz bedeutet jedoch, dass tatsächliche Bußgelder mit der Unternehmensgröße skalieren.
Für Influencer/Solopreneure: Obwohl maximale Bußgelder unwahrscheinlich sind, könnten Sie dennoch Folgendes erleben:
- Unterlassungsverfügungen
- Website-Abschaltungsanforderungen
- Gerichtsverfügungen, die spezifische KI-Funktionen verbieten
- Reputationsschaden
- Rechtskosten und Compliance-Kosten
Das deutsche Abmahnungsrisiko
Speziell in Deutschland können Wettbewerber Abmahnungen (Abmahnbriefe) wegen Verstößen senden. Diese umfassen:
- Sofortige Unterlassungsforderung
- Ansprüche auf Anwaltskosten (oft 1.000–3.000 Euro)
- Androhung gerichtlicher Schritte bei Nichtlösung
Was Abmahnungen auslöst: Wettbewerber scannen Websites aktiv nach Verstößen. KI-gestützte Manipulation ist ein leichtes Ziel für diese Briefe.
Wie Sie sicherstellen, dass Ihr Website-Builder Sie compliant hält
Fragen an Ihre Plattform
1. „Wie verhindern Sie, dass KI manipulative Inhalte generiert?"
Gute Antwort
- ✅Wir haben integrierte Content-Safety-Filter
- ✅KI-Ausgaben werden auf Dark Patterns geprüft
- ✅Ethische Richtlinien sind Teil unseres Prompt-Engineerings
Schlechte Antwort
- ❌Sie sind für die Überprüfung von Inhalten verantwortlich
- ❌Unsere KI optimiert für Conversions (ohne Erwähnung von Ethik)
- ❌Vage oder abweisende Antwort
2. „Kann Ihre KI vorgetäuschte Verknappung oder Dringlichkeitsindikatoren erstellen?"
Gute Antwort
- ✅Nein, unser System verbietet falsche Bestandsangaben
- ✅Countdown-Timer müssen tatsächliche Fristen widerspiegeln
- ✅Wir unterstützen keine manipulativen Taktiken
Schlechte Antwort
- ❌Ja, diese Funktionen helfen bei Conversions
- ❌Sie können Dringlichkeitsnachrichten anpassen
- ❌Keine Richtlinien zur Wahrhaftigkeit
3. „Was passiert, wenn KI Inhalte generiert, die gegen den EU AI Act verstoßen?"
Gute Antwort
- ✅Wir unterhalten Sicherheitsfilter, um dies zu verhindern
- ✅Inhalte werden vor Veröffentlichung zur Überprüfung markiert
- ✅Wir übernehmen Verantwortung für integrierte Compliance
Schlechte Antwort
- ❌Das ist Ihre Verantwortung zu prüfen
- ❌Wir haften nicht dafür, wie Sie unsere Tools nutzen
- ❌Keine Antwort oder unklare Haftung
4. „Haben Sie dokumentierte KI-Ethik-Richtlinien?"
Gute Antwort
- ✅Ja, hier ist unser KI-Ethik-Rahmen (mit tatsächlicher Dokumentation)
- ✅Wir richten uns nach den Anforderungen des EU AI Act
- ✅Regelmäßige Audits der KI-Ausgaben
Schlechte Antwort
- ❌Wir arbeiten daran
- ❌Noch nicht dokumentiert
- ❌Folgen Sie einfach den Nutzungsbedingungen
Wesentliche Sicherheitsmerkmale
Ihr Website-Builder sollte Folgendes bieten:
- Überprüfung vor Veröffentlichung für KI-generierten Inhalt
- Content Safety Filter, die manipulative Sprache blockieren
- Genauigkeitsanforderungen für Bestands-, Preis- und Verfügbarkeitsangaben
- Dokumentation dessen, was KI generiert hat vs. menschlich erstellt
- Override-Kontrollen zum Deaktivieren aggressiver Optimierung
- Ethische Richtlinien dokumentiert und durchgesetzt
- Regelmäßige Audits des KI-Verhaltens
Warnsignale, die Sie beunruhigen sollten
Gehen Sie weg, wenn die Plattform:
- Ausdrücklich „Conversions um jeden Preis maximieren" bewirbt
- Generatoren für vorgetäuschte Verknappung oder manipulative Countdown-Tools anbietet
- Keine Content-Safety-Richtlinien hat
- Jegliche Verantwortung für KI-Ausgaben ablehnt
- Ihren AI-Act-Compliance-Ansatz nicht erklären kann
- EU-Vorschriften abweisend gegenübersteht
- Taktiken fördert, die nach Dark Patterns klingen
Die versteckte Dynamik: Lovable, Replit und Code-Generierungsplattformen
Es gibt eine besondere Überlegung für Plattformen wie Lovable und Replit, die ganze Anwendungen aus natürlichsprachlichen Prompts generieren.
Das Risikoszenario
Was passiert:
- Sie prompten: „Erstelle eine Bildungs-Quiz-Plattform"
- KI generiert eine vollständige Anwendung mit dynamischem Inhalt
- Die KI kann ohne Ihr Wissen Optimierungsfunktionen einbauen
- Generierter Code könnte automatisch Dark Patterns implementieren
- Sie deployen ohne Überprüfung der gesamten KI-generierten Logik
Das Problem: Sie sind verantwortlich für das, was die KI gebaut hat, auch wenn Sie den Code nicht vollständig verstehen.
Warum dies unter dem EU AI Act hohes Risiko darstellt
Wenn KI eine vollständige Anwendung generiert (nicht nur eine einfache Website):
- Komplexität verschleiert Manipulation: Sie können nicht einfach prüfen, was die KI erstellt hat
- Dynamisches Verhalten: Die App könnte sich an Nutzer auf Weisen anpassen, die Sie nicht beabsichtigt haben
- Bildungsinhalte: Bei Verwendung für Bildung (Artikel 5 Hochrisiko-Kategorie) gilt zusätzliche Kontrolle
- KI-generierte Bewertung: Automatisierte Bewertungssysteme unterliegen spezifischen Anforderungen
Was Sie tun müssen
Bei Verwendung von Code-Generierungsplattformen für mehr als einfache statische Websites:
- Vollständig generierten Code prüfen vor Deployment
- Alle KI-gesteuerten Funktionen verstehen, die das System beinhaltet
- Entfernen oder modifizieren Sie manipulative oder bedenkliche Verhaltensweisen
- Dokumentieren Sie Ihren Überprüfungsprozess (Nachweis der Sorgfaltspflicht)
- Erwägen Sie rechtliche Überprüfung für komplexe Anwendungen
Wichtiger Punkt: „Ich wusste nicht, dass die KI das hinzugefügt hat" ist keine rechtliche Verteidigung.
Praktische Compliance-Checkliste
Verwenden Sie diese vor dem Launch Ihrer Website:
Inhaltsüberprüfung
- Überprüfen Sie alle KI-generierten Marketing-Texte auf manipulative Sprache
- Verifizieren Sie, dass alle Verknappungs-/Dringlichkeitsangaben faktisch korrekt sind
- Prüfen Sie, dass Countdown-Timer echte Fristen widerspiegeln
- Stellen Sie sicher, dass die Preisgestaltung transparent und nicht diskriminierend ist
- Entfernen Sie alle psychologischen Drucktaktiken
KI-Systemeinstellungen
- Aktivieren Sie alle verfügbaren Content-Safety-Filter
- Konfigurieren Sie KI so, dass Nutzerautonomie Vorrang vor Conversion hat
- Richten Sie menschliche Überprüfungs-Workflows für KI-Ausgaben ein
- Dokumentieren Sie, welche Funktionen KI verwenden
- Testen Sie Chatbot-Verhalten auf manipulative Muster
Plattformverifizierung
- Bestätigen Sie, dass Plattform dokumentierte KI-Ethik-Richtlinien hat
- Verifizieren Sie, dass sie Verantwortung für integrierte Compliance übernehmen
- Prüfen Sie, ob sie EU-Rechtsvertretung haben
- Überprüfen Sie ihre Erfolgsbilanz bei Compliance-Fragen
- Stellen Sie sicher, dass sie AI-Act-Entwicklungen überwachen
Laufende Überwachung
- Überprüfen Sie regelmäßig KI-generierten Inhalt
- Überwachen Sie Chatbot-Konversationen auf bedenkliche Muster
- Bleiben Sie über Compliance-Änderungen der Plattform informiert
- Dokumentieren Sie Ihre Compliance-Bemühungen (Nachweis guten Glaubens)
Fazit
Die verbotenen Praktiken des EU AI Act sind nicht nur theoretisch – sie sind durchgesetztes Gesetz mit ernsthaften Strafen. Für Website-Betreiber sind die wichtigsten Risikobereiche:
1. Manipulative KI, die Täuschung oder psychologische Ausbeutung nutzt 2. Dark Patterns, die durch KI-Optimierung angetrieben werden 3. Falsche Behauptungen, die von KI generiert werden (Verknappung, Dringlichkeit, Social Proof)
Die Lösung: Wählen Sie einen Website-Builder, der:
- Compliance ernst nimmt mit dokumentierten Richtlinien
- Sicherheit in das KI-System selbst einbaut
- Sie nicht persönlich für alles KI-Verhalten verantwortlich macht
- Tools zur Überprüfung und Kontrolle von KI-Ausgaben bereitstellt
Denken Sie daran: Sie sind rechtlich verantwortlich für das Verhalten Ihrer Website, auch wenn Sie den Code nicht geschrieben haben. Wählen Sie eine Plattform, die die Compliance-Last teilt, anstatt sie vollständig auf Sie abzuwälzen.
Wie die Aimix-Plattform die Anforderungen des EU AI Act erfüllt
Aimix ist darauf ausgelegt, von Anfang an EU-konforme Websites zu erstellen. Die Plattform verwaltet Inhalte gemäß EU- und deutschem Recht und erfüllt strenge regulatorische Anforderungen ohne Kompromisse. Mehr dazu auf unserer EU-AI-Act-Seite: Aimix EU AI Act Compliance.
Weiterlesen: EU AI Act Transparenzanforderungen: Was Ihr KI-Website-Builder enthalten muss
Ressourcen
EU AI Act zu verbotenen Praktiken:
- Artikel 5 (Verbotene Praktiken): EUR-Lex
- Artikel 99 (Strafen): EUR-Lex
- EU AI Act Volltext: Verordnung (EU) 2024/1689
Verbraucherschutz-Kontext:
- EU-Verbraucherrechterichtlinie: Richtlinie 2011/83/EU
- Deutsches Gesetz gegen den unlauteren Wettbewerb (UWG): gesetze-im-internet.de
Weiterführende Lektüre:
- Artikel #1: EU AI Act Transparenzanforderungen
- C2PA Content Credentials verstehen
- AI Act Implementierungs-Zeitplan
Dieser Artikel bietet Bildungsinformationen, sollte aber nicht als Rechtsberatung betrachtet werden. Für spezifische Compliance-Fragen konsultieren Sie einen qualifizierten Rechtsexperten, der mit EU-Digitalrecht und Verbraucherschutz vertraut ist.