AI-Washing in der Werbung

Was AI-Washing bedeutet und warum es riskant ist

AI-Washing bezeichnet Marketing- oder Investorenkommunikation, die den Einsatz, die Fähigkeiten oder den Nutzen künstlicher Intelligenz übertreibt: Produkte mit dem Etikett „KI-gestützt“, die auf einfachen Regeln beruhen, Behauptungen autonomer Entscheidungsfindung, wo in Wahrheit Menschen die Arbeit erledigen, oder Genauigkeitsversprechen, die nie getestet wurden.

In Deutschland ist AI-Washing in erster Linie eine Frage des Lauterkeitsrechts, also des Rechts gegen unlautere geschäftliche Handlungen. Nach § 5 des Gesetzes gegen den unlauteren Wettbewerb (UWG) ist eine geschäftliche Handlung irreführend, wenn sie unwahre Angaben oder sonstige zur Täuschung geeignete Angaben über die wesentlichen Merkmale einer Ware oder Dienstleistung enthält, etwa über ihre Art, ihren Nutzen, ihre Verwendungsmöglichkeit und die von ihrer Verwendung zu erwartenden Ergebnisse.

Das Risiko ist real und sollte von Marketing, Vertrieb und Unternehmenskommunikation gleichermaßen ernst genommen werden. Wettbewerber, qualifizierte Wirtschaftsverbände und Verbraucherverbände können Unterlassungsansprüche geltend machen, und deutsche Gerichte legen bei Werbeaussagen zu technischen Merkmalen einen strengen Maßstab an. Für börsennotierte Unternehmen und Wertpapierfirmen können übertriebene KI-Aussagen zudem kapitalmarktrechtliche Fragen aufwerfen. Im Ausland hat die US-Börsenaufsicht Securities and Exchange Commission (SEC) nach ihrer Pressemitteilung am 18.3.2024 Vergleiche mit zwei Anlageberatern wegen falscher und irreführender Aussagen über ihren KI-Einsatz bekannt gegeben, und ihr Leiter der Durchsetzung bezeichnete das Verhalten als „AI-Washing“.

AI-Washing nach deutschem Lauterkeitsrecht

Irreführende Angaben

Ob eine KI-Aussage im Einzelfall irreführend ist, hängt maßgeblich vom Verständnis des durchschnittlichen Mitglieds des angesprochenen Verkehrskreises ab. Begriffe wie „KI“, „maschinelles Lernen“, „selbstlernend“ oder „intelligent“ wecken bestimmte Vorstellungen: dass das Produkt datengetriebene Modelle nutzt, sich anpasst oder Aufgaben erledigt, die sonst menschliches Urteilsvermögen erfordern würden. Tut das Produkt dies nicht oder nur in vernachlässigbarem Umfang, kann die Aussage irreführend sein, auch wenn sie technisch nicht völlig aus der Luft gegriffen ist. Dasselbe gilt für:

• Leistungsaussagen („99 % Genauigkeit“, „erkennt jeden Betrugsversuch“), die nicht durch belastbare Tests gestützt sind;
• Aussagen, ein Prozess sei vollständig automatisiert, obwohl in Wahrheit Mitarbeiter wesentliche Schritte ausführen;
• Allein- oder Spitzenstellungsbehauptungen („die erste KI-basierte …“), die nicht zutreffen;
• Aussagen, die eine nicht vorhandene behördliche Zulassung oder Zertifizierung nahelegen („KI-Verordnung-konform“, „zertifizierte KI“).

Deutsche Gerichte legen an Tatsachenbehauptungen in der Werbung seit jeher strenge Maßstäbe an, und für Aussagen über KI gilt nichts anderes. Betrifft eine Aussage Tatsachen aus der eigenen Sphäre des Werbenden, etwa die interne Funktionsweise seiner Software, muss er sie vor Gericht unter Umständen erläutern und belegen, und die Aussagen müssen zum Zeitpunkt ihrer Verwendung zutreffen. In der Werbung verwendete Testergebnisse und Benchmarks sollten dokumentiert, aktuell und für das tatsächlich verkaufte Produkt repräsentativ sein.

Irreführung durch Unterlassen

Nach § 5a UWG kann das Vorenthalten wesentlicher Informationen, die der Verbraucher für eine informierte Entscheidung benötigt, eine Irreführung durch Unterlassen darstellen. Hat eine KI-Funktion erhebliche Einschränkungen – etwa weil sie nur in bestimmten Sprachen funktioniert oder eine menschliche Überprüfung erfordert – und sind diese Einschränkungen für die Kaufentscheidung relevant, müssen sie möglicherweise offengelegt werden. In der B2B-Werbung gelten dieselben Grundsätze über § 5 UWG, wobei es auf die Erwartungen professioneller Käufer ankommt, die KI-Aussagen häufig genauer hinterfragen, sich aber ebenfalls auf zutreffende Angaben verlassen dürfen.

Branchenspezifische Regeln

In einigen Branchen gelten zusätzlich zum UWG besondere Werberegeln, die bei KI-Produkten ebenfalls zu beachten sind. Für Medizinprodukte verbietet Art. 7 der Medizinprodukteverordnung (EU) 2017/745 Kennzeichnungen, Gebrauchsanweisungen und Werbung, die Anwender oder Patienten über die Zweckbestimmung, Sicherheit und Leistung eines Produkts irreführen, etwa indem dem Produkt Funktionen und Eigenschaften zugeschrieben werden, die es nicht besitzt. Das Heilmittelwerbegesetz (HWG) ergänzt Beschränkungen für irreführende gesundheitsbezogene Werbung. Bei Finanzdienstleistungen müssen Marketingmitteilungen nach den aufsichtsrechtlichen Vorgaben redlich, eindeutig und nicht irreführend sein. Software, die in diesen Branchen diagnostiziert, prognostiziert oder Empfehlungen gibt, erfordert daher besonders sorgfältige Formulierungen, die sowohl dem UWG als auch den jeweiligen Fachgesetzen genügen.

Fallbeispiel

Fallbeispiel (hypothetisch): Ein deutscher HR-Softwareanbieter bewirbt sein Bewerbermanagement-Tool als „KI-basiertes Kandidaten-Matching, das Voreingenommenheit beseitigt“. Tatsächlich ordnet das Tool Bewerber anhand vom Kunden konfigurierter Stichwortfilter, und es wurden keine Tests auf Verzerrungen durchgeführt.

Ein Wettbewerber mahnt ab und macht geltend, die Werbung sei über die Art der Technologie und ihre Ergebnisse irreführend. Das Unternehmen hätte erhebliche Schwierigkeiten, auch nur eine der beiden Aussagen vor Gericht zu belegen. Es wäre besser beraten, das Tool als „automatisierte stichwortbasierte Vorsortierung“ zu beschreiben und Aussagen zu Verzerrungen zu vermeiden, solange es diese nicht getestet und dokumentiert hat. Würde das Tool tatsächlich maschinelles Lernen zur Reihung von Bewerbern einsetzen, müsste das Unternehmen zudem prüfen, ob es sich um ein Hochrisiko-KI-System nach der KI-Verordnung handelt.

Sanktionen und Durchsetzung in Deutschland

AI-Washing wird in Deutschland vor allem privatrechtlich verfolgt, nicht durch eine eigene Behörde. Wettbewerber und qualifizierte Verbände können Unterlassung verlangen (§ 8 UWG), in der Regel zunächst mit einer Abmahnung und der Aufforderung zur Abgabe einer strafbewehrten Unterlassungserklärung, nötigenfalls gefolgt von einem einstweiligen Verfügungsverfahren. Schadensersatzansprüche stehen Wettbewerbern nach § 9 Abs. 1 UWG und seit 2022 auch Verbrauchern zu, die durch eine unlautere geschäftliche Handlung zu einer geschäftlichen Entscheidung veranlasst wurden (§ 9 Abs. 2 UWG). Bei weitverbreiteten Verstößen mit grenzüberschreitender Dimension können nach § 19 UWG Geldbußen von bis zu 4 % des Jahresumsatzes in den betroffenen Mitgliedstaaten verhängt werden.

Reaktion auf eine Abmahnung

Eine Abmahnung im Zusammenhang mit AI-Washing setzt typischerweise eine kurze Frist, oft ein oder zwei Wochen, zur Abgabe einer durch eine Vertragsstrafe gesicherten Unterlassungserklärung. Wer ohne Prüfung unterschreibt, kann eine langfristige Verpflichtung mit erheblichen Vertragsstrafen für jeden künftigen Verstoß eingehen, während eine Weigerung ohne tragfähige Verteidigung eine einstweilige Verfügung herausfordert, oft ohne mündliche Verhandlung. Das Unternehmen sollte zügig prüfen, ob die Aussage tatsächlich irreführend ist, ob die Beweislage den Vorwurf trägt, ob die verlangte Erklärung zu weit gefasst ist und ob eine modifizierte Unterlassungserklärung angemessen ist.

Unternehmen haften nach § 8 Abs. 2 UWG zudem für Aussagen ihrer Mitarbeiter und Beauftragten, auch wenn die Geschäftsleitung diese Aussagen nicht kannte, wozu Agenturen und, je nach Ausgestaltung, Affiliates und Influencer gehören, die KI-Produkte für sie bewerben. Von Partnern erstellte Inhalte sollten daher demselben Prüfprozess unterliegen wie eigene Werbung, und die entsprechenden Verträge sollten eine Freigabe durch das Unternehmen vorsehen.

AI-Washing und die KI-Verordnung

Die KI-Verordnung verbietet AI-Washing nicht als solches, wirkt aber auf zweierlei Weise darauf ein. Erstens liefert die Definition eines KI-Systems in Art. 3 Nr. 1 KI-VO – ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und aus den erhaltenen Eingaben ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden – einen Bezugspunkt dafür, was „KI“ in der EU bedeutet. Ein Unternehmen, das ein Produkt als KI vermarktet, gegenüber Behörden aber argumentiert, es handle sich nicht um ein KI-System, hat ein offensichtliches Glaubwürdigkeitsproblem. Marketingaussagen und regulatorische Einordnung sollten daher stets übereinstimmen.

Zweitens können Aussagen über eine „Konformität mit der KI-Verordnung“ irreführend sein, wenn das Unternehmen die erforderliche Einstufung und Compliance-Arbeit nicht geleistet hat. Für Hochrisiko-Systeme sind Konformitätsbewertung und CE-Kennzeichnung erst möglich, wenn die Hochrisiko-Pflichten ab Dezember 2027 oder August 2028 gelten; bis dahin sollten Aussagen, die eine Zertifizierung nach der KI-Verordnung nahelegen, vermieden werden. Siehe unseren Beitrag zu Hochrisiko-KI-Systemen.

Kapitalmarkt und Investorenkommunikation

Für Emittenten, deren Aktien oder Anleihen zum Handel zugelassen sind, unterliegen Aussagen über KI-Fähigkeiten in Ad-hoc-Mitteilungen, Finanzberichten, Präsentationen oder Pressemitteilungen der Marktmissbrauchsverordnung (Verordnung (EU) Nr. 596/2014, MAR). Die Verbreitung von Informationen, die falsche oder irreführende Signale hinsichtlich des Kurses eines Finanzinstruments geben, kann eine Marktmanipulation darstellen (Art. 12 Abs. 1 lit. c MAR), die nach Art. 15 MAR verboten ist und zu Geldbußen der BaFin und zu strafrechtlicher Verantwortlichkeit führen kann. Fehlerhafte Ad-hoc-Mitteilungen können zudem Schadensersatzansprüche von Anlegern nach §§ 97 und 98 des Wertpapierhandelsgesetzes (WpHG) begründen, fehlerhafte Prospekte eine Prospekthaftung.

Vermögensverwalter und Wertpapierfirmen, die KI-gesteuerte Strategien bewerben, müssen außerdem die finanzaufsichtsrechtlichen Regeln zu redlichen, eindeutigen und nicht irreführenden Marketingmitteilungen einhalten. Die SEC-Fälle zeigen, welche Art von Verhalten Aufsichtsbehörden prüfen: Behauptungen über den Einsatz von KI und Kundendaten in Anlageprozessen, die nicht durch tatsächliche Fähigkeiten gedeckt waren. Auch wenn es sich um US-Verfahren handelte, veranschaulichen sie Risiken, die auch nach europäischen und deutschen Regeln für Marketingmitteilungen und Anlegerinformationen bestehen, und Unternehmen sollten damit rechnen, dass Investoren und Aufsichtsbehörden sie auffordern, ihre KI-Narrative zu belegen.

Verträge, M&A und Due Diligence durch Investoren

AI-Washing begründet nicht nur lauterkeitsrechtliche, sondern auch vertragliche Risiken. Im B2B-Vertrieb können Spezifikationen und Werbeaussagen die vereinbarte Beschaffenheit des Produkts prägen und damit zum Maßstab für die Vertragserfüllung werden. Existiert die KI-Funktion nicht oder leistet sie nicht das Beschriebene, kann der Käufer Gewährleistungsansprüche wegen Mängeln haben, und bewusst falsche Angaben können eine Anfechtung wegen arglistiger Täuschung (§ 123 Bürgerliches Gesetzbuch, BGB) und Schadensersatz rechtfertigen.

Bei M&A- und Venture-Capital-Transaktionen prüfen Investoren KI-Aussagen zunehmend in der technischen Due Diligence und verlangen spezifische Garantien zur KI-Technologie, zu den Rechten an Trainingsdaten und zur regulatorischen Compliance. Übertriebene KI-Aussagen in einem Informationsmemorandum können zu Ansprüchen nach dem Vollzug führen, für die der Verkäufer unter Umständen einstehen muss. Siehe unseren Beitrag zur IP-Due-Diligence.

AI-Washing in der Praxis vermeiden

1. Erstellen Sie ein internes Glossar für Begriffe wie „KI“, „maschinelles Lernen“, „automatisiert“ und „generativ“.
2. Verlangen Sie eine technische Freigabe für alle KI-bezogenen Aussagen in Marketing-, Vertriebs- und Investorenunterlagen.
3. Dokumentieren Sie Tests und Benchmarks, die Leistungsaussagen stützen, und halten Sie sie aktuell.
4. Vermeiden Sie Aussagen über Zertifizierungen oder behördliche Zulassungen ohne überprüfbare Grundlage.
5. Stimmen Sie Produktbeschreibungen mit der Einstufung und Dokumentation des Unternehmens nach der KI-Verordnung ab.
6. Schulen Sie Marketing-, Vertriebs- und Investor-Relations-Teams zu den rechtlichen Grenzen.
7. Beobachten Sie auch die Aussagen von Wettbewerbern: Irreführende KI-Werbung anderer kann nach dem UWG angegriffen werden.

Diese Maßnahmen sind vergleichsweise einfach umzusetzen und kostengünstig im Vergleich zu den Kosten von Rechtsstreitigkeiten, dem Rückruf von Marketingmaterial oder Reputationsschäden. Sie unterstützen zudem die Einhaltung der KI-Verordnung, denn ein klares internes Verständnis davon, welche Produkte tatsächlich KI nutzen, ist der Ausgangspunkt für die Einstufung von Systemen und die Zuordnung von Pflichten nach dieser Verordnung.

So unterstützt TRW & Co bei AI-Washing

Wir prüfen KI-bezogene Werbung, Produktbeschreibungen, Vertriebsunterlagen und Investorenkommunikation auf Risiken des AI-Washing nach dem UWG, dem Kapitalmarktrecht und der KI-Verordnung. Wir verteidigen Unternehmen gegen Abmahnungen und Unterlassungsverfahren, verfolgen Ansprüche gegen irreführende KI-Aussagen von Wettbewerbern und beraten zu KI-Garantien und zur Due Diligence bei Transaktionen. Siehe unsere Seiten zum Wirtschaftsrecht und zur KI-Verordnung oder kontaktieren Sie uns.