Verbraucherschutz beim Einsatz von Künstlicher Intelligenz

Systeme mit so genannter Künstlichen Intelligenz (KI) sind schon längst im Alltag der Verbraucherinnen und Verbraucher angekommen. Sei es bei der Kreditwürdigkeitsprüfung, der Online-Suche, der Empfehlung von Streaming-Inhalten oder der Auswahl von Inhalten in sozialen Medien . Daneben kommunizieren Verbraucherinnen und Verbraucher auch zunehmend mit Chatbots, die KI einsetzen, um Texte, Bilder oder Songs zu erstellen.

Die Risiken für Verbraucherinnen und Verbraucher sind vielfältig. Sie sind zunehmend von Entscheidungen betroffen, die auf dem Einsatz von KI-Systemen beruhen, welche für sie undurchsichtig und nicht nachvollziehbar sind. Vielfach ist der Einsatz von KI erst dann bemerkbar, wenn sich KI-gestützte Entscheidungen negativ auf die Lebensumstände auswirken. KI-Systeme können Verbraucherinnen und Verbraucher auch diskriminieren, wenn sie mit Daten trainiert wurden, die nicht hinreichend aktuell, repräsentativ und qualitätsgesichert sind. Daneben können Computerprogramme, die KI einsetzen, Falschinformationen, täuschend echt wirkende Inhalte ("Deepfakes") und strafbare Inhalte verbreiten.

Damit KI-Systeme, mit denen Verbraucherinnen und Verbraucher mittelbar oder unmittelbar in Berührung kommen, verbraucherorientiert unddiskriminierungsfrei gestaltet und eingesetzt werden, bedarf es gesetzlicher Rahmenbedingungen. Diese wurden mit dem am 1. August 2024 in Kraft getretenen Europäischen Gesetz über Künstliche Intelligenz ("KI-Verordnung") geschaffen. Für KI-Systeme gelten künftig Transparenzanforderungen und Kennzeichnungspflichten. Anbieter müssen KI-gestützte Entscheidungen gegenüber Betroffenen erläutern. Durch KI-Systeme erzeugte Inhalte müssen zudem markiert werden, damit Verbraucherinnen und Verbraucher zwischen menschengemachten und künstlichen Inhalten unterscheiden können. Für KI-Systeme, die für Verbraucherinnen und Verbraucher besonders riskant sind, gelten daneben strenge Qualitäts- und Verfahrensanforderungen. Zu solchen hochriskanten KI-Systemen zählen solche, die zur Kreditvergabe oder zur Prämienfestsetzung im Versicherungsbereich eingesetzt werden.

Bevor die Regelungen der KI-Verordnung vollumfänglich anwendbar sind, gibt es noch einen Übergangszeitraum, der es Anbietern von KI-Systemen ermöglichen soll, sich auf die neuen Bestimmungen einzustellen.

Das Bundesverbraucherschutzministerium hat es sich auch zur Aufgabe gemacht, Verbraucherinnen und Verbraucher über Künstliche Intelligenz und Algorithmische Systeme aufzuklären. Dazu hat es unter anderem bis 2023 den Aufbau des Zentrums für vertrauenswürdige Künstliche Intelligenz gefördert. Das Zentrum wird von dem unabhängigen Think-Tank iRights.Lab in Zusammenarbeit mit den Fraunhofer-Instituten AISEC und IAIS sowie der Freien Universität Berlin betrieben. Zentrales Anliegen des Zentrums ist es, als neutrale Schnittstelle zwischen Wissenschaft, Zivilgesellschaft und Politik über verbraucherrelevante Aspekte zu informieren, öffentliche Debatten anzustoßen und Instrumente zur Bewertung und Zertifizierung von vertrauenswürdiger KI zu entwickeln.