In der Nacht zum heutigen Samstag haben sich die Vertreterinnen und Vertreter der EU-Ratspräsidentschaft, des EU-Parlaments und der EU-Kommission in den Trilogverhandlungen auf eine neue KI-Verordnung geeinigt.
Bundesverbraucherschutzministerin Steffi Lemke: "Mit der europäischen KI-Verordnung schützen wir Verbraucherinnen und Verbraucher vor den Risiken der neuen Technologie. In den Verhandlungen haben wir uns besonders dafür eingesetzt, dass KI-Systeme transparent, nachvollziehbar und überprüfbar gestaltet werden. So müssen nun künftig Unternehmen, die den Einsatz von KI-Technologien anbieten, Informationen über die Funktionsweise ihrer Systeme bereitstellen und KI-gestützte Entscheidungen erläutern. Besonders wichtig ist mir auch, dass Verbraucherinnen und Verbraucher in ihren Rechten gestärkt werden: Bei Verstößen können Verbraucherverbände mit Verbandsklagen gerichtlich dagegen vorgehen. Die neuen Regelungen sind wichtig, damit wir angesichts der rasanten technologischen Entwicklung Schritt halten können, um die Rechte der Menschen zu schützen."
Weitere Informationen zur KI-Verordnung:
- Insgesamt enthält die KI-Verordnung zahlreiche verbraucherschützende Anforderungen für KI-Systeme. Für die bis zuletzt beratenen KI-Systeme wie ChatGPT und Google Bard gelten künftig Transparenzvorgaben und Kennzeichnungspflichten. Kommt KI in Bereichen zum Einsatz, die für Verbraucherinnen und Verbraucher besonders riskant sind, zum Beispiel bei der Kreditwürdigkeitsprüfung, sieht die KI-Verordnung strenge Qualitätsanforderungen vor, unter anderem in Bezug auf die Daten, mit denen KI trainiert wird.
- Anbieterinnen und Anbieter müssen künftig Informationen über die Funktionsweise ihrer Systeme bereitstellen und KI-gestützte Entscheidungen (zum Beispiel bei der Prämienfestsetzung im Versicherungsbereich) erläutern. Die Rechtsdurchsetzung wird gestärkt: Verbraucherinnen und Verbraucher erhalten ein Beschwerderecht gegenüber Aufsichtsbehörden und können sich gerichtlich gegen Rechtsverletzungen zur Wehr zu setzen. Verbraucherverbände können Verstöße gegen die KI-Verordnung im Wege einer neuen Verbandsklagemöglichkeit geltend machen und es wird eine effektive behördliche Aufsicht ermöglicht.
- Die KI-Verordnung hat zwei übergeordnete Ziele: Minimierung von Risiken, die durch den KI-Einsatz für Gesundheit, Sicherheit und Grundrechte von Menschen entstehen können und Förderung von KI-Innovation.
- Die KI-Verordnung verfolgt einen horizontalen Regulierungsansatz: Ihr Anwendungsbereich erfasst sektorenübergreifend die Entwicklung, das Inverkehrbringen und die Nutzung von KI-Systemen sowohl durch private als auch durch staatliche Akteure und Akteurinnen.
- Die KI-Verordnung verfolgt daneben einen risikobasierten Regulierungsansatz: Sie verbietet den Einsatz besonders riskanter KI-Systeme (zum Beispiel Social Scoring). Sogenannte Hochrisiko-KI-Systeme (zum Beispiel KI-Systeme zur Kreditwürdigkeitsprüfung) sind auf dem europäischen Markt zugelassen, wenn sie zwingend vorgeschriebene Anforderungen erfüllen und einer Konformitätsbewertung standhalten. KI-Systeme, die nur geringe Risiken bergen, müssen nur gewisse Kennzeichnungspflichten erfüllen (zum Beispiel Chatbots, die im Kundenservice zum Einsatz kommen). KI-Systeme ohne besonderes Risiko (zum Beispiel Spamfilter) sind vom Anwendungsbereich der KI-Verordnung ausgenommen.