EU-Verbot von KI mit unannehmbaren Risiken

Symbolbild Umgang mit KI — In der Europäischen Union gilt jetzt ein Verbot von Systemen und Programmen der Künstlichen Intelligenz (KI), die unannehmbare Risiken für Menschen beinhalten und Grundrechte verletzen. oatawa - stock.adobe.com

04.02.2025

Politik

Nach dem KI-Gesetz der EU ist ab jetzt der Einsatz von Programmen mit Künstlicher Intelligenz (KI) verboten, die eine Bewertung von sozialem Verhalten vornehmen.

Das Verbot gelte als erste Vorschrift im Rahmen der Umsetzung des KI-Gesetzes der EU (AI Act), das im August 2024 in Kraft getreten ist, teilte die Kommission mit. Um die Einhaltung des Gesetzes sicherzustellen, werde die Kommission Leitlinien zu verbotenen KI-Praktiken veröffentlichen. In diesen Leitlinien würden die rechtlichen Konzepte erläutert und praktische Anwendungsfälle auf der Grundlage der Beiträge der Interessenträger bereitgestellt. Sie seien nicht verbindlich und würden erforderlichenfalls aktualisiert.

Unternehmen, die KI entwickeln oder einsetzen, sollten ihre Systeme nach dem Grad des Risikos bewerten und geeignete Maßnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden, heißt es weiter. Ziel der neuen Verordnung ist nach Angaben der Kommission nicht nur der Schutz der Rechte der Verbraucherinnen und Verbraucher. Man wolle auch sicherstellen, dass KI verantwortungsvoll eingesetzt werde.

bitkom: „Politik hat ihre Hausaufgaben nicht gemacht“

Unklar sei, für welche Anwendungen das gesetzliche Verbot tatsächlich gelte, kommentierte dazu der Branchenverband bitkom. „Die Politik hat beim AI Act hohe Anforderungen und enge Fristen für die Unternehmen aufgestellt, hat selbst aber ihre Hausaufgaben nicht gemacht“, erklärte Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung. „Das Risiko tragen die Unternehmen, die KI entwickeln oder einsetzen. Während in den USA mit dreistelligen Milliardenbeträgen KI ausgebaut werden soll und in China extrem leistungsfähige Sprachmodelle veröffentlicht werden, werfen wir in Deutschland und Europa den KI-Unternehmen Knüppel zwischen die Beine.“

Auch bei den Kompetenzanforderungen gebe es noch Unsicherheiten, so Dehmel weiter. Alle Unternehmen, die KI einsetzten, müssten sicherstellen, dass die betreffenden Beschäftigten über „ein ausreichendes Maß an KI-Kompetenz“ verfügen. Wann dieser Pflicht genüge getan sei, sei auch deshalb noch unklar, weil bislang keine entsprechende Aufsicht in Deutschland eingerichtet worden sei, die als Ansprechpartner für die Wirtschaft Hinweise geben könnte. Auch von europäischer Seite gebe es keine konkretisierenden Hinweise, monierte sie.