Flaggen EU
© Arne Immanuel Bänsch/dpaDie EU wird in Kürze das weltweit erste KI-Gesetz bekommen

Mit der Zustimmung Deutschlands wird ein "Ja" zum weltweit ersten KI-Gesetz wahrscheinlicher. Dieses will die EU am Freitag auf den Weg bringen. Die FDP hatte lange Zeit Bedenken dagegen angemeldet - nun haben ihre Minister jedoch den Weg freigemacht.

Am Freitag, 2. Februar, will die EU das weltweit erste KI-Gesetz beschließen. Nicht weniger als 800 Seiten umfasst die finale Fassung der Vorlage, die erst am Sonntag an die Mitgliedstaaten ging. EU-Rat und EU-Parlament müssen noch zustimmen. Der Umstand, dass die FDP ihren Widerstand gegen ein deutsches "Ja" aufgegeben hat, macht eine Mehrheit im Rat deutlich wahrscheinlicher.

FDP hatte mehrere Bedenken gegen das geplante KI-Gesetz

Das Bundesdigitalministerium und das Bundesjustizministerium, beide von der FDP geführt, hatten bis zuletzt Bedenken angemeldet. Die EU will mit ihrem Vorhaben eigenen Angaben zufolge "ein Fundament für die Entwicklung vertrauenswürdiger KI" in Europa legen und den Standort dafür stärken. Die Liberalen befürchteten, dass das Gegenteil davon der Fall sein könnte.

Bedenken, wie sie vonseiten der FDP geäußert wurden, bezogen sich vor allem auf zwei Bereiche. Zum einen sah Minister Volker Wissing die Gefahr, durch zu strenge und bürokratische Vorgaben Unternehmen bei der Entwicklung von Innovationen zu behindern. Vor allem Modelle kleinerer Unternehmen würden durch das KI-Gesetz gegenüber jenen größerer benachteiligt.

Im Gegensatz dazu sei der Entwurf zu wenig streng, wenn es um Befugnisse des Staates gehe. So beispielsweise bei der Verwendung von KI zur biometrischen Überwachung. Wie die "Süddeutsche Zeitung" berichtet, hat Wissing am Dienstag nun von einem "tragbaren Kompromiss" gesprochen. Es sei gelungen, "unverhältnismäßige Anforderungen" abzuwenden.

Social Scoring mittels KI bleibt untersagt - Ausnahmen bei Echtzeitüberwachung

Über die Details der Endfassung hat sich der Minister nicht geäußert. Was jedoch bereits zuvor bekannt war, waren die primären Stoßrichtungen im KI-Gesetz. Eine davon ist die Unterteilung von KI-Systemen in unterschiedliche Risikogruppen. Je nach angenommenem Gefahrenpotenzial sollen die gesetzlichen Anforderungen umso schärfer gefasst sein.

Als besonders risikoreich eingestuft und in der EU untersagt sein sollen beispielsweise sprechende Kinderspielzeuge. Hier will man verhindern, dass diese Kinder zu gefährlichem Verhalten anleiten. Tabu bleiben sollen zudem KI-gestützte Werkzeuge, um Social Scoring anhand von Internetdaten zu ermöglichen.

Ein Verbot wird es auch bezüglich biometrischer Kategorisierungssysteme geben, die mit hochsensiblen Daten arbeiten - wie sexuelle Orientierung oder religiöse Überzeugung. Ebenfalls untersagt wird eine biometrische Echtzeitüberwachung, zumindest grundsätzlich. Ausnahmen soll es geben dürfen, wenn es um drohende Terroranschläge oder die Suche nach Opfern von Menschenhandel gehe. Auch die Auswertung daraus gewonnenen Materials, das älter als 48 Stunden ist, bleibt möglich.

Sogenannte Hochrisikotechnologien sollen einem erhöhten Regulierungsbedarf unterliegen. Zu den potenziellen Anwendungsfällen würden selbstfahrende Autos, ein KI-gestütztes Transportwesen oder bestimmte Industrieanwendungen zählen.

Industrieverband kritisiert schwammige Formulierungen im KI-Gesetz

Das KI-Gesetz versucht, alle erdenklichen Bereiche abzudecken, innerhalb derer Künstliche Intelligenz Anwendung finden kann. Diese reichen mittlerweile vom Flow bei Streamingdiensten bis zur Auswertung von Computertomografien.

Für sogenannte Basismodelle, zu denen Bots wie ChatGPT zählen, wird es vorerst nur höhere Transparenzpflichten geben. Kritiker wie der deutsche Elektrotechnik-Verband ZVEI bemängeln allerdings schwammige Formulierungen im Entwurf zum KI-Gesetz. Diese könnten zur Folge haben, dass auch grundsätzlich harmlose Anwendungen zu Hochrisiko-KI deklariert werden könnten.

Vor allem bei Anwendungen in der Industrie könne dies für Mängel in der Rechtssicherheit sorgen. Der Vorsitzende der Geschäftsführung des Verbandes, Wolfgang Weber, äußerte gegenüber "Industry of Things":

"Insbesondere die Kriterien von Hochrisiko-KI-Systemen sind zu unpräzise formuliert und können unterschiedlich ausgelegt werden. Es droht, dass selbst einfache Steuerungen von Haushaltsgeräten als Hochrisiko-KI gelten. Auch alltäglichen Anwendungen in der Industrie droht eine Neubewertung als Hochrisiko-KI."

Dennoch wird die Bundesregierung aufgrund der jüngsten Einigung im Ausschuss der Ständigen Vertreter (AStV) am Freitag mit "Ja" stimmen. Dies teilten die federführenden Ministerien für Wirtschaft (BMWK) und Justiz (BMJ) am Dienstag mit.

Durch ChatGPT sah EU sich unter Erfolgsdruck gesetzt

Sowohl im EU-Rat als auch im EU-Parlament sind jedoch noch Diskussionen über Transparenz, Innovation und Sicherheit von KI-gestützten Anwendungen zu erwarten. Gelten soll das KI-Gesetz im Kern für Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht.

Im April 2021 hatte die EU-Kommission erstmals vorgeschlagen, eine Regelung dieser Art zu erarbeiten. Durch den Erfolg von ChatGPT, der im November 2022 von OpenAI vorgestellten Bot-Technologie, sah man sich unter zusätzlichen Erfolgsdruck gesetzt.

Digitalrechtsexperte Philipp Hacker von der Europa-Universität Viadrina Frankfurt/Oder spricht laut "Standard" von einem Entwurf, der "nicht perfekt" sei. Jedoch sei er "insgesamt besser als gar keine Regelung".