Auf EU-Ebene schreiten die Verhandlungen zur europäischen Verordnung zu Künstlicher Intelligenz („AI Act“) voran. Die Bundesregierung hat eine Stellungnahme zum tschechischen Kompromissvorschlag eingereicht, in der sie eine Aufweichung der Klassifizierung von KI-Systemen moniert. Wir teilen die Bedenken der Bundesregierung.
Berlin, 26. September 2022 | Parsa Marvi, zuständiger Berichterstatter: „Die Stellungnahme der Bundesregierung zeigt deutlich, dass Deutschland sich für einen menschenzentrierten und zugleich innovationsorientierten Rahmen für die Entwicklung und Nutzung von KI einsetzt. Der tschechische Vorschlag sieht eine Aufweichung der Klassifizierung von KI-Systemen in den Hochrisikobereich vor. Damit wäre eine Hintertür für Anbieter von risikoreichen KI-Anwendungen geschaffen. Die Bundesregierung setzt hier eine klare rote Linie.
Ein weiterer wichtiger Punkt in einer künftigen Verordnung ist die Verankerung von Informations- und Offenlegungspflichten für Anbieter. Bürgerinnen und Bürger müssen darüber informiert werden, wenn sie mit einem KI-System interagieren — sei es bei einer Interaktion mit dem Kundenservice eines Unternehmens oder in einem Bewerbungsverfahren, in dem KI-gestützte Prozesse angewandt werden. Darüber hinaus müssen KI-Anbieter bei Bedarf die Entscheidungsfindung von Algorithmen nachvollziehbar und erklärbar für Bürgerinnen und Bürger offenlegen. Für uns ist ebenso zentral: eine unabhängige Konformitätsbewertung für KI-Systeme im Hochrisikobereich.“
Armand Zorn, zuständiger Berichterstatter: „Die SPD-Bundestagsfraktion hat in der heutigen öffentlichen Anhörung zum AI Act einen besonderen Fokus auf die Überprüfung von KI-Systemen, die europäische Wettbewerbsfähigkeit und Arbeitnehmer sowie Verbraucherinnenrechte gelegt.
Klar ist: Die KI-Regulierung bietet eine wichtige Chance die europäischen Werte in der Entwicklung und Nutzung von KI-Anwendungen zu verankern und so Vertrauen in diese Technologie in der Gesellschaft zu schaffen. Auch darum ging es in der heutigen Anhörung.“