04. Der rechtliche Rahmen & AI Act

Auslesen biometrischer Daten im öffentlichen Raum nur in Ausnahmefällen möglich: Gesichtserkennung und weitere Analysen biometrischer Daten sollen lediglich angewandt werden, wenn es sich um Notfälle, wie bspw. terroristische Anschläge, handelt. Gänzlich verboten sind hingegen Bewertungssysteme auf Grundlage von Sentimentanalysen im Arbeits- oder Ausbildungskontext. Ebenfalls verboten sind Sanktionierungsmechanismen (z.B. Sozialkredit-Systeme) sowie Manipulation und Ausnutzung von persönlichen Schwächen (z.B. aufgrund von Alter oder Erkrankung). Hochrisiko-Systeme, die bspw. das Wahlverhalten beeinflussen können, unterliegen strengeren Regeln.

Große KI-Modelle erhalten Dokumentationspflichten: Große KI-Basismodelle, wie GPT oder LaMDA, müssen eine technische Dokumentation vorlegen, aus welcher Trainingsdaten sowie Trainingsmuster deutlich werden. Aus dieser Dokumentation sollen Urheber/-innen entnehmen können, ob ihre Werke für die Trainings genutzt wurden. KI-generierte Produkte müssen zudem mit einem digitalen Wasserzeichen versehen werden. Für Open-Source Anwendungen sind die Bestimmungen lockerer.

In der EU-Kommission wird eine spezielle KI-Behörde installiert, welche insbesondere die Regulierung der großen Basismodelle überwachen soll. Darüber hinaus sind national zuständige Behörden für die Einhaltung des KI-Gesetzes verantwortlich.

Das KI-Gesetz ist weltweit das erste und umfassendste seiner Art und soll insbesondere Menschenrechte und die Zivilbevölkerung schützen. Kritiker sehen allerdings ein mögliches Hindernis für die Einführung von nützlichen KI-Systemen. Unternehmen könnten von der Regulierung abgeschreckt werden und ihre KI-Systeme nicht länger auf dem europäischen Markt anbieten. Nach der Ratifizierung des KI-Gesetzes soll es eine Übergangsfrist von ca. zwei Jahren geben.