Der EU-KI-Act tritt in Kraft

Der EU-KI-Gesetz tritt heute in Kraft und legt Vorschriften für die Entwicklung, Vermarktung, Implementierung und Nutzung künstlicher Intelligenz in der Europäischen Union fest.

Der Rat schrieb, dass das Gesetz dazu dienen soll, „die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz zu fördern und gleichzeitig ein hohes Maß an Schutz der Gesundheit, Sicherheit (und) Grundrechte … einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz zu gewährleisten, vor den schädlichen Auswirkungen von KI-Systemen in der Union zu schützen und Innovationen zu unterstützen.“

Zu den risikoreichen Anwendungsfällen von KI zählen laut Gesetz:

• Implementierung der Technologie in medizinischen Geräten.

• Verwendung zur biometrischen Identifizierung.

• Bestimmung des Zugangs zu Diensten wie der Gesundheitsversorgung.

• Jede Kind der automatisierten Verarbeitung personenbezogener Daten.

• Emotionale Anerkennung aus medizinischen oder Sicherheitsgründen.

Unter „biometrischer Identifizierung“ versteht man „die automatische Erkennung physischer, physiologischer und verhaltensbezogener menschlicher Merkmale wie Gesicht, Augenbewegung, Körperform, Stimme, Prosodie, Gang, Haltung, Herzfrequenz, Blutdruck, Geruch und Tastenanschläge zum Zweck der Feststellung der Identität einer Individual durch Vergleich der biometrischen Daten dieser Individual mit gespeicherten biometrischen Daten von Personen in einer Referenzdatenbank, unabhängig davon, ob die Individual ihre Zustimmung gegeben hat oder nicht“, schreiben die Regulierungsbehörden.

Die Verordnung zur biometrischen Identifizierung schließt den Einsatz künstlicher Intelligenz zu Authentifizierungszwecken aus, etwa um zu bestätigen, dass eine Individual die Individual ist, die sie vorgibt zu sein.

Das Gesetz besagt, dass bei der Nutzung von KI besondere Vorsicht geboten ist, wenn es darum geht zu entscheiden, ob eine Individual Zugang zu wesentlichen öffentlichen und privaten Dienstleistungen haben sollte, wie etwa medizinischer Versorgung bei Mutterschaft, Arbeitsunfällen, Krankheiten, Verlust des Arbeitsplatzes, Pflegebedürftigkeit oder im Alter sowie Sozial- und Wohnhilfe, da diese als Hochrisiko eingestuft würden.

Auch der Einsatz dieser Technologie zur automatisierten Verarbeitung personenbezogener Daten gilt als risikoreich.

„Der europäische Gesundheitsdatenraum wird einen diskriminierungsfreien Zugang zu Gesundheitsdaten und das Trainieren von KI-Algorithmen anhand dieser Datensätze ermöglichen, und zwar auf eine datenschutzfreundliche, sichere, zeitnahe, transparente und vertrauenswürdige Weise und mit einer angemessenen institutionellen Governance“, heißt es in dem Gesetz.

„Die jeweils zuständigen Behörden, einschließlich der sektoralen Behörden, die den Zugang zu Daten bereitstellen oder unterstützen, können auch die Bereitstellung hochwertiger Daten für das Trainieren, Validieren und Testen von KI-Systemen unterstützen.“

Wenn es um die Erprobung risikoreicher KI-Systeme geht, müssen die Unternehmen diese unter realen Bedingungen testen und die informierte Zustimmung der Teilnehmer einholen.

Darüber hinaus müssen die Organisationen Aufzeichnungen (Protokolle) der Ereignisse, die während der Prüfung ihrer Systeme auftreten, mindestens sechs Monate lang aufbewahren. Schwerwiegende Vorfälle während der Prüfung müssen den Marktüberwachungsbehörden der Mitgliedstaaten gemeldet werden, in denen sich der Vorfall ereignet hat.

Das Gesetz besagt, dass KI nicht zur Emotionserkennung in Bezug auf „Emotionen oder Absichten wie Glück, Trauer, Wut, Überraschung, Ekel, Verlegenheit, Aufregung, Scham, Verachtung, Zufriedenheit und Belustigung“ verwendet werden darf.

Nicht verboten ist jedoch der Einsatz von KI zur Emotionserkennung körperlicher Zustände wie Schmerzen oder Müdigkeit, wie sie etwa bei Systemen zur Erkennung des Ermüdungszustands von Berufspiloten oder -fahrern zur Unfallverhütung zum Einsatz kommen.

Transparenzanforderungen, additionally Nachvollziehbarkeit und Erklärbarkeit, bestehen für bestimmte KI-Anwendungen, etwa für mit Menschen interagierende KI-Systeme, von KI generierte oder manipulierte Inhalte (wie Deepfakes) sowie zulässige Systeme zur Emotionserkennung und biometrischen Kategorisierung.

Unternehmen sind außerdem verpflichtet, das Risiko einer Verzerrung in ihren KI-Anwendungen zu beseitigen oder zu verringern und auftretende Verzerrungen durch Abhilfemaßnahmen anzugehen.

Das Gesetz unterstreicht die Absicht des Charges, die EU-Bürger vor den potenziellen Risiken der KI zu schützen; zugleich wird aber auch sein Ziel dargelegt, Innovationen nicht zu behindern.

„Diese Verordnung sollte Innovationen unterstützen, die Freiheit der Wissenschaft respektieren und Forschungs- und Entwicklungstätigkeiten nicht untergraben. Es ist daher notwendig, KI-Systeme und -Modelle, die speziell für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen wurden, von ihrem Anwendungsbereich auszuschließen“, schrieben die Regulierungsbehörden.

„Darüber hinaus muss sichergestellt werden, dass diese Verordnung die wissenschaftliche Forschung und Entwicklung zu KI-Systemen oder -Modellen nicht anderweitig beeinträchtigt, bevor diese auf den Markt gebracht oder in Betrieb genommen werden.“

Das HIMSS-Gesundheitswesen Web-Sicherheit Das Discussion board soll vom 31. Oktober bis 1. November in Washington, DC stattfinden. Mehr erfahren und registrieren.