Die EU KI-Verordnung: Was bedeutet sie für Ihr Unternehmen?

Am 14.6. hat das EU Parlament den AI Act verabschiedet. Ein Versuch, KI Systeme zu regulieren und so die Einführung in die breite Nutzermasse zu ermöglichen. Dies kommt jedoch mit einigen Herausforderungen und das verabschiedete Regelwerk hat aus meiner Sicht einige große Schwächen.

Dabei werden KI-Systeme in vier Kategorien unterteilt:

1. KI Systeme mit “inakzeptablem Risiko”

An der Spitze der Pyramide befindet sich das inakzeptable Risiko, das ein Verbot für KI-Systeme in dieser Kategorie bedeutet. Beispiele dafür sind Systeme zur sozialen Bewertung und, unter einigen sehr engen Ausnahmen, anspruchsvolle Anwendungen von KI, die Menschen in Echtzeit an öffentlichen Orten überwachen.

2. KI-Systeme mit “hohem Risiko”

Dies ist eine breitere Kategorie, die KI umfasst, die in medizinischen Geräten eingesetzt wird, als Sicherheitskomponente in Spielzeug oder in der Verwaltung kritischer Infrastrukturen wie der Stromversorgung, in Personalbeschaffungstools, Kreditbewertungsanwendungen und Notenprognosetechnologie in der Bildung.

Hochrisiko-KI-Systeme werden für die Anbieter dieser Systeme erhebliche Herausforderungen in Bezug auf die Einhaltung von Vorschriften mit sich bringen. Es gibt eine Liste von sieben detaillierten Anforderungen, die dazu führen werden, dass viele Anbieter ihre Engineering-Prozesse und Produktverfahren erheblich anpassen müssen, um die Einhaltung sicherzustellen.

Diese Anforderungen umfassen:

Risikomanagementsystem; Genauigkeit, Robustheit und Cybersicherheit; Daten und Datenverwaltung; Menschliche Aufsicht; Transparenz und Bereitstellung von Informationen für Benutzer; Aufzeichnungspflicht; und Technische Dokumentation.

Für viele KI-Anbieter ist eine solche Art der Produktregulierung neu, und es erfordert erhebliche Investitionen in Ressourcen und Kapital.

3. KI-Systeme mit “begrenztem Risiko“

Zu den KI-Systemen mit begrenztem Risiko gehören Deepfakes und Chatbots. Ihre Einhaltungspflichten sind leichter und konzentrieren sich auf Transparenz. Der Benutzer muss darüber informiert werden, dass er es mit einem KI-System zu tun hat, es sei denn, dies ist offensichtlich erkennbar.

4. KI-Systeme mit “minimalem oder keinem Risiko”

KI-Systeme, die nicht in die drei genannten Kategorien fallen, unterliegen keiner Compliance.

Der Schwerpunkt des KI-Gesetzes aus Sicht der Technologieanbieter liegt auf den Kategorien mit hohem Risiko und begrenztem Risiko. Anbieter von Systemen mit hohem Risiko müssen viel Arbeit leisten, um die Compliance-Anforderungen zu erfüllen, und sollten diesen Weg bereits jetzt einschlagen.

in zentraler Punkt, der bei der KI-Regulierung diskutiert werden muss, ist die Frage, wer die Grenzen zwischen den einzelnen Kategorien zieht. Hier besteht noch Klärungsbedarf, um eine faire und effektive Regulierung sicherzustellen, die Innovation fördert und gleichzeitig die Gesellschaft schützt.

Noch wichtiger ist jedoch die Tatsache, dass die EU die Entwickler von KI-Systemen für deren Nutzung verantwortlich macht. Dies wirft interessante Fragen auf. Wenn wir beispielsweise ChatGPT nutzen, können wir damit Kindergeschichten schreiben oder Fake-News verbreiten. Wer ist dann verantwortlich, der Benutzer oder OpenAI?

Die Beantwortung dieser Frage ist nicht einfach. Ich finde es jedoch schwierig, eine einzige Branche zu finden, in der wir den Hersteller einer vielseitigen Plattform oder eines Produkts für dessen Nutzung verantwortlich machen. Schließlich können wir ein Auto nutzen, um zu unseren älteren Eltern zu fahren und uns um sie zu kümmern, oder es in eine Gruppe von Menschen lenken - letzteres ist natürlich abscheulich, aber es ist nicht die Schuld des Autoherstellers, wenn Menschen ihre Autos missbrauchen.

Die KI-Regulierung ist zweifellos eine komplexe Angelegenheit, die sorgfältige Überlegungen erfordert. Während das EU KI-Gesetz den Fokus auf KI-Systeme mit hohem und begrenztem Risiko legt, sollten wir als Unternehmer und Entscheidungsträger diese Entwicklungen aufmerksam verfolgen und uns darauf vorbereiten, mögliche Anpassungen vorzunehmen, um die Compliance-Anforderungen zu erfüllen.

Für weitere Informationen zum EU KI-Gesetz und dessen Auswirkungen können Sie sich gerne an mich für eine unverbindliche Beratung wenden..

Gemeinsam können wir einen verantwortungsvollen Einsatz von KI fördern und gleichzeitig die Innovationskraft unserer Unternehmen stärken.