Heute hat der Rat der Europäischen Union die KI-Verordnung (AI Act) verabschiedet, das weltweit erste umfassendes Gesetz zur Regulierung von künstlicher Intelligenz. In der verabschiedeten Form gab es einige bislang nicht bekannte Änderungen, die auch inhaltliche Auswirkungen haben.

Dazu teilt Dr. Johannes Stuve von der Kanzlei Noerr mit:

„Weitgehend unbemerkt ist der AI Act in letzter Sekunde an mehreren Stellen inhaltlich geändert und teils verschärft, teils gelockert worden. 

So ist zukünftig der Einsatz von KI bei unterschwelliger Beeinflussung einer Person oder Personengruppe verboten, wenn eine „hinreichende“ („reasonably“) Wahrscheinlichkeit eines Schadenseintritts gegeben ist. Der Entwurf des AI Acts setzte dagegen voraus, dass der betroffenen Person oder Personengruppe tatsächlich oder wahrscheinlich erheblicher Schaden zugefügt wird.

Auch für General Purpose KI-Systeme gilt nun eine Konformitätsvermutung bei der Beachtung von harmonisierten Standards – bislang war das nur für Hochrisiko-KI-Systeme vorgesehen. Unternehmen die General Purpose KI-Systeme einsetzen, müssen damit dem vom Hersteller des KI-Systems angestoßenen Zertifizierungsprozess vertrauen – Fehler in diesem können Auswirkungen auf Anwendungen und Prozesse haben, die auf General Purpose KI-Systemen aufbauen.“

Pascal Schumacher, Partner der Kanzlei Noerr, ergänzt:

„Schließlich wird in der finalen Fassung des AI Acts auch klargestellt, dass Open-Source-KI-Systeme nunmehr im Regelfall vom Anwendungsbereich der KI-Verordnung ausgenommen sind. Ausnahmen bilden Hochrisiko-KI-Systeme oder verbotene KI-Praktiken.“

Für Rückfragen stehen Herr Stuve und Herr Schumacher gerne zur Verfügung.