FAQ für Entwickelnde und Herstellende zum EU AI Act

Der Rat der 27 EU-Mitgliedstaaten hat am 21. Mai 2024 mit dem AI Act einen einheitlichen Rahmen für den Einsatz von Künstlicher Intelligenz in der Europäischen Union verabschiedet, der seit dem 1. August 2024 in Kraft ist. COMPAMED als internationale Leitmesse für medizintechnische Zulieferer beantwortet die wichtigsten Fragen, die sich für Entwicklerinnen und Entwickler von KI-Lösungen in der Medizintechnikbranche stellen.

Der AI Act ist das weltweit erste umfassende Regelwerk für KI, es soll Vertrauen und Akzeptanz in die Technologie schaffen. Die KI-Verordnung verfolgt einen risikobasierten Ansatz und ordnet KI- Systeme nach ihren potenziellen Risiken für Gesellschaft und Einzelpersonen in vier Kategorien. Das KI-Gesetz bezieht sich auf alle Anwendungen von KI. Medizinprodukte werden in die dritte Kategorie mit potenziell hohem Schadensrisiko eingestuft, weswegen weitreichende Anforderungen notwendig werden.

In der Einführung von KI-Systemen werden große gesellschaftliche Vorteile gesehen. Sie versprechen mehr Wirtschaftswachstum und Innovation sowie eine verbesserte weltweite Wettbewerbsfähigkeit der EU. Die vermuteten Risiken hingegen führen zu Rechtsunsicherheit und verzögern möglicherweise den KI-Einsatz. Die KI-Verordnung soll deswegen die Risiken für Gesundheit, Sicherheit und die Grundrechte mindern und gleichzeitig das Potenzial für Wirtschaft und Gesellschaft verbessern. Für die Unterstützung der europäischen Start-ups und KMU bei der Programmierung und Entwicklung von konformen KI-Systemen sollen KI-Reallabore kostenfrei zur Verfügung gestellt werden. Sie ermöglichen es Herstellenden und Zuliefernden, KI-Systeme unabhängig und unter Regulierungsaufsicht zu entwickeln und zu testen.

Wegen der Einstufung von Medizinprodukten in die Kategorie mit potenziell hohem Schadensrisiko müssen für solche Systeme eine Konformitätsbewertung und eine Konformitätserklärung erstellt werden. Diese Einstufung umfasst alle Produkte, die in der etablierten Medizinprodukteverordnung (MDR) der Risikoklasse IIa oder höher sowie der MDR-Risikoklasse I zugeordnet sind. Daneben müssen gegebenenfalls weitere Vorschriften der In-Vitro-Diagnostika Verordnung (IVDR) eingehalten werden. Das gilt vom Entwicklungsprozess über das Zulassungsverfahren bis hin zur Sicherheit nach dem Inverkehrbringen.

Weitere Anforderungen an die Softwareentwicklung sind der Schutz vor Cyberangriffen von außen. Auftretende Fehler in der Software müssen sofort erkannt, von Menschen kontrolliert und innerhalb des Systems nachvollzogen werden können.

Insgesamt werden durch die Vorgaben erhebliche Verzögerungen und Kostensteigerungen erwartet. Im Gegenzug soll das KI-Gesetz durch die EU-weite Harmonisierung mit dem Slogan "Made in Europe" ein Alleinstellungsmerkmal für KI-Technologie und damit einen Wettbewerbsvorteil garantieren.

Die KI-Verordnung wird zwei Jahre nach ihrem Inkrafttreten am 2. August 2026 vollständig anwendbar werden, es gibt jedoch Ausnahmen:

• Bereits am 2. Februar 2025 erlangen Verbote, Begriffsbestimmungen und Vorschriften im Zusammenhang mit den KI-Kompetenzen Geltung.
• Am 2. August 2025 werden die Vorschriften über die Governance und die Verpflichtungen in Bezug auf KI mit allgemeinem Verwendungszweck anwendbar.
• Am 2. August 2027 werden die Verpflichtungen für KI-Systeme anwendbar, die als Hochrisiko-KI-Systeme eingestuft werden, weil sie in regulierte Produkte eingebettet sind.

Bis August 2025 muss jedes EU-Land eine nationale KI-Aufsichtsbehörde benennen. Neben der Überwachung hat diese Behörde die Aufgabe, Innovation und Wettbewerb zu fördern. In Deutschland kommen dafür die Bundesnetzagentur, die Datenschutzbehörden oder auch eine neu zu gründende Behörde in Frage. Auf EU-Ebene werden die nationalen Aufsichtsbehörden im Ausschuss für Künstliche Intelligenz vertreten.

Die Strafen für Verstöße gegen die Vorschriften werden entsprechend der Größe und dem Geschäftszweck des Unternehmens festgelegt:

• Für die Anwendung verbotener KI-Systeme: bis 35 Millionen Euro oder 7 Prozent des weltweiten Vorjahresumsatzes (je nachdem, welcher Wert höher ist).
• Für Verstöße gegen Verpflichtungen des AI Acts: bis 15 Millionen Euro oder 3 Prozent des Umsatzes.
• Für die Angabe falscher Informationen: bis 7,5 Millionen Euro oder 1,5 Prozent des Umsatzes.

Bundeskanzler Scholz erklärte im Mai 2024 auf einem KI-Gipfel der Staats- und Regierungschefs, dass die Bundesregierung Deutschland mit einer nationalen KI-Strategie zu einem führenden Standort für die Entwicklung und Anwendung von KI-Technologien machen will. Dafür unterstützt sie die Erforschung und Anwendung von KI, zum Beispiel deutschlandweit in neu eingerichteten KI-Servicezentren für Wissenschaft und Wirtschaft, insbesondere für KMU.

KI-Anbietende und Softwareentwickelnde erhalten dank höherer Rechtssicherheit und einheitlicher Vorschriften Zugang zu größeren Märkten. Die Vorschriften werden nur angewandt, soweit dies unbedingt erforderlich ist, und zwar so, dass Unternehmen so wenig wie möglich belastet werden.

Die Einrichtung von Reallaboren sollen Tests unter realen Bedingungen ermöglichen. Zusammen mit den KI-Exzellenzzentren und der öffentlich-privaten Partnerschaft für KI, Daten und Robotik wie auch dem Zugang zu digitalen Innovationszentren und Test- und Versuchsanlagen sollen günstige Rahmenbedingungen für die Entwicklung und den Einsatz von KI geschaffen werden.