01640 Der AI Act – Das müssen Unternehmer beachten
|
Der Beitrag bietet eine Einführung in die EU-Verordnung „zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz” (AI Act), die am 1. August 2024 in Kraft getreten ist. Er erläutert die wesentlichen Veränderungen im Compliance-Rahmen, die sich aus dem AI Act ergeben, insbesondere für Unternehmen und öffentliche Stellen, die KI-Systeme von externen Anbietern nutzen möchten. Darüber hinaus werden die Auswirkungen des AI Act auf Unternehmen und Behörden erörtert. Auch Fachleuten aus den Bereichen KI-Entwicklung, -Forschung und -Governance vermittelt der Beitrag einen ersten Überblick über die relevanten Aspekte der Verordnung. Eine Reihe nützlicher Arbeitshilfen unterstützt den Einstieg in das Thema. Arbeitshilfen: von: |
1 Einleitung
AI Act/KI-VO
Am 1. August 2024 ist die EU-Verordnung „zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz” in Kraft getreten. Die Verordnung ist unter dem Namen „Artificial Intelligence Act (AI Act)” oder in der offiziellen deutschen Übersetzung „KI-Verordnung (KI-VO)” bekannt [1]. Die darin enthaltenen Regelungen werden im Laufe der auf die Veröffentlichung folgenden 36 Monate nach und nach wirksam.
Am 1. August 2024 ist die EU-Verordnung „zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz” in Kraft getreten. Die Verordnung ist unter dem Namen „Artificial Intelligence Act (AI Act)” oder in der offiziellen deutschen Übersetzung „KI-Verordnung (KI-VO)” bekannt [1]. Die darin enthaltenen Regelungen werden im Laufe der auf die Veröffentlichung folgenden 36 Monate nach und nach wirksam.
Überblick
Der Beitrag bietet einen ersten Einblick, in die sich aus dem AI Act ergebenden Veränderungen des Compliance-Rahmens. Er richtet sich hierbei insbesondere an Unternehmen und öffentliche Stellen (bzw. deren Berater und Beraterinnen, Informationssicherheits- und Datenschutzbeauftragte), die den Einsatz von KI-Systeme von externen Anbietern in Ihrer Organisation planen.
Der Beitrag bietet einen ersten Einblick, in die sich aus dem AI Act ergebenden Veränderungen des Compliance-Rahmens. Er richtet sich hierbei insbesondere an Unternehmen und öffentliche Stellen (bzw. deren Berater und Beraterinnen, Informationssicherheits- und Datenschutzbeauftragte), die den Einsatz von KI-Systeme von externen Anbietern in Ihrer Organisation planen.
Auch für Leser, die im Bereich der KI-Entwicklung, KI-Forschung und KI-Governance tätig sind, bietet dieser Aufsatz eine gute Übersicht über die neue Verordnung. Themen wie Innovationsförderung, Reallabore, Anbieterpflichten und Governance werden in diesem Text nicht behandelt.
Auswirkungen
Dieser Text befasst sich mit den Auswirkungen des AI Act auf Unternehmen. Die getroffenen Feststellungen gelten jedoch in gleicher Weise auch für Behörden, sofern nicht ausdrücklich auf einen Unterschied hingewiesen wird. Personenbezeichnungen in diesem Text werden überwiegend in der männlichen Form verwendet, die Aussagen gelten jedoch selbstverständlich gleichermaßen für alle Geschlechter.
Dieser Text befasst sich mit den Auswirkungen des AI Act auf Unternehmen. Die getroffenen Feststellungen gelten jedoch in gleicher Weise auch für Behörden, sofern nicht ausdrücklich auf einen Unterschied hingewiesen wird. Personenbezeichnungen in diesem Text werden überwiegend in der männlichen Form verwendet, die Aussagen gelten jedoch selbstverständlich gleichermaßen für alle Geschlechter.
1.1 Was ist „Künstliche Intelligenz”?
Es gibt keine allgemein anerkannte Definition von Künstliche Intelligenz (KI) existiert nicht. Grundsätzlich bezeichnet Künstliche Intelligenz die Fähigkeit von Maschinen, zu lernen, Probleme zu lösen und Entscheidungen zu treffen, und auf diese Weise menschenähnliche Intelligenz zu simulieren. Ein bekanntes und populäres für ein solches System ist das große Sprachmodell „ChatGPT”.
Funktionsweise
Künstliche Intelligenz zeichnet sich dadurch aus, dass sie – im Gegensatz zu herkömmliche Softwarer – nicht ausschließlich fest vorprogrammierten Lösungswegen (Algorithmen) folgt, sondern auf der Grundlage von Algorithmen autonom oder weitgehend autonom aus vorherigen Vorgängen und Informationen lernt und eigene Rückschlüsse zieht. Die KI simuliert dabei die Funktionsweise des menschlichen Gehirns mittels sogenannter „neuronaler Netze”. Künstliche Intelligenz erzeugt also bei jeder Anfrage einen neuen, individuellen Output, anstatt wie herkömmliche Software auf gespeicherte Daten zurückzugreifen.
Künstliche Intelligenz zeichnet sich dadurch aus, dass sie – im Gegensatz zu herkömmliche Softwarer – nicht ausschließlich fest vorprogrammierten Lösungswegen (Algorithmen) folgt, sondern auf der Grundlage von Algorithmen autonom oder weitgehend autonom aus vorherigen Vorgängen und Informationen lernt und eigene Rückschlüsse zieht. Die KI simuliert dabei die Funktionsweise des menschlichen Gehirns mittels sogenannter „neuronaler Netze”. Künstliche Intelligenz erzeugt also bei jeder Anfrage einen neuen, individuellen Output, anstatt wie herkömmliche Software auf gespeicherte Daten zurückzugreifen.
Bekannte KI-Anwendungen sind insbesondere die großen Sprachmodelle (Large Language Models – LLM) wie GPT von OpenAI, IBM Watson, Anthropics Claude oder Luminous von Aleph Alpha.
Parallel zur explosionsartigen Entwicklung dieser vornehmlich sprachbasierten KI sind im Jahr 2023 eine Vielzahl von KI-basierten Bildgeneratoren wie Midjourney, Dall-E und Stable Diffusion in den Fokus der Öffentlichkeit gerückt.
Anwendungsbereiche
Die rasante Entwicklung und Nutzung von Künstlicher Intelligenz geht jedoch weit über die seit der Veröffentlichung von ChatGPT Ende November 2022 im Fokus stehenden Anwendungen allerdings weit hinaus. Denn schon seit geraumer Zeit findet Künstliche Intelligenz zunehmend Anwendung in Bereichen wie
Die rasante Entwicklung und Nutzung von Künstlicher Intelligenz geht jedoch weit über die seit der Veröffentlichung von ChatGPT Ende November 2022 im Fokus stehenden Anwendungen allerdings weit hinaus. Denn schon seit geraumer Zeit findet Künstliche Intelligenz zunehmend Anwendung in Bereichen wie
| • | der Medizin |
| • | Wissenschaftliche Forschung |
| • | Militär |
| • | Logistik |
| • | Kommunikation |
Tipp
Falls Sie noch nicht die Gelegenheit hatten, ein KI-System auszuprobieren, können Sie ohne Anmeldung beispielsweise die Angebote von you.com oder perplexity.ai nutzen.
Falls Sie noch nicht die Gelegenheit hatten, ein KI-System auszuprobieren, können Sie ohne Anmeldung beispielsweise die Angebote von you.com oder perplexity.ai nutzen.
Es wird erwartet, dass Künstliche Intelligenz in kurzer Zeit nahezu alle Lebensbereiche der Menschheit berühren und durchdringen wird, vergleichbar mit der Entwicklung des Internets und der Mobiltelefonie.
Europäische Verordnung
Vor diesem Hintergrund hat sich die Europäische Union sich ab 2017 verstärkt mit den Chancen und Risiken der Nutzung Künstlicher Intelligenz auseinandergesetzt und auf die Schaffung eines einheitlichen Rechtsrahmens auf Grundlage einer entsprechenden europäischen Verordnung, des AI Act, hingewirkt.
Vor diesem Hintergrund hat sich die Europäische Union sich ab 2017 verstärkt mit den Chancen und Risiken der Nutzung Künstlicher Intelligenz auseinandergesetzt und auf die Schaffung eines einheitlichen Rechtsrahmens auf Grundlage einer entsprechenden europäischen Verordnung, des AI Act, hingewirkt.
1.2 Worum geht es im AI Act?
Art. 1 KI-VO
Ziel der KI-Verordnung ist es laut dessen Art. 1, „das Funktionieren des [europäischen] Binnenmarkts zu verbessern und die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz (KI) zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in der Charta verankerten Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, vor schädlichen Auswirkungen von KI-Systemen in der Union zu gewährleisten und die Innovation zu unterstützen”.
Ziel der KI-Verordnung ist es laut dessen Art. 1, „das Funktionieren des [europäischen] Binnenmarkts zu verbessern und die Einführung einer auf den Menschen ausgerichteten und vertrauenswürdigen künstlichen Intelligenz (KI) zu fördern und gleichzeitig ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die in der Charta verankerten Grundrechte, einschließlich Demokratie, Rechtsstaatlichkeit und Umweltschutz, vor schädlichen Auswirkungen von KI-Systemen in der Union zu gewährleisten und die Innovation zu unterstützen”.
Gegenstand
Zu diesem Zweck legt der AI Act unter anderem Folgendes fest:
Zu diesem Zweck legt der AI Act unter anderem Folgendes fest:
| • | Allgemeine Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Nutzung von KI-Systemen in der Europäischen Union, |
| • | Verbot bestimmter KI-Praktiken, |
| • | Spezifische Anforderungen an KI-Systeme mit hohem Risiko und Verpflichtungen für die Betreiber solcher Systeme, |
| • | Transparenzvorschriften für Anbieter und Betreiber bestimmter KI-Systeme, |
| • | Vorschriften für das Inverkehrbringen von KI-Modellen die für allgemeine Zwecke verwendet werden können (z. B. große Sprachmodelle wie ChatGPT), |
| • | Regeln für die Marktüberwachung, Marktaufsicht, Governance und Durchsetzung (Sanktionen) sowie |
| • | Maßnahmen zur Förderung der Innovation, mit besonderem Schwerpunkt auf kleinen und mitteleren Unternehmen (KMU), einschließlich Neugründungen. |
2 Zentrale Definitionen der KI-Verordnung
Begriffsbestimmung
Bevor auf die Auswirkungen des AI Act auf Unternehmen in der EU eingegangen wird, sollen einige für das Verstehen dieses Themas besonders relevante Definitionen aus Art. 3 KI-VO erläutert werden:
Bevor auf die Auswirkungen des AI Act auf Unternehmen in der EU eingegangen wird, sollen einige für das Verstehen dieses Themas besonders relevante Definitionen aus Art. 3 KI-VO erläutert werden:
KI-System
Als KI-Systeme werden gemäß Definition in Art. 3 Abs. 1 KI-VO maschinengestützte Systeme bezeichnet, die
Als KI-Systeme werden gemäß Definition in Art. 3 Abs. 1 KI-VO maschinengestützte Systeme bezeichnet, die
| • | für einen in unterschiedlichem Grad autonomen Betrieb ausgelegt sind und die |
| • | nach Betriebsaufnahme anpassungsfähig sein können und |
| • | aus den erhaltenen Eingaben für explizite oder implizite Ziele ableiten, wie Ausgaben erstellt werden (z. B. Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen), die physische oder virtuelle Umgebungen beeinflussen können. |
Anbieter
Anbieter von KI-Systemen sind natürliche oder juristische Personen, Behörden, Einrichtungen oder sonstige Stellen, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickeln oder entwickeln lassen und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder das KI-System unter eigenem Namen oder eigener Handelsmarke in Betrieb nehmen.
Anbieter von KI-Systemen sind natürliche oder juristische Personen, Behörden, Einrichtungen oder sonstige Stellen, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickeln oder entwickeln lassen und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder das KI-System unter eigenem Namen oder eigener Handelsmarke in Betrieb nehmen.
Betreiber
Als Betreiber von KI-Systemen werden natürliche oder juristische Personen, Behörden, Einrichtungen oder sonstige Stellen bezeichnet, die ein KI-System unter ihrer Aufsicht einsetzen, es sei denn, das KI-System wird im Rahmen einer persönlichen, nicht beruflichen Tätigkeit verwendet.
Als Betreiber von KI-Systemen werden natürliche oder juristische Personen, Behörden, Einrichtungen oder sonstige Stellen bezeichnet, die ein KI-System unter ihrer Aufsicht einsetzen, es sei denn, das KI-System wird im Rahmen einer persönlichen, nicht beruflichen Tätigkeit verwendet.
