Am 21. April 2021 schlug die Europäische Union (EU) eine neue Gesetzgebung zur künstlichen Intelligenz (KI) vor, den sogenannten EU Artificial Intelligence (AI) Act bzw. die europäische KI-Verordnung. Dieser Gesetzesvorschlag ist der erste seiner Art in der EU und soll die Nutzung von künstlicher Intelligenz innerhalb der EU regeln. Es ist ein umfassendes Regelwerk, welches gewährleisten soll, dass KI-Systeme in der EU sicher, transparent und ethisch vertretbar sind. Da das Thema KI rund um den Chatbot ChatGPT aktuell stark diskutiert wird, möchten wir in diesem Artikel die wichtigsten Aspekte des EU KI-Gesetzesvorschlags übersichtlich darstellen und erklären.
Kernelemente des EU-KI-Gesetzes
Obwohl das Thema Künstliche Intelligenz bereits politisch seit 2018 auf der öffentlichen Agenda europäischer Institutionen steht und 2021der erste Gesetzesentwurf der EU-Kommission dem Parlament vorgelegt wurde, ist erst in diesem oder im nächsten Jahr mit einer Einigung der europäischen Organe zu rechnen. Ab wann die Verordnung dann entsprechend in allen Mitgliedsstaaten umgesetzt wird, ist bislang noch unklar. Somit sind Abweichungen des endgültigen Gesetzes von den folgenden Kernpunkten möglich. [1, 2]
- Verbot bestimmter KI-Systeme: Der EU-KI-Gesetzesvorschlag verbietet bestimmte KI-Systeme, die als schädlich für Einzelne oder die Gesellschaft angesehen werden. Dazu gehören Systeme, die das menschliche Verhalten manipulieren, Social Scoring und KI-Systeme, die zur Massenüberwachung genutzt werden.
- Hochriskante KI-Systeme: Im EU AI Act werden bestimmte KI-Systeme als hochriskant eingestuft. Dazu gehören KI-Systeme, die in kritischen Infrastrukturen wie dem Verkehrs- und dem Gesundheitswesen oder in öffentlichen Diensten, wie der Strafverfolgung oder Grenzkontrolle, eingesetzt werden.
- Transparenz: Der Gesetzesvorschlag verlangt, dass die Systeme und Algorithmen transparent und erklärbar sein müssen. Das bedeutet, dass Einzelpersonen informiert werden sollen, wenn sie mit KI-Systemen interagieren und Betroffene müssen Informationen darüber erhalten, wie das KI-System funktioniert sowie welche Daten es verwendet.
- Datenschutz: Die KI-Verordnung verlangt, dass KI-Systeme die Privatsphäre Einzelner respektieren. Das bedeutet, dass diese Systeme so konzipiert sein müssen, dass personenbezogene Daten geschützt werden und betroffene Personen die Kontrolle über ihre eigenen Daten erhalten müssen.
- Menschliche Aufsicht: Der Gesetzesentwurf schreibt zudem vor, dass KI-Systeme mit hohem Risiko von Menschen beaufsichtigt werden müssen, d.h. es soll jeweils eine konkrete Person geben, die für die Entscheidungen der KI verantwortlich ist.
- Prüfung & Zertifizierung: Der EU AI Act schreibt vor, dass KI-Systeme mit hohem Risiko getestet und zertfiziert werden müssen, bevor sie in Betrieb genommen werden können. Damit soll sichergestellt werden, dass diese Systeme sicher und zuverlässig sind und die erwartete Leistung bringen.
Auswirkungen auf die europäische Gesellschaft & Unternehmen
Wie zu erwarten, werden sowohl wichtige Vor- und Nachteile des EU-KI-Gesetzes für die Gesellschaft und Unternehmen öffentlich kontrovers diskutiert. Wir beschränken uns hier auf die, unserer Meinung nach, wichtigsten Auswirkungen in dem genannten Kontext. [3, 4]
- Größeres Vertrauen in KI: Die Anforderungen der europäischen KI-Verordnung an Transparenz, Erklärbarkeit und menschliche Aufsicht sollen das Vertrauen in KI stärken. Indem sichergestellt wird, dass KI-Systeme sicher, zuverlässig und ethisch vertretbar sind, könnte die Bereitschaft der Bevölkerung steigen mit KI-Systemen zu interagieren, was zu einer verstärkten Akzeptanz von KI-Technologien führen könnte.
- Schutz der Grundrechte: Der Gesetzesentwurf soll Grundrechte wie den Schutz der Privatsphäre stärken und Diskriminierung entgegenwirken. Somit können einige potentiell negative Effekte von KI auf die Gesellschaft, zumindest in der Theorie, verhindert werden.
- Förderung von Innovation: Die Anforderungen des EU-KI-Gesetzesvorschlag bzgl. Prüfung und Zertifizierung von Systemen mit erhöhtem Risiko könnten technologische Innovation fördern, indem sie einheitliche Wettbewerbsbedingungen für Unternehmen schaffen, die KI entwickeln und einsetzen. Zudem kann durch die Abmilderung des Risikos durch entsprechende Prüfungen die Bereitschaft steigen, in moderne KI-Technologien zu investieren.
- Kosten & Aufwand: Entgegen der bisher weitgehend positiven Auswirkungen könnte der Gesetzesvorschlag, durchaus zu höheren Kosten und mehr Bürokratie für Unternehmen und Verbraucher:innen führen. Insbesondere Systeme mit hohem Risiko können erhebliche Kosten für alle Beteiligten, inklusive den Staat durch die Überprüfung der Einhaltung der neuen Regelungen, verursachen.
- Haftung: Das neue Gesetz schafft eine klare Grundlage bzgl. der Haftung für Unternehmen, die KI einsetzen. Wenn ein KI-System einen Schaden verursacht, kann das für das System verantwortliche Unternehmen oder verantwortende Personen haftbar gemacht werden.
- Ungleiche Auswirkungen: Da der Gesetzesentwurf sich grundsätzlich auf KI bezieht, sind ungleichmäßige Auswirkungen auf verschiedene Branchen und Sektoren möglich, d.h. einige Branchen könnten von dem Gesetz stärker betroffen sein als andere.
Fazit
DER Europäische Gesetzesvorschlag zu Künstlicher Intelligenz hat wie so oft sowohl Vor- als auch Nachteile. Indem das Gesetz sicherstellt, dass KI-System sicher, transparent und ethisch vertretbar sind, könnte es dazu beitragen, das Vertrauen in KI zu stärken und negative Auswirkungen von KI auf die Gesellschaft zu verhindern. Hierbei ist eine breite gesellschaftliche Diskussion notwendig, was im Kontext von solchen hochkomplexen Computersystemen überhaupt „Ethik“ bedeutet und wie solche Systeme konkret überprüft und bewertet werden können und müssen. Sofern es umgesetzt wird, könnte das Gesetz jedoch sicherlich auch den bürokratischen Aufwand und die Kosten für alle Akteur:innen, insbesondere Unternehmen, erhöhen, wobei manche Branchen stärker betroffen sein könnten als andere. Deshalb warnen Wirtschaftsverbände und politische Organisationen vor einer Überregulierung. Dabei wird als Kritik angeführt, dass ein allgemeines Gesetz zu KI angesichts der Vielfältigkeit der Algorithmen und Anwendungsmöglichkeiten grundsätzlich nicht sinnvoll, sondern sektorspezifische Regelungen vorzuziehen seien. Datenschützer:innen hingegen kritisieren Schlupflöcher bzgl. Grundrechte und Datenschutz. Somit wird es wichtig sein, die Umsetzung des Gesetzes und seine Auswirkungen auf die Gesellschaft im Laufe der Zeit zu beobachten und ggf. nachträglich Anpassungen vorzunehmen. [3, 4, 5]
Quellen
- Europäische Kommission (2023): Ein europäischer Ansatz für künstliche Intelligenz. Online unter https://digital-strategy.ec.europa.eu/de/policies/european-approach-artificial-intelligence
- Bertuzzi, Luca (2023): KI-Gesetz – EU-Parlament schlägt Änderungen vor. Online unter https://www.euractiv.de/section/innovation/news/ki-gesetz-eu-parlament-schlaegt-aenderungen-vor/
- Kulbatzki, Josefine (2022): Wie die EU und die USA Algorithmen regulieren wollen. Online unter: https://netzpolitik.org/2022/ai-act-vs-algorithmic-accountability-act-wie-die-eu-und-die-usa-algorithmen-regulieren-wollen/
- Kerkmann, Christof (2022): Künstliche Intelligenz – Wirtschaft warnt vor „massiven Einschränkungen“ durch AI Act. Online unter https://www.handelsblatt.com/technik/it-internet/eu-regulierung-kuenstliche-intelligenz-wirtschaft-warnt-vor-massiven-einschraenkungen-durch-ai-act/28850684.html
- Wedig, Marco (2022): KI-Verordnung der EU. Es gibt Schlupflöcher in diesem Gesetzesentwurf. Online unter: https://www.spiegel.de/deinspiegel/ki-verordnung-der-eu-es-gibt-schlupfloecher-in-diesem-gesetzentwurf-a-303ddb95-5a0b-4694-9a5f-204e01bbde25
Pascal gründete gemeinsam mit Jan im Herbst 2020 ViOffice. Dabei kümmert er sich vor allem um das Marketing, die Finanzen und Sales. Nach seinen Abschlüssen in der Politikwissenschaft, der Volkswirtschaftslehre und der angewandten Statistik ist er weiterhin in der wissenschaftlichen Forschung tätig. Mit ViOffice möchte er für alle den Zugang zu sicherer Software aus Europa ermöglichen und insbesondere gemeinnützige Vereine bei der Digitalisierung unterstützen.