Das Europäische Parlament hat dem Gesetzesentwurf zugestimmt, der die Grundlage des künftigen Gesetzes über KI-Regulierungsregeln bilden wird. Versuchen wir herauszufinden, was es ist EU-KI-Gesetz.
Zunächst einmal soll das EU-KI-Gesetz das erste Gesetz weltweit werden, das Probleme im Zusammenhang mit KI umfassend regelt. Bisher wurde nur das Projekt genehmigt, nicht das Gesetz selbst. Nun wird es den Parlamenten von 27 EU-Mitgliedstaaten zur Verabschiedung der endgültigen Fassung vorgelegt. Das heißt, die EU versucht, eine Art Regulierungsbehörde für KI zu werden und bestimmte Rahmenbedingungen und Beschränkungen für die Entwicklung und Implementierung von KI-Algorithmen und maschinellem Lernen festzulegen.
Auch interessant: Roboter der Zukunft: Bekommt künstliche Intelligenz einen Körper?
Die Europäische Union will künstliche Intelligenz regulieren
Die Europäische Union will dem Chaos auf dem Markt für den Einsatz von KI-Algorithmen ein Ende setzen und übernimmt die Regulierung neuer Spielarten der künstlichen Intelligenz. Das Europäische Parlament hat die Arbeit am vorgeschlagenen Gesetz über künstliche Intelligenz beschleunigt, das Regeln für die Umsetzung neuer KI-Programme einführen und sogar deren Einsatz in bestimmten Lebensbereichen verbieten soll.
Über die Ausgestaltung einer solchen Regulierung wird derzeit angesichts der aktuellen Entwicklung der KI diskutiert. Im Wesentlichen wollen die Abgeordneten den Unterschied zwischen allgemeiner künstlicher Intelligenz und grundlegenden Modellen in das Gesetz aufnehmen, und es wird erwartet, dass die Gesetze strenger auf letztere Anwendung finden. Diese Änderung der zuvor vorgeschlagenen Bestimmungen ist auf die rasante Entwicklung der KI in den letzten Monaten zurückzuführen. Beide Formen der künstlichen Intelligenz unterscheiden sich im Umfang der Trainingsdaten, der Anpassungsfähigkeit und der Einsatzwahrscheinlichkeit für unvorhergesehene Zwecke.
Alle diese Parameter sind gerade in grundlegenden Modellen höher, insbesondere in der generativen KI, die die Grundlage von Modellen wie GPT-3 und GPT-4 ist. Sie verarbeiten eine riesige Datenmenge, die im Laufe der Arbeit ständig wächst. Dadurch können sie schnell neue Daten erlernen, die auf eine völlig andere Art und Weise genutzt werden können, als es die Ersteller beabsichtigt haben.
Basierend auf den neuen Richtlinien wird eine dreistufige Klassifizierung von Gruppen entwickelt, die auf den potenziellen Bedrohungen basiert, zu denen KI führen kann. Das höchste Risiko bedeutet, den Einsatz maschineller Lerntechnologien in sensiblen Bereichen einzuschränken und in einigen Fällen sogar ganz zu verbieten.
Nach der Einführung des Künstliche-Intelligence-Gesetzes muss der Entwickler der Technologie eine Reihe von Bedingungen erfüllen, bevor er sie auf den Markt bringt, wie z. B. die Prüfung auf Bedrohungen für Demokratie oder Sicherheit unter der Aufsicht unabhängiger Experten, die Einhaltung von Transparenzanforderungen, oder Offenlegung der Rechenleistung des Modells. Gleichzeitig können grundlegende Modelle nicht zur Erstellung von Social-Scoring-Systemen (wie in China) oder zur biometrischen Identifizierung verwendet werden.
Auch interessant: Was sind 6G-Netze und warum werden sie benötigt?
Was ist das EU-Gesetz zur künstlichen Intelligenz?
Das EU-KI-Gesetz ist der von der Europäischen Union vorgeschlagene Gesetzentwurf zur künstlichen Intelligenz und das erste KI-Gesetz, das von einer großen Regulierungsbehörde verabschiedet wurde. Das Gesetz regelt den Einsatz von KI nach drei Risikokategorien. Erstens werden Programme und Systeme verboten, die inakzeptable soziale Risiken mit sich bringen, wie etwa die in China angewandte staatliche Sozialbewertung. Zweitens gibt es Programme mit hohem Risiko, wie z. B. Tools zum Scannen von Lebensläufen, die Bewerber bewerten und bestimmte gesetzliche Anforderungen erfüllen müssen. Schließlich Programme, die nicht ausdrücklich verboten oder als risikoreich eingestuft sind und die weitgehend unreguliert sind.
Die Europäische Union arbeitet am KI-Gesetz, also an Gesetzen und Vorschriften für den Einsatz künstlicher Intelligenz, die darauf abzielen, den Schaden, den sie für den Menschen verursachen kann, zu begrenzen.
Es handelt sich um einen Ansatz, der auf gemeinsamen ethischen Werten basiert, die für die Union wichtig sind, und der sie im Gegensatz zum chinesischen Ansatz – basierend auf totaler staatlicher Kontrolle und geringer Bedeutung für die Rechte des Einzelnen – und im Gegensatz zum amerikanischen Modell, das die Rechte ignoriert, stellt der am stärksten gefährdeten Bürger.
Ziel der Europäischen Kommission ist es, ein europäisches Regulierungsumfeld für die Prinzipien der künstlichen Intelligenz zu schaffen. Der Zweck des Gesetzes über künstliche Intelligenz besteht darin, den Technologiemarkt nicht nach der Art der Dienstleistung oder des Produkts zu regulieren, sondern nach dem Grad des Risikos, das KI verursachen kann.
Auch interessant: Tagebuch eines mürrischen alten Aussenseiters: Bing gegen Google
Warum brauchen wir Regeln für KI?
Die vorgeschlagene KI-Verordnung stellt sicher, dass die Europäer darauf vertrauen können, was KI zu bieten hat. Während die meisten Systeme der künstlichen Intelligenz kaum oder gar kein Risiko darstellen und zur Lösung vieler gesellschaftlicher Probleme beitragen können, stellen bestimmte Systeme der künstlichen Intelligenz Bedrohungen dar, die wir berücksichtigen müssen, um unerwünschte Ergebnisse zu vermeiden.
Beispielsweise lässt sich oft nicht herausfinden, warum das System der künstlichen Intelligenz eine bestimmte Entscheidung getroffen, eine Vorhersage gemacht oder eine entsprechende Maßnahme ergriffen hat. Daher kann es schwierig werden zu beurteilen, ob eine Person beispielsweise bei einer Einstellungsentscheidung oder einer Bewerbung für ein Sozialhilfeprogramm ungerechtfertigt benachteiligt wurde.
Die aktuelle Gesetzgebung bietet zwar einen gewissen Schutz, reicht jedoch nicht aus, um die spezifischen Probleme anzugehen, die KI-Systeme verursachen können.
Folgende Regeln wurden vorgeschlagen:
- Eliminieren Sie Risiken, die speziell durch KI-Programme entstehen
- Schlagen Sie eine Liste mit Hochrisikoprogrammen vor
- Legen Sie klare Anforderungen an KI-Systeme für Hochrisikoanwendungen fest
- Definieren Sie konkrete Pflichten für KI-Nutzer und Hochrisiko-Softwareanbieter
- Bieten Sie eine Konformitätsbewertung an, bevor ein KI-System in Betrieb genommen oder auf den Markt gebracht wird
- Anwendungsbereiche vorschlagen, nachdem ein solches KI-System auf den Markt gebracht wurde;
- eine Governance-Struktur auf europäischer und nationaler Ebene vorschlagen.
Auch interessant: Die besten Tools basierend auf künstlicher Intelligenz
Vier Risikostufen in der KI
Die Juristen der Europäischen Union haben einen Rechtsrahmen definiert, der vier Risikostufen in der KI definiert:
- Inakzeptables Risiko
- Hohes Risiko
- Begrenztes Risiko
- Minimales oder kein Risiko
Lassen Sie uns jeden einzelnen davon genauer analysieren.
Inakzeptables Risiko
Wie der Name schon sagt, ist dieses Risiko bei der Entwicklung und Nutzung von KI-Algorithmen nicht akzeptabel. Das bedeutet, dass alle künstlichen Intelligenzsysteme, die eine eindeutige Bedrohung für die Sicherheit, den Lebensunterhalt und die Rechte der Menschen darstellen, verboten werden – von sozialen Einschätzungen durch Regierungen bis hin zu sprachgesteuerten Spielzeugen, die gefährliches Verhalten fördern.
Hohes Risiko
KI-Systeme, die in folgenden Bereichen eingesetzt werden, wurden als Hochrisiko eingestuft:
- kritische Infrastruktur (z. B. Verkehr), die das Leben und die Gesundheit der Bürger gefährden kann
- Bildungs- oder Berufsausbildung, die den Zugang zu Bildung und den beruflichen Werdegang einer Person bestimmen kann (z. B. die Berechnung von Prüfungsergebnissen)
- Komponenten der Produktsicherheit oder der Einsatz künstlicher Intelligenz, beispielsweise in der Chirurgie
- Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit (z. B. CV-Screening-Software für Einstellungsverfahren)
- grundlegende private und öffentliche Dienstleistungen (z. B. Bonitätsprüfung, die den Bürgern die Möglichkeit nimmt, einen Kredit zu erhalten)
- Strafverfolgungsmaßnahmen, die die Grundrechte von Personen im Justizbereich einschränken können (z. B. Beurteilung der Glaubwürdigkeit von Beweisen)
- Migrationsmanagement, Asyl und Grenzkontrolle (z. B. Überprüfung der Echtheit von Reisedokumenten)
- die Rechtspflege und demokratische Prozesse (z. B. die Anwendung von Gesetzen auf einen bestimmten Sachverhalt).
Es wurde festgestellt, dass KI-Systeme mit hohem Risiko strenge Anforderungen erfüllen müssen, bevor sie auf den Markt gebracht werden können:
- angemessene Systeme zur Risikobewertung und -minderung
- Hochwertige Datensätze, die in das System eingespeist werden, um Risiken und diskriminierende Ergebnisse zu minimieren
- Aktivitätsprotokollierung, um die Nachverfolgung der Ergebnisse sicherzustellen
- Eine ausführliche Dokumentation mit allen notwendigen Informationen über das System und seinen Zweck, damit die Behörden die Einhaltung der Anforderungen beurteilen können
- klare und angemessene Informationen für den Benutzer
- geeignete menschliche Überwachungsmaßnahmen zur Minimierung von Risiken
- hohes Maß an Zuverlässigkeit, Sicherheit und Genauigkeit.
Nun zu einem der wichtigsten Aspekte, der fast jedem Angst machte. Alle biometrischen Fernidentifizierungssysteme gelten als risikoreich und unterliegen strengen Anforderungen. Der Einsatz der biometrischen Fernidentifizierung an öffentlichen Orten zu Strafverfolgungszwecken ist grundsätzlich verboten.
Streng definierte und geregelte Ausnahmen sind beispielsweise dann vorgesehen, wenn die Suche nach einem vermissten Kind, die Abwehr konkreter und unmittelbarer terroristischer Bedrohungen oder die Aufspürung, Lokalisierung, Identifizierung oder Verfolgung eines Straftäters oder Verdächtigen einer schweren Straftat erforderlich ist.
Eine solche Nutzung erfordert die Genehmigung einer richterlichen oder anderen unabhängigen Behörde und unterliegt angemessenen Einschränkungen hinsichtlich der Zeit, der geografischen Abdeckung und der durchsuchten Datenbanken.
Begrenztes Risiko
Begrenztes Risiko bezieht sich auf KI-Systeme mit bestimmten Transparenzpflichten. Beim Einsatz künstlicher Intelligenzsysteme wie Chatbots müssen Benutzer wissen, dass sie mit einer Maschine interagieren, damit sie eine fundierte Entscheidung treffen können, ob sie fortfahren oder einen Rückzieher machen möchten.
Das bedeutet, dass niemand ChatGPT verbieten wird, aber die Entwickler müssen die Details ihrer Arbeit und Zukunftspläne offenlegen. Benutzer sollten sich der Risiken bewusst sein, die sie erwarten, wenn sie sich auf die Zuverlässigkeit der von Chatbots erhaltenen Informationen verlassen.
Minimales oder kein Risiko
Die Europäische Kommission erlaubt die kostenlose Nutzung von KI mit minimalem Risiko. Dazu gehören Anwendungen wie Videospiele mit künstlicher Intelligenz oder Spamfilter. Die überwiegende Mehrheit der derzeit in der EU verwendeten KI-Systeme fällt in diese Kategorie.
Wenn ein KI-System auf den Markt kommt, sind die Behörden für die Marktüberwachung verantwortlich, die Benutzer übernehmen die menschliche Aufsicht und Überwachung und die Lieferanten verfügen über ein Post-Marketing-Überwachungssystem. Auch Lieferanten und Anwender werden schwerwiegende Vorfälle und Störungen melden.
Lesen Sie auch: 7 coolste Anwendungen von ChatGPT
Warum sollte es dich interessieren?
Künstliche Intelligenzprogramme beeinflussen, welche Informationen Sie online sehen, sagen voraus, an welchen Inhalten Sie interessiert sind, sammeln und analysieren Daten, um Gesetze durchzusetzen oder Werbung zu personalisieren, und werden zur Diagnose und Behandlung von Krankheiten wie Krebs eingesetzt. Mit anderen Worten: KI beeinflusst viele Bereiche Ihres Lebens.
Ähnlich wie die EU-Datenschutz-Grundverordnung (DSGVO) von 2018 könnte das EU-KI-Gesetz zum globalen Standard werden, der bestimmt, ob KI einen positiven oder einen negativen Einfluss auf Ihr Leben haben wird, wo auch immer Sie sich befinden. Die Regulierung künstlicher Intelligenz in der EU sorgt bereits für eine gewisse internationale Resonanz. Ende September 2021 verabschiedete der brasilianische Kongress zudem einen Gesetzentwurf, der einen rechtlichen Rahmen für den Einsatz künstlicher Intelligenz schafft. Es muss noch vom Senat des Landes genehmigt werden.
Zukunftsorientierte Gesetzgebung
Da es sich bei der künstlichen Intelligenz um eine sich schnell entwickelnde Technologie handelt, verfolgt der Vorschlag einen zukunftsorientierten Ansatz, der eine Anpassung der Regeln an technologische Veränderungen ermöglicht. KI-Anwendungen müssen auch nach ihrer Markteinführung zuverlässig bleiben. Dies erfordert von den Lieferanten ein kontinuierliches Qualitäts- und Risikomanagement.
Ein solches Gesetz soll Hersteller und Anbieter von KI-Algorithmen dazu zwingen, mehr Verantwortung für ihre Entwicklungen zu übernehmen. Sozialer sein und nicht nur an Umsatzwachstum und unkontrollierte Experimente denken.
Das EU-KI-Gesetz ist die erste Regulierung künstlicher Intelligenz
Das EU-Gesetz zur künstlichen Intelligenz soll das erste Gesetz weltweit werden, das Fragen der künstlichen Intelligenz umfassend regelt.
Dies ist eine revolutionäre Lösung zur Regulierung künstlicher Intelligenz basierend auf ihrem Schadenspotenzial. Die Verwendung beispielsweise für Social-Scoring-Systeme, die biometrische Identifizierung in Echtzeit oder unbewusste Manipulationen ist untersagt. Außerdem wurde eine Gruppe von Programmen mit hohem Risiko identifiziert, beispielsweise in der medizinischen Diagnostik oder im Justizwesen. In der Gruppe der Systeme mit begrenztem Risiko sollten lediglich Transparenzpflichten festgelegt werden.
Der Gesetzentwurf weist mehrere Lücken und Ausnahmen auf. Diese Mängel schränken die Fähigkeit des Gesetzes ein, sicherzustellen, dass KI weiterhin eine positive Kraft in Ihrem Leben bleibt. Derzeit ist beispielsweise die Gesichtserkennung durch die Polizei verboten, es sei denn, das Bild wird mit Verzögerung aufgenommen oder die Technologie wird zum Auffinden vermisster Kinder eingesetzt.
Darüber hinaus ist das Gesetz unflexibel. Wenn nach zwei Jahren eine gefährliche KI-Anwendung in einem unvorhergesehenen Bereich eingesetzt wird, sieht das Gesetz keinen Mechanismus vor, um sie als „hohes Risiko“ zu kennzeichnen.
KI-Aktion ist in erster Linie Transparenz, die Fähigkeit, Ereignisse zu erklären und für sie verantwortlich zu sein, also die Fähigkeit zu bestimmen, wer oder was für dieses oder jenes Ereignis verantwortlich ist. Das KI-Gesetz soll auch die Rechtsgrundlage für die Schaffung einer neuen KI-Behörde werden, die die Mitgliedstaaten in technischen Fragen unterstützen soll.
Lesen Sie auch: Von CUDA zu KI: Erfolgsgeheimnisse NVIDIA
Technologiegiganten werden für Verstöße gegen die EU-Gesetzgebung zu künstlicher Intelligenz teuer bezahlen müssen
Der Richtlinienvorschlag würde nur für Schadensersatzansprüche gelten, die sich aus dem Einsatz von KI ergeben oder wenn das KI-System aufgrund des Verschuldens einer Person, etwa eines Anbieters oder Nutzers, kein Ergebnis liefern konnte. Die Richtlinie gilt jedoch nicht für zivilrechtliche Haftungsansprüche, wenn der Schaden durch eine menschliche Beurteilung und nachfolgende Handlungen oder Unterlassungen verursacht wurde, während das KI-System nur Informationen oder Ratschläge lieferte, die vom betreffenden Akteur berücksichtigt wurden. Im letzteren Fall können Schäden, die durch menschliche Handlungen oder Unterlassungen entstehen, verfolgt werden, da die Ausgabe des KI-Systems nicht zwischen menschlichen Handlungen oder Unterlassungen und dem Schaden liegt.
Ein Verstoß gegen das Verbot führt zu finanziellen Sanktionen für Anbieter bestimmter Technologien. Sie können 30 Millionen Euro oder 6 Prozent des weltweiten Jahresumsatzes des Unternehmens erreichen.
Natürlich wird die Verabschiedung solcher Entscheidungen von den Entscheidungen der Mitgliedstaaten der Europäischen Union abhängen, aber wir können bereits jetzt sagen, dass dies ein wahrhaft historischer Schritt ist. Die Technologie der Künstlichen Intelligenz birgt ein enormes Potenzial, das positiv für die Entwicklung der Wirtschaft genutzt werden kann. Gleichzeitig gibt es viele Risiken. Daher versucht die Gesetzgebung, sie einzuschränken, aber nicht zu verbieten.
Neben der Verabschiedung neuer Gesetze zu künstlicher Intelligenz beabsichtigt die EU auch, mit den USA an einem freiwilligen Verhaltenskodex für diese Technologie zu arbeiten, der voraussichtlich bald fertig sein wird und anderen Ländern angeboten werden könnte, die ähnlichen Grundsätzen folgen.
Das Künstliche-Intelligenz-Gesetz sollte auch die Grundlage für die Schaffung des Amtes für Künstliche Intelligenz bilden. Es soll die Mitgliedstaaten und ihre Behörden bei der Umsetzung der neuen Verordnung durch technische Expertise unterstützen sowie die Koordinierung von Lösungen bei Problemen erleichtern, die mehr als ein Land betreffen.
Lesen Sie auch: