Im englischen Original von Chloé Berthélémy (EDRi intern), Übersetzung von Lutz Martiny
Im Oktober 2018 veröffentlichte der Sonderberichterstatter der Vereinten Nationen (UN) für die Förderung und den Schutz des Rechts auf Meinungs- und Meinungsfreiheit, David Kaye, seinen Bericht über die Auswirkungen von Technologien der künstlichen Intelligenz (KI) auf die Menschenrechte. Der Bericht wurde der UN-Generalversammlung am 29. August 2018 vorgelegt, wurde aber erst kürzlich veröffentlicht. Der Text konzentriert sich insbesondere auf Meinungs- und Meinungsfreiheit, Datenschutz und Nichtdiskriminierung. In dem Bericht erläutert der UN-Sonderberichterstatter David Kaye zunächst, was er unter künstlicher Intelligenz versteht und was die Nutzung von KI für die aktuelle digitale Umgebung bedeutet, indem er mehrere Mythen aufdeckt. Anschließend gibt er einen Überblick über alle potenziellen Menschenrechte, die von relevanten technologischen Entwicklungen betroffen sind, bevor er einen Rahmen für einen menschenrechtsbasierten Ansatz für diese neuen Technologien festlegt.
1. Künstliche Intelligenz ist keine neutrale Technologie.
David Kaye definiert künstliche Intelligenz als eine „Konstellation von Prozessen und Technologien, die es Computern ermöglichen, bestimmte Aufgaben, die sonst vom Menschen ausgeführt werden, zu ergänzen oder zu ersetzen“, durch „Computercode [….] mit Anweisungen zur Übersetzung von Daten in Schlussfolgerungen, Informationen oder Ergebnisse“. Er stellt fest, dass die KI nach wie vor stark von menschlichen Eingriffen abhängig ist, da der Mensch die Systeme entwerfen, ihre Ziele definieren und die Datensätze organisieren muss, damit die Algorithmen ordnungsgemäß funktionieren. Der Bericht weist darauf hin, dass die KI daher keine neutrale Technologie ist, da die Nutzung ihrer Ergebnisse in den Händen des Menschen bleibt.
Die derzeitigen Formen von KI-Systemen sind keineswegs einwandfrei, da sie eine menschliche Überprüfung und manchmal sogar Korrektur erfordern. Der Bericht geht davon aus, dass der automatisierte Charakter der KI-Systeme, die Qualität der Datenanalyse sowie die Anpassungsfähigkeit der Systeme Quellen der Verzerrung sind. Automatisierte Entscheidungen können diskriminierende Auswirkungen haben, da sie sich ausschließlich auf bestimmte Kriterien stützen, ohne sie unbedingt auszugleichen, und sie untergraben die Kontrolle und Transparenz über die Ergebnisse. KI-Systeme sind auch auf riesige Datenmengen angewiesen, die fragwürdige Herkunft und Genauigkeit haben. Darüber hinaus kann die KI Zusammenhänge identifizieren, die mit Ursachen verwechselt werden können. David Kaye weist auf das Hauptproblem der Anpassungsfähigkeit bei Verlust der menschlichen Aufsicht hin: Sie stellt die Gewährleistung von Transparenz und Rechenschaftspflicht vor Herausforderungen.
2. Der derzeitige Einsatz künstlicher Intelligenz beeinträchtigt die Menschenrechte.
David Kaye beschreibt drei Hauptanwendungen der KI-Technologie, die eine wichtige Bedrohung für mehrere Menschenrechte darstellen.
Das erste aufgeworfene Problem ist die Auswirkung der KI auf die Ausdrucks- und Meinungsfreiheit. Auf der einen Seite prägt „künstliche Intelligenz die Welt der Informationen in einer für den Benutzer undurchsichtigen Weise“ und verbirgt ihre Rolle bei der Bestimmung dessen, was der Benutzer sieht und konsumiert. Andererseits hat sich gezeigt, dass die Personalisierung der Informationsdarstellung Vorurteile verstärkt und „die Förderung und Empfehlung von provozierenden Inhalten oder Desinformationen anregt, um das Online-Engagement der Nutzer zu unterstützen“. Diese Praktiken wirken sich auf die Selbstbestimmung und Autonomie des Einzelnen aus, um auf der Grundlage sachlicher und vielfältiger Informationen persönliche Meinungen zu bilden und zu entwickeln, was die Meinungs- und Meinungsfreiheit bedroht.
Zweitens können ähnliche Bedenken in Bezug auf unser Recht auf Privatsphäre geäußert werden, insbesondere in Bezug auf KI-gestütztes Micro-Targeting für Werbezwecke. Wie David Kaye feststellt, fördern Profilerstellung und Zielgruppenansprache die Massenerfassung personenbezogener Daten und führen dazu, dass „sensible Informationen über Personen, die sie nicht angegeben oder bestätigt haben“ verbreitet werden. Die wenigen Möglichkeiten zur Kontrolle der von KI-Systemen erfassten und generierten personenbezogenen Daten stellen die Achtung der Privatsphäre in Frage.
Drittens hebt der Sonderberichterstatter die KI als eine wichtige Bedrohung für unser Recht auf freie Meinungsäußerung und Nichtdiskriminierung hervor, da die KI eine zunehmende Rolle bei der Moderation und Filterung von Inhalten im Internet spielt. Trotz der Behauptungen einiger Unternehmen, dass künstliche Intelligenz menschliche Fähigkeiten unterstützen kann, sieht der Bericht die automatische Modertion und Filterung von Daten als Hindernis für die Ausübung der Menschenrechte an. Tatsächlich ist die künstliche Intelligenz nicht in der Lage, diskriminierenden Annahmen zu widerstehen oder Sarkasmus und den kulturellen Kontext für jeden veröffentlichten Inhalt zu erfassen. Infolgedessen können die Meinungsfreiheit und unser Recht, nicht diskriminiert zu werden, erheblich beeinträchtigt werden, wenn komplexe Zensurmaßnahmen an KI und private Akteure delegiert werden.
3. Eine Reihe von Empfehlungen für Unternehmen und Staaten
Unter Hinweis darauf, dass „Ethik“ für Unternehmen und Behörden kein Deckmantel dafür ist, verbindliche und durchsetzbare menschenrechtsbasierte Vorschriften zu vernachlässigen, empfiehlt der UN-Sonderberichterstatter, dass „alle Bemühungen zur Entwicklung einer staatlichen Politik oder Regelung im Bereich der künstlichen Intelligenz die Berücksichtigung von Menschenrechtsbelangen gewährleisten sollten“.
David Kaye schlägt vor, dass die Menschenrechte die Entwicklung von Geschäftspraktiken, die Gestaltung und den Einsatz von KI leiten sollten, und fordert mehr Transparenz, Offenlegungspflichten und solide Datenschutzgesetze – einschließlich wirksamer Mittel zur Abhilfe. Online-Dienstleister sollten klar machen, welche Entscheidungen mit menschlicher Kontrolle getroffen werden und welche allein durch Systeme der künstlichen Intelligenz. Diese Informationen sollten von Erläuterungen zur Entscheidungslogik der Algorithmen begleitet werden. Darüber hinaus sollte die „Existenz, der Zweck, die Konstitution und die Auswirkungen“ von KI-Systemen offengelegt werden, um das Niveau der Ausbildung einzelner Nutzer zu diesem Thema zu verbessern. Der Bericht empfiehlt auch, Daten über die „Häufigkeit, mit der KI-Systeme Beschwerden und Abhilfemaßnahmen unterliegen, sowie über die Art und Wirksamkeit der verfügbaren Abhilfemaßnahmen“ zur Verfügung zu stellen und zu veröffentlichen.
Die Staaten werden als Hauptakteure identifiziert, die für die Schaffung eines rechtlichen Rahmens verantwortlich sind, der eine pluralistische Informationslandschaft unterstützt, Technologiemonopole verhindert und die Netz- und Geräteneutralität fördert.
Schließlich bietet der Sonderberichterstatter nützliche Instrumente zur Überwachung der KI-Entwicklung:
- Menschenrechtsfolgenabschätzungen, die vor, während und nach der Nutzung von KI-Systemen durchgeführt werden;
- externe Audits und Konsultationen mit Menschenrechtsorganisationen;
- die individuelle Auswahl durch Benachrichtigung und Einwilligung ermöglicht;
- wirksame Abhilfeverfahren zur Beendigung von Menschenrechtsverletzungen.
0 Kommentare zu “UN-Sonderberichterstatter analysiert die Auswirkungen der KI auf die Menschenrechte”