Dominanz großer Tech-Monopole verhindern: UN-Bericht drängt auf stärkere Kontrolle von KI-Systemen

Algorithmische Entscheidungssysteme können Menschenrechte verletzen. Tech-Firmen und Regierungen nehmen durch von Künstlicher Intelligenz (KI) gelenkte Systeme potentiell Einfluss auf die Freiheit der Meinungsbildung und der Meinungsäußerung, sowie auf Privatsphäre und den Schutz von Menschen vor Diskriminierung. Zu dem Schluss kommt ein Bericht des UN-Sonderbeauftragten für den Schutz der Meinungsfreiheit, des US-Jurist David Kaye. Der Bericht empfiehlt Staaten und Firmen die stärkere Kontrolle von KI-Systemen.

Kayes wichtigste Empfehlung an die Staaten lautet, die großen Tech-Monopole zu regulieren. Die Konzentration von KI-Expertise und Macht in der Hand weniger dominanter Firmen müsse verhindert werden, schreibt der UN-Experte. Er fordert weiters, durch Regulierung die barrierefreie Nutzung von Diensten und Technologien über Anbietergrenzen hinweg durchzusetzen (Stichwort: Interoperabilität). Die Staaten sollten zudem Netzneutralität und Geräte-Neutralität rechtlich durchsetzen.

UN-Generalsekretär António Guterres legte den Bericht Ende August den Mitgliedstaaten vor. Das Thema ist brandaktuell: Immer mehr Industriestaaten beschließen derzeit KI-Strategien – damit sind meist vor allem Investitionen zur Förderung der Technologie-Entwicklung gemeint. Deutschland will dabei bald nachfolgen. Die Datenethikkommission empfahl der Bundesregierung zuletzt bereits, sie solle sich bei ihren Plänen stärker an Grundwerten orientieren. Denn bisher stehen beim Thema KI meist Wirtschaftsinteressen im Vordergrund. Auch müssten algorithmische Entscheidungsverfahren in der öffentlichen Verwaltung eindeutig und für jeden nachvollziehbar sein, forderten zuletzt die Informationsfreiheits-Beauftragten von Bund und Ländern.

Warnung vor verflochtenen Machtinteressen

Der UN-Bericht warnt angesichts einer immer stärker KI-gestützten Öffentlichkeit, unter anderem bei Suchmaschinen oder Sozialen Medien, vor dem potentiell übermächtigen Einfluss von wenigen auf die Meinungsbildung. „Beispielsweise sind es eine Handvoll Technologiefirmen, die eine überwältigende Mehrzahl der Online-Suchabfragen verbuchen“, schreibt Kaye. Die Monopolverhältnisse bei Suchmaschinen gäben etwa einzelnen Firmen die Macht darüber, Nutzern ihre Suchergebnisse als relevante Information zu einem bestimmten Thema oder sogar als objektive Präsentation der Fakten erscheinen zu lassen. Zugleich seien die Kriterien für die Auswahl absolut intransparent.

Für die Entwicklung von KI-Systemen braucht es große Datenmengen und langfristige Investitionen. Darum dominiere bei der Entwicklung wohl der private Sektor, schreibt Kaye. Das führe jedoch zur Abhängigkeit des Staates von dessen Technologie. Es steige das Risiko, dass Staaten komplexe „Zensur- und Überwachungsaufgaben“ an private Firmen auslagerten. Tatsächlich lässt sich diese Tendenz beispielsweise bei der EU-Kommission beobachten, die mit von wenigen Konzernen kontrollierten, KI-gestützten Filtersystemen unliebsame Inhalte aus dem Netz fegen will, seien es (vermeintliche) Urheberrechtsverletzungen oder terroristische Inhalte. „Dies erhöht die Wahrscheinlichkeit und öffentliche Wahrnehmung, dass Firmen- und Regierungsinteressen immer stärker verflochten sind“, warnt Kaye.

Das Problem mit dem Newsfeed

KI-gesteuerte Systeme zur Auswahl von Inhalten wie Facebooks Newsfeed stellen aus Sicht des UN-Experten ein klares Problem dar. Denn solche Systeme seien „gesteuert von undurchsichtigen Kräften mit Prioritäten, die [dem Ziel] einer Umgebung der Medienvielfalt und unabhängiger Stimmen zuwiderlaufen können“. Nach einer im Bericht zitierten Ansicht des UN-Menschenrechtsausschusses müssten Staaten geeignete Schritte gegen die Konzentration privater Medienmacht in wenigen Händen setzen, wenn diese die Vielfalt an Quellen und Meinungen einschränke.

Bürgerrechtsorganisationen warnten zuletzt in einem neuen Bericht vor blindem Vertrauen in KI-gestützte Systeme beim Umgang mit Desinformation und Hass im Netz. Statt immer neuer Zensur-Infrastruktur solle besser das Geschäftsmodell hinter der Verbreitung von Desinformation durch strengere Regeln für die Plattformen und mehr Datenschutz eingeschränkt werden. Zudem müsse der Missbrauch von persönlichen Daten vor Wahlen eingeschränkt werden.

Der UN-Bericht warnt ausdrücklich vor den Gefahren politischer Werbung im Netz. Politisches Microtargeting in sozialen Medien erzeuge eine selektive Weltsicht, die einem pluralistischen politischen Diskurs feindselig gegenüberstehe. Dagegen seien „kleine Zugeständnisse“ der Plattformen wie die zuletzt eingeführte, beschränkte Transparenz bei politischer Werbung kein ausreichendes Mittel, schreibt Kaye. Die Veröffentlichung von Quellen und Begünstigten politischer und kommerzieller Werbung sei ein entscheidendes Element echter Transparenz.

Kriterien für die KI-Kontrolle

Der Jurist fordert von den Tech-Firmen ein Minimum an algorithmischen Kontrollmöglichkeiten. Die Öffentlichkeit müsse etwa klare Informationen erhalten, nach welchen Kriterien die Betreiber Inhalte auf ihrer Plattform auswählen und für Nutzer personalisieren. Solche Informationen sucht man bei den Quasi-Monopolisten Google (Suchmaschinen) und Facebook (soziale Netzwerke) vergeblich. Zudem sollten die Firmen Daten über gelöschte Inhalte und Einsprüche dagegen veröffentlichen, sowie über die Beteiligung menschlicher Moderatoren.

Ehrlich sein müssten Firmen und der Staat auch bezüglich der Beschränkungen ihrer KI-Systeme, schreibt Kaye. Es brauche Offenheit über mögliche Fehleranfälligkeit und Einschränkungen der Nutzbarkeit. Sample-Fehler müssten angesprochen und diskriminierende Datenspuren aus großen Datensätzen entfernt werden.

Dabei räumt der UN-Bericht einen entscheidenden Vorbehalt ein: „Sogar wenn Individuen über die Existenz, das Ausmaß und den Einsatz von KI-Systemen informiert werden, können diese Systeme sich dem Bemühen und Transparenz und Tauglichkeit entziehen. Bis dato gibt es kein ausgefeiltes und skalierbares Mittel dafür, die technischen Grundlagen von automatisierten Entscheidungen zu überprüfen und transparent zu machen.“ Es handelt sich um eine Debatte, in der selbst noch die Grundlagen geklärt werden müssen.