Klare Grenzen für Digitalwirtschaft: Sachverständige fordern Algorithmengesetz & Co.

Der Titel ließ nichts Gutes erahnen: „Verbraucherrecht 2.0“ war die Veranstaltung Anfang des Monats im Bundesministerium für Justiz und Verbraucherschutz überschrieben. Der Ende 2014 von Minister Heiko Maas ins Leben gerufene Sachverständigenrat für Verbraucherfragen (SVRV) hatte geladen, um sein gleich betiteltes Gutachten mit Vorschlägen für ein Update des Verbraucherrechts vorzustellen. Würde nun die nächste Runde Buzzword-Bingo folgen, nachdem bereits der erste Aufschlag der Expertenrunde zum Thema Verbraucherschutz in der digitalen Welt Anfang des Jahres von vielen – freundlich ausgedrückt – als unglücklich empfunden wurde?

Im Gegenteil: Was der Sachverständigenrat vorgelegt hat, ist eine fundierte Analyse des gegenwärtigen Staatsversagens bei der Aufgabe, Menschen vor den Auswüchsen des Informationskapitalismus zu schützen – und eine ganze Reihe konkreter Vorschläge, wie eine wirksame Regulierung aussehen sollte.

Eindringliche Warnung vor dem „weiter so“

Die Defizite der derzeitigen Regeln und ihrer Durchsetzung sind täglich spürbar: Anbieter lassen ihre Nutzer darüber im Unklaren, wie sie die fortwährend erfassten Protokolle ihres Lebens verwerten. Hersteller verkaufen Geräte nur noch mit vorinstallierter Software und die wenigsten Kunden durchblicken noch, mit wem sie welche Verträge eingehen. Klare Rechtsverstöße im Bereich des Daten- und Verbraucherschutzes können nicht wirksam geahndet werden, weil entsprechend ausgestattete Behörden fehlen. Von unkontrollierter algorithmischer Manipulation und Diskriminierung ganz zu schweigen.

In seinem eindringlichen Plädoyer für eine notwendige Aktualisierung des Verbraucherrechts zog der Wirtschaftsrechtler Hans-Wolfgang Micklitz, Hauptautor des SVRV-Gutachtens, dementsprechend das Fazit, dass eine Fortsetzung der zurückhaltenden Regulierung keine Option ist. Als Kronzeugen führte er den 2014 verstorben Publizisten Frank Schirrmacher ins Feld, der bereits 2010 angesichts wachsender Informations- und Machtasymmetrien zwischen Individuen auf der einen und kommerziellen wie staatlichen Organisationen auf der anderen Seite schrieb:

Nur Gestrige können glauben, dass in der Skepsis gegenüber dieser neuen Macht die Sehnsucht nach vorindustriellen Zeiten liegt. Es geht vielmehr darum, gegen die Welt der Computer Instanzen des Einspruchs zu etablieren, den Widerspruch, der sich einzig und allein aus Empirie und Intuition speisen kann, als Aufgabe moderner Gesellschaften zu erkennen.

Dass es dem Sachverständigenrat tatsächlich nicht um ein kulturpessismistisches Aufhalten technologischen Fortschritts geht, sondern um einen vernünftigen Interessenausgleich, zeigt die wissenschaftliche Fundierung des Gutachtens: Das Beratungsgremium hat externen Sachverstand dazugeholt, Studien in Auftrag gegeben, Arbeitspapiere erstellt. Heraus kamen nun erste konkrete Vorschläge, an welchen rechtlichen Stellschrauben gedreht werden sollte, um Verbrauchern/Kunden/Nutzern/Prosumenten/Bürgern in der digitalen Wirtschaft wieder ein Stück Autonomie zu ermöglichen.

Klare Rechte für Verbraucher, klare Vorschriften für Unternehmen

Grob lassen sich die konkreten Vorschläge in drei Bereiche unterteilen. An erster Stelle, quasi als Grundlage, stehen dabei Anpassungen im „Recht der digitalen Dienstleistungen“. Also: Welche Rechte und Pflichten haben Unternehmen und Individuen bei ihren alltäglichen Interaktionen. Zu den Vorschlägen des SVRV gehören hier:

• Transparenzvorschriften für Vertragsabschlüsse: Unternehmen sollen vor Vertragsschluss sowohl über die relevanten Allgemeinen Geschäftsbedingungen als auch über die Datenschutzbestimmungen standardisiert informieren müssen – auf maximal einer Seite (beziehungsweise in 500 Wörtern). Verstöße sollen sanktioniert werden. Bislang setzt die Bundesregierung hier darauf, dass Unternehmen freiwillig kurze Zusammenfassungen ihrer Datenschutzerklärung anbieten. Bei einem ersten Versuch im September versteckte die Telekom aber zum Beispiel noch, dass sie Nutzungsdaten für Werbezwecke analysiert.
• Entkopplung von Geräten und Software: Technik wird heute häufig mit großen Mengen vorinstallierter Software (Smartphones, Laptops, Tablets, Smart-TVs und so weiter) verkauft. Die Sachverständigen sprechen sich dafür aus, Geräte und Software wieder zu entkoppeln, sodass Kunden eine freiere Auswahl haben. Wo das nicht möglich sei, müssten jedoch mindestens die Preise für die unterschiedlichen Komponenten getrennt ausgewiesen werden. In dem Fall, dass Unternehmen dafür zahlen, dass ihre Produkte auf den Geräten von Beginn an verfügbar sind, sollte dies den Käufern offengelegt werden.
• Modellverträge: Wirtschaft und Verbraucherschutzorganisationen sollen gemeinsam Modellverträge entwickeln, die einheitliche und übersichtliche Verabredungen sicherstellen, auf die sich alle Seiten verlassen können. Der SVRV betont dabei besonders, dass diese Verträge Verbindungen zu Schlichtungsverfahren, primär der neuen Verbraucherschlichtungsgestelle enthalten sollen.
• Mängelhaftung bei Datenschutz- und Sicherheitsproblemen: Die Missachtung der von der DSGVO vorgeschrieben datenschutzrechtlichen Schutzmaßnahmen durch die technische Gestaltung und Voreinstellungen von Geräten sollten als Sachmängel im Sinne des § 434 BGB ausgelegt werden. Im Klartext: Kunden sollten einen vertragsrechtlichen Anspruch darauf haben, dass die Hersteller von Geräte und Software für Privacy by Design und Privacy by Default sowie für die Einhaltung von IT-Sicherheitstandards sorgen.
• Gewährleistungsanspruch gegenüber „Internet of Things“-Herstellern: In Hinblick auf das „Internet der Dinge“ sehen die Sachverständigen Verbraucherrechte besonders dadurch gefährdet, dass die Geräte meist nur in Kombination mit Diensten von Drittanbietern funktionieren. Diesen gegenüber Ansprüche geltend zu machen, funktioniere aber oft nur bedingt, zumal aus Verbrauchersicht häufig kaum nachvollziehbar sei, welche unterschiedlichen Rechtsbeziehungen mit welchen Akteuren vorliegen. Deshalb schlägt das Gremium die Einführung eines Gewährleistungsanspruchs gegenüber dem Hersteller beziehungsweise EU-Importeur vor: Dieser sollte auch für die Bereitstellung von digitalen Drittleistungen haften.
• Plattformregulierung: Weil Plattformen in der digitalen Wirtschaft immer wichtigere Mittlerinstanzen zwischen unterschiedlichen Vertragspartnern darstellen, sollten Betreiber verpflichtet werden, genaue Angaben über die Funktion ihres Dienstes und den Charakter der Rechtsbeziehungen zu machen.
  Gerade im Bereich der sogenannten „Sharing Economy“ (also bei Diensten wie Uber oder airbnb) sei es relevant, klar unterscheiden zu können, ob und mit wem man einen Vertrag eingehe, wenn man einen Dienst nutzt. Dafür müsste auch klar definiert sein, welche Leistungen die Plattform anbietet (z.B. kostenlose Information, kostenlose oder kostenpflichtige Vermittlung oder kostenlose oder kostenpflichtige Beratung). Darüber hinaus sollen Plattformbetreiber in die Pflicht genommen werden, dass diese Vorgaben von allen Akeuren eigehalten werden – und haften, falls dies nicht der Fall ist. Menschen, die kostenpflichtige Leistungen über eine Plattform anbieten, soll zudem einheitlich als Unternehmer im Sinne des BGB gelten, also ebenfalls klare Verantwortlichkeiten haben.
• Forschung zu „Smart Contracts“: Außerdem empfehlen die Sachverständigen mehr Forschung zu den Chancen und Risiken der Blockchain-Technologie im Rahmen von „Smart Contracts“ durchzuführen, die sich technisch selbst ausführende Verträge versprechen.

Digitalbehörde soll für verbindliche Durchsetzung der Regeln sorgen

Um der „kollektiven Verantwortunglosigkeit“ beim Schutz der Individuen ein Ende zu bereiten, schlagen die Sachverständigen aber nicht nur eine Stärkung der individuellen Rechte und eine Klärung der unternehmensseitigen Pflichten vor, sondern auch eine Stärkung der instituionellen Durchsetzung dieser Regeln. Hier schlägt das Gremium die Schaffung einer „Digitalagentur“ vor, einer zuständigen staatlichen Behörde, in der unterschiedliche Kompetenzen zusammengeführt werden:

Angesichts der Dimension der Probleme, die die digitale Welt aufwirft, kann nicht wie bisher auf die Verbraucher vertraut werden, die ihre Rechte individuell wahrnehmen und die vor Gerichten jahrelang um ihre Rechte kämpfen. Das politische Gewicht individueller Ansprüche, selbst wenn sie wie bei Schrems zu einem spektakulären Erfolg führen, hat nur eine begrenzte punktuelle Bedeutung und hilft nicht dem Kollektiv der Verbraucher. Hinzu tritt die Zeitverzögerung. Brennende Fragen sind durch Gerichte noch nicht geklärt.

Um die eklatante Durchsetzunglücke bei digitalen Rechten zu schließen, fordern die Sachverständigen für eine solche Agentur die nötigen Überwachungs- und Kontrollinstrumente gegenüber der Wirtschaft. Aufgrund der hohen Dynamik im Feld sei es zudem notwendig, ihr die Kompetenzen zu geben, „proaktiv Sach- und Rechtsfragen der digitalen Wirtschaft zu untersuchen, Vorschläge auszuarbeiten, diese öffentlich zu diskutieren, gemeinsam mit der Wirtschaft und den Verbrauchern Verhaltenskodices zu entwickeln sowie Empfehlung und Vorschläge an den Gesetzgeber auszuarbeiten.“

Sowohl das Wirtschafts- und das Justizministerium hatten sich in dieser Hinsicht bereits positioniert und im Vorfeld die Einrichtung einer solchen Digitalagentur gefordert. Denkbar scheint derzeit eine Realisierung im Rahmen neuer Kompetenzen für das Bundeskartellamt. Die Große Koalition ließ in dieser Richtung jedenfalls erst kürzlich einen Testballon steigen: Die Bundestagsabgeorndeten Matthias Heider (CDU) und Marcus Held (SPD) sprachen im November medienwirksam von Plänen in dieser Richtung. Der Vorschlag war in Teilen der Opposition auf ein positives Echo gestoßen.

Auch der SVRV hat sich der Idee kurzfristig angeschlossen und befürwortet die Verortung einer Digitalagentur für Verbraucherrechte im Bundeskartellamt. Im Vergleich zu den Verbraucherzentralen hat jenes schließlich ungleich schärfere Sanktionsmöglichkeiten, etwa die Anordnung von Schadenersatzahlungen oder der Rückerstattung wirtschaftlicher Vorteile.

Mit einem Algorithmengesetz zu mehr Fairness und Verlässlichkeit

Auch dem gerade heiß diskutierten Bereich der Algorithmenkontrolle wenden sich die Sachverständigen zu und fokussieren die Problematik der ungleichen Informations- und Machtverhältnisse:

Das gesamte existierende Verbraucherrecht ruht auf der Vorstellung, dass durch staatlich vorgegebene Informationsregeln Asymmetrien beseitigt werden können. […] Die Verknüpfung von Erkenntnissen der Verhaltenswissenschaft mit Big Data und Profilierungstechnologien hat eine neue Form der Informationsasymmetrie hervorgebracht. In der analogen Welt hat die Wirtschaft bessere Kenntnisse über das Produkt und den Markt. Verbraucherverhaltensforschung war bislang aufwendig, teuer und die Erkenntnisse waren nur bedingt nutzbar. Big Data und Profiling eröffnen der Wirtschaft die Möglichkeit, das Verbraucherverhalten gezielt auszuwerten, die Gründe für eine Entscheidung besser nachzuvollziehen und so den Verbraucher besser zu kennen als er sich selbst kennt oder gar kennen möchte. Dieser Vorsprung erlaubt der Wirtschaft völlig neue Formen des Einsatzes gezielter Werbestrategien, die die bisherigen Kosten drastisch reduzieren und die Effizienz eingesetzter Werbemittel erhöhen.

Konkret sieht das Gremium drei große Gefahren, die konkrete Regeln nötig machen:

• Unternehmen könnten den Zugang zu Waren und Dienstleistungen an diskriminierende Bedingungen knüpfen,
• sie könnten unfaire Geschäftspraktiken nutzen, die auf dem besseren Verständnis des Verbraucherverhaltens basieren und
• sie könnten Systemarchitektur und die algorithmischen Bewertungsverfahren jederzeit ändern, weil sie in den geschlossenen Verträgen zwischen Verbrauchern und Firmen nicht verbindlich beschrieben werden.

Dabei stellt das Gremium erneut fest, dass das bisher praktizierte Vertrauen auf die Selbstregulierung der handelnden Unternehmen, bei dem eine Kontrolle höchstens im Nachhinein stattfindenden kann, aufgrund mangelnder Transparenz und Vergleichbarkeit schlicht nicht funktioniert: „Potenziell rechtswidrige Ergebnisse sind nur für den jeweiligen Adressaten zu erkennen, und auch das nur theoretisch.“ Für die Sachverständigen ist deshalb klar: „Die Frage ist nicht mehr, ob die Politik handeln muss, sondern wie ihr Handeln aussehen könnte.“

Bei dem „Algorithmengesetz“, das die Sachverständigen nun am Ende einer längeren Abwägung vorschlagen, soll es sich weder um die immer wieder hyperventilierte vermeintliche Pflicht zur „Offenlegung von Geschäftsgeheimnissen“ handeln noch um eine Vorschrift zur TÜV-artigen Prüfung jeder einzelnen Code-Zeile in einem Unternehmen. Wohl aber müsse rechtlich klargestellt sein,

• dass algorithmische Systeme „die Vorgaben des Verbraucherrechts, des Anti-Diskriminierungsrechts und der digitalen Sicherheit zu berücksichtigen“ haben,
• dass Unternehmen auch für selbst-lernende Algorithmen die rechtliche Verantwortung tragen und
• dass die Parameter, die algorithmischen Entscheidungen mit Verbraucherbezug zugrundeliegen, transparent sind.

Wenn sich eine Grundüberzeugung durch das Gutachten zieht, dann die, dass es ohne Kontrolle wahrlich nicht geht. Die algorithmischen Bewertungs- und Prognoseverfahren sollten deshalb zudem einem Expertengremium der Digitalagentur in standardisierten Prüfverfahren offengelegt werden können. Diese Expertenrunde solle bei der Digitalagentur angesiedelt sein und stichprobenartig die rechtliche Unbedenklichkeit der algorithmischen Systeme prüfen können.

Darüber hinaus sollten Unternehmen sich in einem „Code of Conduct über die Verwendung von personenbezogenen Daten, künstlich Intelligenter Systeme und Big Data Analyse“ selbst zur Wahrung ethischer Grundsätze verpflichten.

Bitkom: Vorschläge sind Gift für Arbeitsplätze und Wohlstand

Knapp 90 Seiten ist das Hauptgutachten der Sachverständigen lang. Auch wenn sie öffentlich bislang wenig Beachtung gefunden haben: Die Vorschläge liegen nun zur Prüfung im Bundesministerium für Justiz und Verbraucherschutz. Das Gremium will seine umfassenden Vorschläge jedenfalls explizit als „Diskussionsgrundlage“ verstanden wissen.

Dass das aktuelle politische Klima in der Großen Koalition nicht gerade die beste Vorraussetzung für ein Update des Verbraucherrechts darstellt, scheint auch dem Sachverständigenrat bewusst zu sein. Manchen müsste der Impuls gar ungeheuerlich vorkommen, so Hauptautor Micklitz.

Entsprechend selbstsicher trat bei der Diskussion im Anschluss an die Vorstellung der Vorschläge im Justizministerium auch der Bitkom-Geschäftsführer für Politik & Wirtschaft Joachim Bühler auf. Er lehnte jegliche Regulierung als vermeintliches Fortschrittshemmnis rundweg ab. Über Haftungsverpflichtungen und Transparenzvorgaben „nur nachzudenken wirft der Wirtschaft Knüppel zwischen die Beine. Das ist Gift für Arbeitsplätze und Wohlstand“, so Bühler. Stattdessen forderte er eine fünfjährige Haftungsfreistellung für Neugründungen – Verantwortungslosigkeit als Modell der Wirtschaftsförderung. „Es geht jetzt wirklich darum, ob wir die viertgrößte Volkswirtschaft bleiben wollen oder nicht.“

Weitere Diskussionsteilnehmer wie der Jurist Alexander Roßnagel, die Leiterin des Unabhängigen Landeszentrums für Datenschutz Schleswig-Holstein Marit Hansen oder eco-Vorstand Norbert Pohlmann fanden für die Vorschläge hingegen überwiegend positive Worte. Auch Klaus Müller, Vorstand vom Bundesverband der Verbraucherzentralen (VZBV), sprach sich – wenig überraschend – ebenfalls für die Vorschläge aus. Insbesondere die Schritte mit präventiver Wirkung, wie die Gründung einer Digitalagentur unter dem Dach des Bundeskartellamtes, seien geeignet, den Hase-Igel-Wettkampf zwischen Industrie und Regulierung ausgeglichener zu machen.

Wie dieses Wettrennen ausgeht, wird erheblich vom Durchsetzungswillen des Justiz- und Verbraucherschutzministers Heiko Maas abgehängen. Er habe versprochen, die Vorschläge seines Beratungsgremiums sorgfältig zu prüfen, sagt die Vorsitzende des Sachverständigenrats, Lucia Reisch. Ein konkretes Verfahren oder einen Zeitplan gibt es dafür laut Pressestelle des Justizministeriums nicht. Die zuständigen Fachabteilungen würden die Vorschläge jedoch auf ihre Umsetzbarkeit und ihre Passung in die politische Linie des Hauses prüfen. Dort, wo andere Ministerien betroffen sind, würden diesen die Vorschläge weitergeleitet.