Verbrauchergerechtes Scoring - Gutachten des Sachverständigenrats für Verbraucherfragen (2018)
Aktuelle Auswertungen von rund 2000 der Kampagne OpenSCHUFA gespendeten Schufa-Auskünften durch Datenjournalisten von Spiegel Online und Bayerischer Rundfunk verweisen an konkreten Beispielen auf die Problematik der Fehleranfälligkeit und der fehlenden Transparenz bei Datenerhebung und -bewertung in Scoringverfahren.
Auch in der medienpädagogischen Diskussion ist die Nutzung von Algorithmen für Scoringverfahren ein aktuelles Thema. Hilfreiche Materialien und fundierte Empfehlungen hierzu hat jetzt der Sachverständigenrat für Verbraucherfragen vorgelegt:
“Als Scoring bezeichnen wir die Zuordnung eines Zahlenwertes zu einem Menschen zum Zweck der Verhaltensprognose oder Verhaltenssteuerung. Die Bestimmung dieses Zahlenwertes erfolgt in der Regel auf der Grundlage einer breiten Datenbasis durch ein algorithmisches Verfahren.“ (SVRV (2018). Verbrauchergerechtes Scoring. S. 142)
In immer mehr Lebensbereichen kommen Algorithmen zum Einsatz, die Menschen bewerten, ihr Verhalten vorhersagen und ihre persönlichen Eigenschaften ermitteln wollen. Solche Scoring-Algorithmen entscheiden zum Beispiel darüber, wer auf Kredit kaufen und wer nur auf Vorkasse bestellen darf. In der Kfz-Versicherung begegnen uns Scoring-Verfahren in der Form von Telematik-Tarifen. Algorithmen beurteilen hier das Fahrverhalten und bestimmen mit darüber, wie teuer der Versicherungsschutz für den Autofahrer ist. Viele Krankenversicherungen vergeben für bestimmte Verhaltensweisen ihrer Versicherten, die “gescort“ werden, einen Bonus. Solche Scoring-Verfahren sind Gegenstand des aktuellen Gutachtens des Sachverständigenrates für Verbraucherfragen.
In ihrem Gutachten formulieren die Sachverständigen acht Empfehlungen, wie Politik, Wirtschaft und Verbraucherverbände Scoring-Verfahren, und Algorithmen im Allgemeinen, durch mehr Transparenz besser gestalten können als das gegenwärtig der Fall ist.
Scoring-Verfahren, die ein bestimmtes Verbraucherverhalten prognostizieren, müssen zuverlässig arbeiten. Aber selbst das methodisch hochwertigste Scoring-Verfahren liefert unzulängliche oder sogar falsche Ergebnisse, wenn die Eingabedaten schon fehlerhaft sind. Und es ist zum Beispiel problematisch, wenn bei einem “Gesundheits-Score“ gesundheitsschädliches Verhalten wie Rauchen nur mit geringem Gewicht, Aktivitäten, deren Gesundheitsnutzen nicht belegt ist, aber mit hohem Gewicht eingehen. Außerdem müssen Scoring-Verfahren funktionieren, ohne verbotenerweise zu diskriminieren, indem sie für bestimmte Bevölkerungsgruppen systematisch unzuverlässigere Ergebnisse liefern. Kritisch betrachtet der Sachverständigenrat deshalb die Verwendung von Stellvertreter-Merkmalen in Scoring-Verfahren, also von Merkmalen, die mit der gescorten Person direkt nichts zu tun haben, zum Beispiel, ob sie in einer guten Wohngegend lebt.
Im Mittelpunkt der Empfehlungen stehen Transparenz und Verständlichkeit von Scoring. Verbraucher sollen darüber informiert werden, wenn sie gescort werden und aus welchen Merkmalen sich ihr persönlicher Score zusammensetzt. Soweit dies möglich ist, sollen Score-Anbieter Verbraucher kostenlos informieren, wenn sich deren Score gravierend ändert.
Aufsichtsbehörden müssen das gesamte Scoring-Verfahren prüfen und die Wirkungen von Scoring kontrollieren können. Deswegen empfehlen die Sachverständigen einen gezielten Ausbau der Aufsichtsbehörden, wie etwa den Datenschutzbeauftragten. Der SVRV bekräftigt seine bereits in seinem Gutachten “Digitale Souveränität“ erhobene Forderung nach einem Daten-Dashboard. Mit einer solchen Schnittstelle würde es Verbrauchern ermöglicht, ihren Score selbst berechnen zu können. (Quelle: Pressemitteilung Nr. 1/2018 der Geschäftsstelle des Sachverständigenrates für Verbraucherfragen )
Das insgesamt 288seitige Gutachten stellt die folgenden acht Handlungsempfehlungen für verbrauchergerechtes Scoring differenziert dar und begründet sie vielschichtig und ausführlich:
- Scoring für den Verbraucher verständlich machen
- Scoring-Wissen und Kompetenzen fördern
- Diskriminierung prüfen und offenlegen
- Telematikfreie Option sicherstellen
- Score-Qualität gewährleisten
- Datenqualität sichern
- Aufsicht verbessern
- Super-Scores verhindern
Das gesamte Gutachten kann kostenfrei als PDF-Datei heruntergeladen werden.
Dies gilt auch für die im Zusammenhang mit der Erstellung des Gutachtens entstandenen Gutachten und Working Paper:
Gutachten
Technische und rechtliche Betrachtungen algorithmischer Entscheidungsverfahren
Working Paper
Verbraucher-Scoring aus Sicht des Datenschutzrechts
Wir dokumentieren hier die im Gutachten ausführlich begründeten ersten beiden Handlungsempfehlungen für verbrauchergerechtes Scoring.
1. Scoring für den Verbraucher verständlich machen
1. Der SVRV empfiehlt den Datenschutzbehörden, die in der DSGVO (vgl. Art. 15 Abs. 1 Buchst. h) festgeschriebenen Verständlichkeitsanforderungen für Scoring und score-basierte Geschäftsprozesse zu operationalisieren. Maßstab für Verständlichkeit sollte der Durchschnittsverbraucher sein.
Soweit Scoring eine für den einzelnen Verbraucher nicht mehr nachvollziehbare Komplexität erreichen sollte, wäre sicherzustellen, dass Scoring nicht nur für Aufsichtsbehörden, sondern auch zumindest für Verbraucherorganisationen und Nicht-Regierungsorganisationen nachvollziehbar ist.
2. Scoringanbieter sollen den Verbrauchern die für sie wesentlichen Merkmale, auf deren Basis sie gescort werden, sowie möglichst auch deren Gewichtung auf verständliche und nachvollziehbare Weise offenlegen. Allerdings dürfen Geschäftsgeheimnisse dadurch nicht verletzt werden. Festzustellen, welche Merkmale für Verbraucher wesentlich sind, kann nicht nur Aufgabe des Gesetzgebers sein, sondern sollte auch Aufgabe von Verbraucherorganisationen oder der “Marktwächter“ der Verbraucherzentralen sein. Eine vollständige Offenlegung der Scores und ihrer Eigenschaften gegenüber Aufsichtsbehörden ist in jedem Fall notwendig (vgl. das SVRV-Gutachten Digitale Souveränität).
Ein Teil des SVRV spricht sich für eine weiterreichende Scoring-Transparenz aus. Er ist der Auffassung, dass stets sämtliche in einen Score eingehende Merkmale gegenüber dem Verbraucher offenzulegen sind und ihr relatives Gewicht in der Score-Berechnung anzugeben ist. Etwaige Geheimhaltungsinteressen der Scoring-Anbieter und -Nutzer haben insoweit gegenüber dem Auskunftsinteresse der Verbraucher zurückzustehen, wobei das Geschäftsgeheimnis der Entwicklung und Programmierung eines Scores gewahrt bleiben sollte.
3. Ein besseres Verständnis der Verbraucher bezüglich Scoring wird durch die bloße Offenlegung nicht automatisch sichergestellt. Dafür sind verschiedene Maßnahmen notwendig, etwa: beispielhafte Darstellungen von Scores und deren Abstufungen für verschiedene Merkmale; didaktische, visuelle Aufbereitung (etwa durch Verbraucherorganisationen); allgemein Verbesserung der scoring-bezogenen Kompetenzen der Verbraucher (skillset). Die Verständlichkeit der Scores durch Verbraucher sollte nicht nur von Fachleuten behauptet, sondern empirisch überprüft werden.
4. Verbraucher haben jetzt schon einen Anspruch (vgl. Art. 13 Abs. 2 lit. f, 15 Abs. 1 Buchst. h DSGVO) darauf, in Textform auf verständliche Weise adressatengerecht darüber informiert zu werden, dass sie gescort werden. Doch fehlt es an einer Konkretisierung. Unternehmen, Aufsichtsbehörden und Verbraucherorganisationen sollten gemeinsam Standards für Score-Anbieter entwickeln, damit Relevanz und Verständlichkeit gewährleistet werden können. Der SVRV empfiehlt zudem, Verbrauchern mitzuteilen, wie ihr persönlicher Score bezüglich der Verteilung aller Score-Werte in der Bevölkerung zu interpretieren ist (z.B. dass er “im oberen Drittel“ aller Score-Werte liegt).
5. Eine zeitnahe kostenlose Rückmeldung bei größerer Veränderung eines individuellen Scores (z.B. das Abrutschen in eine schlechtere Kategorie) ist zu gewährleisten – zumindest als wählbare Option. Dieser Mitteilung sind Grenzen gesetzt: Um eine Veränderung eines Scorewertes erkennen zu können, muss der Score-Anbieter alte Scorewerte speichern. Dies wird für viele praktische Anwendungen (wie bei Betrugserkennung oder der Bestimmung anzubietender Zahlungsoptionen) nicht der Fall sein. Die Berechnung eines Scores erfolgt bei Versicherern und Banken anlassbezogen. Damit wird keine Historie aufgebaut und so wird die Veränderung beim nächsten “Event“ nicht klar. Damit kann sich die Forderung nur auf die Institutionen beziehen, die kontinuierlich Daten sammeln, etwa Bonitäts-Scorer und das Fahreignungsregister des Kraftfahrt-Bundesamtes in Flensburg (“Verkehrssünderkartei“), das solche Mitteilungen bereits versendet).
2. Scoring-Wissen und -Kompetenzen fördern
Wie bereits im SVRV-Gutachten “Digitale Souveränität“ empfohlen wurde, sollten staatliche Einrichtungen, Bildungsträger, NGOs, Verbraucherschutzorganisationen und Verbraucherschutzprojekte
1. Wissen zu Grundaspekten vermitteln, die alle Bereiche des Scorings und seine Verwendung in bestimmten Geschäftsfeldern betreffen. Hierzu sollte die Bundesregierung in ihrer Digitalisierungsstrategie innerhalb der laufenden Legislaturperiode Informations- und Diskussionsmaterial erarbeiten, um die Kompetenzen von Verbrauchern, Multiplikatoren und Entscheidungsträgern zu verbessern. Das Grundprinzip und die Qualitätsaspekte von Scoring sowie die Formen von Ungleichbehandlung und deren Ursachen gehören ebenso zum Grundwissen wie die einem Betroffenen zustehenden Rechte.
2. Kompetenzen fördern, um informierte Entscheidungen hinsichtlich der Teilnahme an einem Scoring-Verfahren zu treffen. Hierunter fällt die Kompetenz, Scoring-Angebote sowie Alternativen zu finden, kritisch zu prüfen, zu bewerten (z.B. werden die für den Verbraucher relevanten Informationen offengelegt) und zu nutzen.
Info
Sitemap
Home