Sich in die Daten schauen lassen

Worin liegen die Gründe für die zunehmende gesellschaftliche Akzeptanz von Selbstvermessung?

Prof. Dr. Lucia Reisch: Digitale Selbstvermessung und Selbstoptimierung liegen im Trend, denn sie suggerieren uns, uns selbst und das Leben eher im Griff zu haben, Kontrolle auszuüben und souverän agieren zu können – das ist mehr als attraktiv. Faszinierend sind für viele zudem die technischen Gadgets und Finessen. Hinzu kommt, dass man sich noch nie so einfach, schick und unterhaltsam mit anderen „messen“ konnte – und soziale Vergleiche sind bekanntermaßen für unsere Spezies schon immer wichtig gewesen. Für manche ist es auch einfach eine Mode, die man mitmacht, um mitreden zu können. Doch mittlerweile zeigt sich, dass die ersten schon wieder aussteigen, denn Selbstvermessung und Selbstoptimierung sind letztlich psychisch anstrengend, weil sie uns ständig unter Druck setzen.

Was ist unter Scoring zu verstehen und was sind Super-Scores?

Reisch: Beim Scoring werden Menschen anhand einer Zahl bewertet, die auf Grundlage von Regeln und Kalkulationen (Algorithmen) entsteht. Ziel des Scoring ist es, eine schnelle, möglichst präzise Einschätzung von Personen in Bezug auf ein bestimmtes Merkmal, wie Kreditwürdigkeit, riskante Fahrweise oder gesunder Lebensstil, zu erhalten, um Verhalten zu prognostizieren und/oder zu steuern. Scoring findet überall statt und ist keineswegs neu. Auch in der analogen Welt gab und gibt es solche Bewertungen anhand von Zahlen – etwa Schulnoten, Wettkampfklassen, Punkte in Flensburg und so weiter.

Das Neue ist, dass in der digitalen Welt Scoring auf ganz anderen umfassenden Verhaltensdaten basiert – etwa bei Telematiktarifen der Versicherungen. Zunehmend wird auch Künstliche Intelligenz und Machine Learning eingesetzt. Scoring besitzt heute eine ganz andere Aktualität, Reichweite und Konsequenz: Dies ist einerseits von Vorteil für die Präzision der Vorhersage, gleichzeitig besteht ein enormes Risiko für die Privatheit und Integrität der Daten.

Super-Scores dagegen sind Meta-Scores, die Bewertungen und Scores aus unterschiedlichsten Lebens-, Arbeits- und Konsumbereichen zusammenführen. Der Prototyp eines solchen Super-Scores ist das chinesische Sozialkreditsystem, hier gehören die Daten dem alles überwachenden Staat. Bei Super-Scores werden meist viele verschiedene Technologien und Methoden eingesetzt – einschließlich Biometrie und Gesichtserkennung – und mehrere Datenbanken gezielt zusammengebracht.

Wie ist die Idee entstanden, ein Gutachten zum Thema „Verbrauchergerechtes Scoring“ zu erstellen?

Reisch: Es war zum einen das Thema „Algorithmen“, das uns in unserem Arbeitsschwerpunkt „Verbraucher in der digitalen Welt“ seit vier Jahren begleitet: So haben wir uns in den vorhergehenden Gutachten – unter anderem zu den Themen „Digitale Souveränität“ und „Verbraucherrecht 2.0“ – bereits mit den Chancen der Gestaltung von Algorithmen „zum Wohle der Verbraucher“ befasst. Nun wollten wir hier tiefer einsteigen, denn Scoring findet ja überall statt, sichtbar und wenig sichtbar.

Das Bonitätsscoring etwa ist durchaus wichtig, um auf Märkten – zum Beispiel auf Kreditmärkten oder im Online-Handel – Vertrauen zu schaffen und Verbraucher vor Betrügern und schlechten Schuldnern zu schützen. Problematisch sind jedoch solche Scores, von denen man nichts oder wenig weiß, die aber trotzdem Einfluss auf die eigenen Lebens- und Konsumchancen ausüben. Zudem waren wir vor zwei Jahren, als das Thema gewählt wurde, ziemlich alarmiert vom Sozialkreditsystem in China, das einer Dystopie von Big Brother und George Orwell doch sehr nahekommt.

Können Sie das anhand der im Gutachten untersuchten Lebens- und Konsumbereiche Finanzen, Mobilität und Gesundheit näher beschreiben?

Reisch: Im Bereich des Bonitätsscoring kennt man schon seit Jahrzehnten beispielsweise den SCHUFA-Score, der von Banken oder im Online-Handel eingesetzt wird, um die Risiken eines Zahlungsausfalls zu minimieren: Letztlich geht es hier vor allem um Betrugsvermeidung und Risikomanagement. Ganz anders ist es beispielsweise im Gesundheitsbereich, wo Scores unter anderem dafür eingesetzt werden, um das Gesundheitsverhalten zu überwachen und zu steuern und im Gegenzug zum Datenzugang günstigere Tarife anzubieten. Auch bei KFZ-Versicherungen gibt es vergleichbare Telematikangebote.

Grundsätzlich ist dagegen nichts einzuwenden, allerdings muss solches Scoring „verbrauchergerecht“ sein, das heißt es muss vor allem transparent und verständlich sein, die Datenvalidität und Qualität muss stimmen und die Verbraucher müssen bei größeren Scoreänderungen informiert werden. Zudem darf nicht unberechtigt diskriminiert werden, es darf also keine systematischen Nachteile für diejenigen geben, die ihre Verhaltensdaten lieber für sich behalten wollen. Die Details der Scores (also: Variable und Gewichtungen) müssen einer unabhängigen Behörde zur Genehmigung vorgelegt werden.

In unserem aktuellen Gutachten „Verbrauchergerechtes Scoring“ haben wir diese drei Bereiche genau untersucht und beschrieben. Wir zeigen an den drei oben erwähnten Beispielmärkten – Finanzen, Gesundheit, KFZ-Versicherungen – die Chancen, aber auch die Risiken auf, und zwar sowohl für die einzelnen als auch für die Solidargemeinschaft. Vor allem aber geht es darum, aus der festgestellten Evidenz handfeste Regeln für verbrauchergerechtes Scoring zu entwerfen und der Politik überzeugend nahezubringen.

Welche Empfehlungen schlagen Sie darüber hinaus vor?

Reisch: Über die oben beschriebenen Empfehlungen hinaus, empfehlen wir der Bundesregierung, eine Digitalagentur zu schaffen, die auf Augenhöhe mit der Wirtschaft agieren kann, also konkret auch die finanziellen Mittel zur Verfügung hat, um beispielsweise KI-Experten zu beschäftigen. Die bestehenden Aufsichtsbehörden sind in vielerlei Hinsicht nicht ideal aufgestellt, und eine Ministerialbürokratie ist schlichtweg zu behäbig und zu Verwaltungs-lastig, als dass sie mit der rasanten technischen Entwicklung auch nur im Entferntesten Schritt halten könnte. Zudem schlagen wir vor, eine einfache Schnittstelle für jeden Bürger zu schaffen: ein Datendashboard, in dem man schnell, bequem und sicher feststellen kann, welche Daten von wem gesammelt und zusammengeführt werden. Der Einzelne soll hier die Möglichkeit erhalten, dies explizit zuzulassen oder auch nicht – das nennt man dann Datensouveränität.

Was hat Sie bei der Auseinandersetzung mit dem Thema Scoring am meisten überrascht?

Reisch: Wir haben viele Hintergrundgespräche geführt mit Anbietern, mit AI-Experten, NGOs und Datenschützern, hier habe ich viel Neues gelernt. Zudem haben wir in den drei untersuchten Bereichen jeweils eine Markterhebung sowie eine repräsentative Bevölkerungserhebung durchgeführt, die auch spannende Ergebnisse lieferten. Aus letzterer ist zu sehen, dass mehr als ein Drittel der Deutschen es zulassen würden, wenn unterschiedliche Datensätze verbunden würden, nur um vergleichsweise geringe preisliche Vorteile zu erlangen, etwa bei Versicherungen. Einer Zusammenführung von Datensätzen stimmen weit mehr Befragte zu als wir dachten. Überrascht hat mich insgesamt die geringe Sensibilität gegenüber der Herausgabe von privatesten Daten. Und das in Deutschland, das als datenschutzsensibel gilt.

Wie bewerten Sie das Sozialkreditsystem in China?

Reisch: Das Sozialkreditsystem in China ist Ausdruck einer perfekten Staatsdiktatur. Doch weil es so viele Vorteile bringt, die Sicherheit erhöht und die Chinesen sehr in ihre Regierung vertrauen (die ihnen so viel Wohlstand gebracht hat in den vergangenen beiden Generationen), finden die meisten Chinesen dieses System gut!

Wie würden Sie Ihren Blick auf die zukünftigen Entwicklungen von digitalen bzw. algorithmischen Entscheidungsverfahren bezeichnen: als hoffnungsvoll oder eher sorgenvoll?

Reisch: Algorithmen sind nicht gut oder schlecht, ebenso ist Scoring nicht gut oder schlecht. Algorithmen und Scores sind auch zu unterscheiden von Entscheidungen (die Menschen treffen sollten) – sie sollen diese vorbereiten, nicht ersetzen (letzteres ist in aller Regel abzulehnen). Wenn die Regeln des verbrauchergerechten Scorings berücksichtigt werden, dann kann Scoring einen sinnvollen Beitrag zu funktionsfähigen Märkten leisten.

In meinem neuesten Projekt am Forschungszentrum Verbraucher, Markt und Politik an der Zeppelin Universität beschäftigen wir uns damit, wie Algorithmen und Künstliche Intelligenz gezielt für das Verbraucherwohl eingesetzt werden können: So können diese helfen, AGBs und Datenschutzregeln blitzschnell als „gut“ oder „problematisch“ zu unterscheiden, und zwar direkt am Point of Sale, also im Web beim Online-Einkauf. Hier liegt sehr viel Potential.

Titelbild: 

| Adeolu Eletu / Unsplash.com (CC0 Public Domain) | Link

Bild im Text: 

| Bundesministerium für Justiz und Verbraucherschutz /Reiner Habig

| Chuttersnap / Unsplash.com (CC0 Public Domain) | Link

Redaktionelle Umsetzung: Florian Gehm