Dürfen Algorithmen unser Leben bestimmen?

Im Zuge der Digitalisierung werden wir uns wohl oder übel mit einigen Fragen auseinandersetzen müssen:

  • Dürfen Algorithmen unser Leben bestimmen?
  • Welche Ziele werden mit diesen Algorithmen verfolgt?
  • Dürfen Algorithmen zu einem höheren Zweck Persönlichkeitsrechte beschneiden?
  • Wer wird alles in die Programmierung von Algorithmen mit einbezogen?

Dazu einige Konkretisierungen:

  • Dürfen wir  ältere Menschen rund um die Uhr überwachen, wenn wir damit gewährleisten, dass sie weiterhin zuhause wohnen?
  • Inwiefern können gerade Menschen, die der Digitalisierung skeptisch bis ängstlich gegenüberstehen, ihre Erfahrungen in Algorithmen einspeisen, um ein Teil der gesellschaftlichen Weiterentwicklung zu werden?
  • Wie gewährleisten wir, dass Algorithmen nicht missbraucht werden wie in dem Beispiel einer Polizei-Software, die statt als  Präventionsprogramm für Menschen in Risikovierteln zur Überwachung eingesetzt wurde (siehe https://algorithmenethik.de/2017/11/20/wenn-algorithmen-irren-sind-menschen-verantwortlich)?

Fakt ist: Noch entscheidet der Mensch, was er programmiert. Fakt ist auch, dass Menschen nicht immer richtig entscheiden. Unsere Entscheidungen sind geprägt durch Vorurteile, das Wetter, Emotionen, Zeitdruck und Manipulationen. Es gibt den Herdentrieb, den Effekt des virtuellen Besitzes, falsche Wahlmöglichkeiten, den Halo- und Teufels-Effekt und natürlich Entscheidungen aufgrund von Sympathie oder Antipathie. Als Angeklagter sollte ich dafür beten, dass der Richter seine Entscheidung über meine Zukunft mit vollem Magen trifft und nicht um 11.30 Uhr. Suche ich als Bewerber einen einfachen Job, darf ich mich über meinen Meier-Müller-Namen freuen. Suche ich etwas höher Dotiertes, könnte ein ausgefallener Name hilfreich sein. Ein ausländischer Name verringert jedenfalls meine Chancen am Arbeitsmarkt.

Zuguterletzt sollte klar sein, dass kein Computer, insbesondere im Dienstleistungsbereich unsere Entscheidungen trifft. Es sollte auch in Zukunft so laufen wie damals auf der Enterprise: Am Ende entscheidet immer noch Cpt. Kirk.