Immer, wenn bekannt wird, dass eine Maschine falsch entschieden hat, machen sich Journalisten darüber her. Maschinen stehen mit dem Rücken zur Wand, so oft werden sie angegriffen.
Algorithmen entscheiden heute über Ihre Kreditwürdigkeit, Ihre Versicherungsprämien und über die Wand, gegen die Ihr Auto bei einem Unfall knallen soll.
Algorithmen werten Röntgenbilder aus und erkennen Menschen, die Leuten auf Fahndungsfotos ähneln.
Vieles haben wir schon akzeptiert: Wenn das Auto nicht von selbst mault, dass ein Licht ausgefallen oder der Ölstand zu niedrig ist, tun wir eigentlich nichts mehr. Wir vertrauen dem Auto, dass es sich um sich selbst kümmert. Wir vertrauen allen möglichen Messungen: Zuckerwerten bei Diabetes, der Waage, dem EEG und der Auskunft des Bankangestellten, dass er uns nur heute diesen günstigen Zins anbieten könne. Haha, er hat vorher ein Credit Scoring System angeworfen und bei der Schufa gespickt. Er darf Sie keinesfalls mit gesundem Menschenverstand beurteilen, wie man das früher einmal praktizieren durfte. Er muss ja dokumentieren, was er angeboten hat, und Sie müssen unterschreiben, dass Sie verstanden haben, was Ihnen angeboten wurde. In der Medizin zieht es auch schon ein, dass die Computer Ihre Diagnose stellen. Wenn der Arzt unbedingt etwas anderes in Ihnen sieht, darf er das noch entscheiden, er muss aber dokumentieren, warum er vom Computer abwich. Er kann dann verknackt werden, wenn er falsch lag. Wenn er ohne Nachdenken dem Computer gehorcht, wohl nicht.
Und da regen sich Leute auf, wenn ein Algorithmus falsch entschieden hat! Das kommt oft vor, sonst wären Banking, Risikomanagement und Medizin ja einfach. „Niemals sollen Computer über mich entscheiden!“ Tun sie ja schon. Sie liegen oft falsch, aber das macht nichts. Denn Menschen irren sich viel öfter, nehmen Sie es endlich hin. Daher werden Sie doch Zweitmeinungsnomade, wenn Sie mit Ihren vielen Hausärzten nicht einverstanden sind, was man Ihnen als Leiden andichten will. Sie vergleichen dann aber bald die Ergebnisse von verschiedener Software. Aber – wie gesagt – Menschen liegen häufiger falsch als ein Arzt.
Quelle: Adobe Stock Photo
Ich muss Sie wohl wieder und wieder mit Platons Liniengleichnis stressen: Man kann die Dinge sorgsam analysieren und mit kaltem Verstand nüchtern beurteilen. Dann stellt man fest, dass Roboter und Algorithmen in der Regel (sonst würde man sie nicht damit betrauen) besser abschneiden als Menschen. Diesem nüchternen Verstand in sich selbst vertrauen aber sehr viele Menschen nicht. [Warum nicht?] Sie urteilen deshalb nach Meinungen, die ihre Faktenlage eben nicht aus Statistiken und Analyse speisen, sondern aus persönlicher Erfahrung. Eine Meinung wird so lange beibehalten, wie sie nicht durch persönliche Erfahrung erschüttert wird. Beispiel: Die Leute schimpfen über WhatsApp, weil Facebook „was mit den Daten macht“. Dann verwenden sie WhatsApp auf Druck der jungen Verwandten ausnahmsweise im Urlaub. Ausnahmsweise! Sie machen die Erfahrung: „Es ist sehr praktisch.“ In diesem Augenblick haben sie eine Erfahrung gemacht, die ihre Meinung verändert. Zack ist alles anders.
Anderes Beispiel: Zurzeit haben sehr viele Angst, sich zu gegebener Zeit in ein selbstfahrendes Auto zu setzen, sie grausen sich antizipativ davor. „Es ist gefährlich. Nie!“ Irgendwann setzen sie sich mit ihren großen Kindern probeweise hinein, sie kommen ohne Unfall an. „Oh, das ist praktisch. Es ist auch sicher, das habe ich nun selbst erlebt.“
Es scheint so zu funktionieren:
Vorher: Ein einziges Argument dagegen lässt sie alles kategorisch ablehnen.
Hinterher: Eine einzige positive eigene persönliche Erfahrung lässt sie die ganze Sache befürworten.
Die eigene Erfahrung überschreibt sämtliche Erkenntnisse, Statistiken und Wissenschaften. Vorher: „Ich kenne keinen Ausländer, aber ich will die nicht.“ Hinterher: „Jetzt kenne ich ein paar, ich helfe ihnen.“
Wer also etwas verändern will, muss die Leute Erfahrungen machen lassen. Eine oder zwei reichen. Das ist Statistik genug. Es muss aber eine deutlich eigene Erfahrung sein oder notfalls die eines Freundes. Das ist der Algorithmus in Menschen. Er wird für besser gehalten als einer im Experten oder Computer, der jahrelang unter langem Lernen programmiert wurde. So viel Selbstbewusstsein gibt es in der Welt!
18 Antworten
Algorithmen sind erst einmal etwas neutrales.
Aber warum werden den Algorithmen eingeführt? Oft um die Produktivität der Mitarbeiter zu erhöhen. Dies bedeutet, dies funktioniert doch nur, wenn in einem Teil der Fälle, die Algorithmen alleine entscheiden. Wenn Sie einen Kredit nachfragen, dann sieht der Bankangestellte doch nur Ihr Kreditrating und bestimmt auf dieser Basis Ihren Zins. Babei können verschiedene Fehler auftreten, von den Qualität der Daten angefangren, oder der Qualität des Algorithmus (vielleicht leben Sie an der „falschen“ Addresse).
Da der Bankberater die Herleitung des Rating auch nicht beurteilen kann, haben Sie wenig Möglichkeiten dies in einem Gespräch zu korrigieren.
Dazu kommt die Option, dass Algorithemen auch absichtlich order unabsichtlich mit einem Bias versehen sind. So, gibt es mehrere Arbeiten, die zeigen, dass man mit wenigen Datenpunkten das politische Wahlverhalten vorhersagen zu können. Auf der anderen Seite zeigt Prof Eppstein, dass dies Google und Facebook genutzt haben, das Wahlverhalten von 2,6 bis 10 Mio Wählern beeinflusst zu haben.
d.h. neben fehlerhaften Daten und Algorithmen gibt es auch noch die manupilative Nutzung von Algotithemn.
Aber wenn ein Mensch den Wert einer Maschine für sich erkennt, dann werden die Probleme als abstrakte Größe ausgeblendet. Teil der menschlichen Psychologie.
Algorithemen sind neutral. Es sind die ungekannten Menschen, denen Sie Vertrauen müssen.
Das Ablehnen dessen was man nicht kennt oder selbst erfahren hat ist eine durchaus vernünftige Schutzfunktion. Die hat aber sicherlich auch situativ eher nachteilige Nebeneffekte. Viele Menschen leben in vielen verschiedenen „Situationen“ und Lebensphasen.
Es gibt z.B. durchaus Situationen wo es schwer fällt Menschen zu lieben bzw. zu schätzen, obwohl die innere Haltung und der Verstand und die Erfahrung sagt, dass es generell zufriedener macht, wenn man erst einmal Menschen positiv und wohlwollend gegenüber tritt.
Gute Algorithmen mit korrekter Datenbasis und Individualdaten sind sicherlich ein wunderbares Beschleunigungsinstrument bei globaler Chaoslage.
Ist es nicht eher so, dass das fortlaufende Anhäufen von Wissen, Produkten und Menschen und die Beschleunigung der „Vorsorgung“ dieser Massen mit Produkten und Dienstleistungen problematischer ist als die Mittel die dazu benutzt werden? Wäre dass dann schon Erkenntnis oder immer noch nur Meinung.
Eine Idee, die mir zuletzt in den Sinn kam ist für mich die Wurzel vielen Übels – aber auch genauso Wurzel von vielem Guten und somit selbst weder nur „gut“ noch nur „böse“. Es kommt „immer“ auf die Art der Nutzung an:
Einzelne Menschen können heute subtil und direkt sehr viel mehr Menschen leiten, führen und für einen Zweck einsetzen als früher. Und das erhöht die Einflussmöglichkeiten von einzelnen Menschen enorm im Vergleich zu dem was wir von vorindustriellen Zeiten her kennen oder von Zeiten, wo es jeden Tag aufs Neue nur um dass Sattwerden ging.
Wofür wir den ganzen Kram brauchen? Keiner weiss es, aber die Menschheit lässt sich hier in Ihrem blinden? „Wachstumsbemühen“ wohl nicht stoppen und bringt sich zur Not in kriegerischen Auseinandersetzungen eher gegenseitig um, weil, wer heute nicht wächst, der hat morgen „verloren“, so die Angst und der innere Antrieb, teils auch als Gier zu entlarven, teils als normale Schutzreaktion in einer tierisch natürlichen Umwelt, wo Menschenrechte im Zweifel nur auf Papier stehen und ein schönes Gefühl machen.
Na dann… so soll es sein.
Sicherlich darf sich jeder selbst überlegen wie sehr er sein Gewissen belasten möchte und (indirekt und zeitlich verschoben) er/sie/es auf Kosten anderer oder unseren Nachkommen leben möchte.
Der schnelle Algorithmus hilft ihm nur dabei dies so oder anders zu tun. Und das indirekte, subtile, schnelle ist genau das was abschreckt – die „eigentliche“ bzw. die Gesamtheit der im Algorithmus verarbeiteten Ziele ist noch schwerer zu erkennen als früher, wo es dieses Werkzeug noch nicht gab. Vor allem die Geschwindigkeit macht den Unterschied, Nicht?
Hoffentlich bleibt für die, die es wünschen ein Leben ohne schnelle gute Entscheider möglich. Wie ich dass wahrnehme ist das kaum möglich, so hat der einzelne kaum eine Wahl? Er wird irgendwann Müssen müssen.
Da schreibt der Mathematiker: Aber nicht alles in dieser Welt lässt sich mathematisch erfassen. Was ist z.B. mit Intution? Bauchgefühl? Die Bewertung einer Situation wird in 90-95% aller Fälle sicherlich mathematisch richtig erfolgen, aber wir Menschen sorgen uns um die verbleibenden 5-10%. Nun kann man sagen: „Bisschen Schwund ist immer“, aber wollen wir nicht auch den 5-10% gerecht werden, die aufgrund von Unzulänglichkeiten im Code durchs raster fallen, denn Algorithmen werden durch Menschen geschrieben. Ich meine JA, dann das unterschiedet uns Menschen von anderen Lebewesen.
Sie gehen von „Expertenmenschen aus“, bitte nehmen Sie die durchschnittlichen Autofahrer, Ärzte, Anwälte, Lehrer… die machen mehr als 10% „Fehler“, sorry…die „sorgen“ sich absolut nicht, die Fehler werden ja gar nicht erkannt und nie thematisiert.
These: Intuition oder „Bauchgefühl“ ist auch nichts weiter als das Ergebnis eines neuronalen Algorithmus‘ der jahrelang mit Input gefüttert und mittels Feedback auf den persönlich als „richtig“ empfundenen Output getrimmt wurde. Demnach fiele Intuition nicht vom Himmel und wäre auch nicht angeboren, denn dann sagt man wohl eher Instinkt, sondern ist die unterbewusste Auswertung von Sinneseindrücken und deren „intelligenter“ Interpretation durch Ihr Gehirn, bei der Ihnen lediglich das Ergebnis mehr oder weniger stark bewusst wird.
Insofern habe ich keine Angst von Algorithmen, denn die funktionieren bei mir selbst ja auch ganz gut. Mir macht eher Sorgen, von wem und in welcher Absicht heutzutage Software-Algorithmen geschrieben und dann auf die verfügbaren Daten losgelassen werden. Da gibt es sinnvolle Anwendungen und weniger sinnvolle, allgemeinwohle und eigennützige Absichten, und es gibt anonymisierte, öffentlich verfügbare und persönliche, zum Teil unrechtmäßig angeeignete Daten.
Letztendlich ist immer der Mensch und seine Gesinnung das Maß der Dinge. Und vor denen, die sich auf Kosten der Allgemeinheit über Algorithmen und „Big Data“ einen Vorteil verschaffen, gegen die sollten wir uns stellen, nicht gegen Algorithmen im besonderen oder den technischen Fortschritt im allgemeinen. Das ist heute nicht anders als vor fünfzig oder hundert Jahren; das war schon immer so.
Das Erfahrungen Einstellungen verändern kann, ist nicht neu. Jetzt schreibe ich hier diesen Kommentar, wo ein Hitzerekord den anderen jagt – Mist mein Ort war nicht in den Top Ten.
Die Faktenlage ist klar. Klimawandel geschieht. Wissenschaftler warnen seit Jahrzehnten. Menschen schwitzen und leiden. Also scheint die eine oder zwei Erfahrungen nicht zu einer veränderten Meinung zu gelangen. Woran liegt das? Ich wage mich mal an ein paar mögliche Antworten (ohne Anspruch auf Vollständigkeit).
Erstens: Es ist nicht praktisch oder bequem sein Leben nach diesen Erkenntnis umzustellen. Eine so einfache Umstellung wie im Falle von Handynutzung gibt es hier nicht. Strahlung ist blöd, aber Smartphone ist super. Dies führt dann zu absurden Dingen, dass Smartphonebesitzer sich gegen die Installation von xG (x > 2) Antennen wehren.
Zweitens wenn es ein tiefsitzende Einstellung gibt, das berühmt berüchtigte Mindset, dann werden Fakten einfach anders interpretiert. Habe mal ein Dokumentarfilm zu Creationisten bzw. in letzter Zeit zu Flat-Earth gesehen, wie verschroben Fakten selektiert bzw. ignoriert werden und auch noch einfach passend gemacht werden. Auch hier: Die Meinung wird nicht angepasst, sondern die Erfahrung anders bewertet.
Das Muster Erfahrung vs. Meinung funktioniert nur bei relativ einfachen Dingen, die zudem kein Veränderung des Mindset verlangen.
Allerdings bin ich bei ihnen, dass man so viele Dinge in Bewegung bringen kann, wenn Menschen Erfahrungen machen. Man muss ja auch nicht jeden überzeugen.
Danke für den Beitrag.
persönliche Erfahrung ist größer als jede Statistik, das erlebe ich jeden Tag aufs neue.
>“Aber – wie gesagt – Menschen liegen häufiger falsch als ein Arzt.“
Ist das eine Behauptung, Ärzte sind keine Menschen oder einfach ein Tippfehler und es ist gemeint „Menschen liegen häufiger falsch als ein Computer“ ? (Letzter Satz direkt über dem Bild))
… ich hatte das gelesen als „… Patienten liegen …“
Dass persönliche Erfahrungen von vielen höher bewertet werden als Informationen ist ein alter Hut. Das Stereotyp, dass Ältere dem neuen nicht trauen ist auch nicht gerade taufrisch. Das hat nichts mit Algorithmen oder Robotern zu tun.
Was ich für relevant halte ist, dass durch die verstärkte Nutzung von Datenverarbeitung und den Aufbau des Internet, diese Algorithmen eine enorme Reichweite und Potenz bekommen haben. Die neuesten Bekenntnisse zum Datenschutz und dem Respekt vor der Privatsphäre im Rahmen der 5 Mrd. $ Strafe, (Facebook hat 2018 22 Mrd. 4 Gewinn erwirtschaftet) zeigen, was diese Algorithmen bewirken und wie ihre Nutznießer diese mit Klauen und Zähnen verteidigen.
Fatal ist dabei, dass all diese Datenverarbeitung nicht vom Himmel fällt, sondern von gut verdienenden Personen gemacht und genutzt werden. Was für eine Moral müssen diese Leute haben? Software zur Ermittlung von Soziogrammen entwickeln? Die nur dazu dienen, dass Werbebotschaften punktgenau platzieren werden und so besser wirken? Und genau diese Leute sollen die Datenverarbeitung in selbstfahrende Autos einbringen, mit der dann über Menschenleben entschieden wird?
Insofern stimme ich Schip nicht zu: „Ist es nicht eher so, dass das fortlaufende Anhäufen von Wissen, Produkten und Menschen und die Beschleunigung der „Versorgung“ dieser Massen mit Produkten und Dienstleistungen problematischer ist als die Mittel die dazu benutzt werden?“
Nein, die Beschleunigung der Versorgung dieser Massen mit Produkten und Dienstleistungen ist ein Ergebnis der gezielt zu diesem Zweck eingesetzten Algorithmen: Personalisierte Werbung, Zensur kritischer Kommentare, diverse als kleine Litfaßsäulen getarnte Einkaufs-Assistentinnen für ein leichteres Leben zu Hause, etc. Hier werden die „Grenzen des Wachstums“ herausgefordert. Obwohl uns die Exponentialfunktion sagt, dass die Bäume immer rascher dem Ende ihres Wachstums entgegenwachsen.
Hallo,
wie sagt Herr Dueck gerne und immer wieder : „Tut was“!
Also vielleicht einfach bei der nächsten Gelegenheit mal anfangen.
Z.B.: Konditionieren – wenn der Bauch meckert, bis drei zählen- nochmal überlegen und unter dem Spirit „Konzilianz“ reagieren. Die Welt wird besser. Tu was!
Liebe Grüsse Uwe Dietrich
Trauen wir uns selbst, ist die Frage. Haben diejenigen, die es dem Rechner beibrachten, „richtig“ gemacht?
Wenn nicht, tja, dann haben wir ein Problem. Immer dann, wenn ein Automatismus keine Abweichung von der „Norm“ zuläßt, wenn ein Ergebnis nicht in den vorher berechneten Ergebnisraum passt. Das nennt man Skalierung. Und die Gretchenfrage lautet ob die Beteiligten ihre Hausaufgaben gemacht haben.
So sprechen wir von personalisierten Dienstleistungen (oder eben Werbung – ist ja irgendwie auch eine Dienstleistung). Sprachlich ist das ein Problem, weil es zwar nett klingt, aber das Gegenteil der Fall ist: Nicht das Individuelle steuert den Rechner, sondern die Zuordnung des Individuellen durch den Rechner zu einer Klasse oder Gruppe von Selbstähnlichen Dingen steuert der Verhalten des Rechners.
Das Beispiel mit dem Ausländer verstehe ich nicht. Alle Menschen einer bestimmten Herkunft über einen Kamm scheren? Ist das nicht rassistisch? Gibt es nicht überall auf der Welt tolle Menschjen und Idioten? Was hat die Herkunft damit zu tun und wieso betrifft das Urteil über einen sofort wieder alle?
Das spielt auf Leute „im Osten“ an, die faktisch keine Ausländer kennen, sie aber unbekannterweise ablehnen. Wenn sie dann ein paar kennenlernen, ist wieder alles gut…Ich habe dazu ein DD aus unserem Ort geschrieben:
https://www.omnisophie.com/dd279-ich-will-sie-sehen-vor-denen-ich-angst-habe-darf-ich-november-279/
DD279.
Danke lieber Hr. Dueck und allen anderen für die Anregungen!
Jetzt meine: Die dunkelgraue Schrift auf hellgrauem Hintergrund ist anstrengend! Was soll ich jetzt aus dieser Erfahrung machen..?
Die pdf Version lesen!
Also, ganz ad hoc. Ist das eine intelligente Antwor / Lösung?
Stehen denn die Kommentare auch in dem PDF grau auf grau??
Als Wissenschaftler wäre es durchaus angemessen zu akzeptieren, dass der Kontrast hier im Blog fürs Lesen nicht gerade vorteilhaft ist.
Das muß man Christian auf alle Fälle zugute halten.
Man könnte es aber auch mit der „Österreichischen Kriegsflagge“ halten. Weißer Adler auf weißem Grund, Ha ha ha. Oder richtig anstrengende Kombinationen wie z.B rote Schrift auf gelbem Hintergrund, beides ganz grell.
Innovativ wäre z.B. eine Auswahlbox für die Farben für Schrift und für Hintergrund. Unendliche Vielfalt! Aber technisch wahrscheinlich unglaublich schwierig, wie eben alle Algorithmen im Computerbereich, die uns das Leben so wunderbar verkomplizieren, sorry vereinfachen.
Nun ja, Kritik auszuhalten ist schon anstrengend.
Aber es ist Ihnen klar, dass größere Änderungen in WordPress-Themes schnell ein paar hundert Euro und mehr kosten, eine Auswahlbox dann ????
Das ist eine Hobby-Webseite und ich bin kein Informatiker, der das selbst kann, und bei jedem Wunsch sofort „macht“.
Genau, hab ich ja geschrieben, dass es unglaublich schwierig sein wird. Möglicherweise ist aber „schwarz auf weiß“ gar nicht so schwer. Momentan, in der Kommentarbox schreibe ich ja schwarz auf weiß! hinter der Kommentarbox ist sogar noch ein helleres grau, als das von Christian kritisierte.
Vielleicht gibt es ja in der Community da draußen jemanden, der das auswendig weis?? Ob der allerdings diesen Text gerade ließt??
Übrigens: Die Informatiker die ich kenne könnten das auch nicht, da die sich mit den höheren Ebenen beschäftigen, nicht mit Webseiten gestalten.