Eine neue Studie legt nahe, dass ein Placebo-Effekt vorliegt, wenn Menschen erwarten, dass ihre Leistung durch Augmentationstechnologien wie künstliche Intelligenz (KI) gesteigert wird. Die Forscher fanden heraus, dass Personen mit hohen Erwartungen an diese Technologien riskantere Entscheidungen treffen, was ein Problem sein könnte, wenn Menschen diese Technologien übernehmen, ohne deren Vorteile und Grenzen richtig zu verstehen.
Augmentationstechnologien zur Steigerung unserer körperlichen, kognitiven oder sensorischen Leistungsfähigkeit sind alltäglich geworden. Einige sind so weit verbreitet, dass sie unsichtbar geworden sind – zum Beispiel die Rechtschreibprüfung – und es entstehen neue Technologien, die unsere Fähigkeiten über die menschlichen Grenzen hinaus erweitern könnten, wie Exoskelette und KI-basierte Sehverbesserung. Der Hype um diese Technologien weckt aber auch Erwartungen, die Menschen dazu veranlassen könnten, ihr Verhalten zu ändern.
„Menschen sind eher geneigt, Risiken einzugehen, wenn sie glauben, dass sie durch Spitzentechnologien wie KI oder Gehirn-Computer-Schnittstellen verbessert werden“, sagt Robin Welsch, Assistenzprofessor an der Aalto-Universität. „Dies geschieht auch dann, wenn keine tatsächliche Verbesserungstechnologie beteiligt ist, was darauf hindeutet, dass es eher um die Erwartungen der Menschen als um eine spürbare Verbesserung geht.“ Die Ergebnisse deuten auch darauf hin, dass ein starker Glaube an Verbesserungen, der auf einem gefälschten System basiert, die Entscheidungsfindung verändern kann.“
Vertrauen Sie dem Prozessor nicht
Gemeinsam mit Kollegen der LMU München, der HU Berlin und der Aalto-Universität maß Welsch Entscheidungs- und Risikoverhalten mit einem bekannten psychologischen Experiment, der Columbia Card Task. Im Experiment gewinnen oder verlieren die Teilnehmer Punkte, indem sie Karten mit versteckten Werten aufdecken. Den 27 Teilnehmern wurde vorgegaukelt, dass eine KI-gesteuerte Gehirn-Computer-Schnittstelle, das Placebo, ihre kognitiven Fähigkeiten verbessern würde, indem binaurale Klänge zur Verfolgung der Verlustkarten verwendet würden.
Aber das Spiel war manipuliert – die Erweiterung brachte keinen wirklichen Nutzen und die Teilnehmer trafen fast nie auf eine Verlustkarte. Dennoch waren die meisten Teilnehmer der Meinung, dass die Augmentation ihnen dabei geholfen hatte, bessere Ergebnisse zu erzielen, und dass sie dadurch größere Risiken eingingen. Diese Ergebnisse zeigen, wie vorgetäuschte kognitive Verbesserungen echte Auswirkungen auf die Risikobereitschaft haben können.
„Der Hype um diese Technologien verzerrt die Erwartungen der Menschen“, sagt Steeven Villa, Doktorand an der LMU München. „Es kann dazu führen, dass Menschen riskantere Entscheidungen treffen und positive Benutzerbewertungen abgeben, was echte Konsequenzen haben kann.“
Technologie ist niemals neutral
Moderne KI-basierte Sehverbesserungstools stehen Feuerwehrleuten jetzt zur Verfügung, um durch Rauch zu sehen, und Fabrikarbeiter nutzen bereits Exoskelette, um Lasten zu handhaben, die den menschlichen Körper überfordern. Die schleichenden Auswirkungen generativer KI-Systeme könnten Wissensarbeitern ähnliche Impulse bieten. Die Autoren befürchten, dass ganze Berufszweige aufgrund falscher Erwartungen eine größere Risikobereitschaft entwickeln könnten.
„KI-basierte Technologien zur Verbesserung der Benutzer kommen immer häufiger zum Einsatz und spielen eine Rolle bei Entscheidungen im wirklichen Leben, die sich auf das Leben, das Wohlbefinden, das Selbstvertrauen und die Sicherheit der Menschen auswirken.“ sagt Thomas Kosch, Professor an der HU Berlin. „Um die Wirksamkeit neuer Technologien über den Hype hinaus sicherzustellen, sind placebokontrollierte Studien für eine genaue Bewertung und Validierung erforderlich, um Schlangenöl von echter Innovation zu unterscheiden.“
