Interaktion mit menschlichem Touch ist im Digitalen immer noch wertvoll. Wenn wir Befehle an ChatGPT formulieren, duzen wir das Programm und sagen „bitte“. Gesichtserkennungsprogramme zwinkern einem zu und Chatbots haben Namen, die an gute Freunde erinnern: Eliza, Alice, Fred, Lenny… und Tessa. Aus psychologischer Sicht sind solche Vermenschlichungen sinnvoll – wir vertrauen ihnen leichter unsere persönlichsten Gedanken und Fragen an, vom Flirten bis zur Medizin, vom Einkaufen bis zum Arbeiten.
Laut IBM basieren Chatbots primär auf Künstlicher Intelligenz und Natural Language Processing – mit dem Verstehen von Texteingaben können Antworten generiert werden, die die Unterhaltung mit einem menschlichen Gegenüber simulieren. Die Chancen sind hoch, dass auch Sie selbst dieses Jahr schon mit einem Chatbot gesprochen haben. Termin gebucht? Ein Produkt bestellt? Eine Serviceanfrage übermittelt?
Tessa übernahm im Frühjahr 2023 die Verantwortung für die Beratungsstelle der National Eating Disorders Association (NEDA), einer amerikanischen Non-Profit-Gesellschaft. Seit zwanzig Jahren war die NEDA-Helpline per Telefon und Chat Anlaufpunkt für alle Fragen in Sachen Essstörungen und medizinisch-psychologischer Beratung. Tessa war keine weitere Mitarbeiterin im Callcenter. Tessa war ein Chatbot – entwickelt in Zusammenarbeit mit einer medizinischen Fakultät und trainiert, um spezifisch auf Körperbildprobleme einzugehen und therapeutische Methoden anzuwenden.
Die Idee der Geschäftsleitung: Der intelligente Chatbot sollte nach und nach das gesamte Team ersetzen und so Kosten sparen.
Doch dann meldete sich Dr. Alexis Conason zu Wort. Die Psychologin und Spezialistin für Essstörungen hatte den Chatbot einem kritischen Test unterzogen. Ihr Ergebnis: besorgniserregend. Als Antwort auf Conasons eingegebenen Fragen zum Thema Selbstbild und Körperscham empfahl Tessa unter anderem, zum Abnehmen auf ein tägliches Kaloriendefizit zu achten – hochproblematisch, wie Conason bestätigt. „Jeglicher Fokus auf bewusstes Abnehmen verschärft und bestärkt eine Essstörung”, sagte sie gegenüber der New York Times.
Schon bald teilten auch andere Nutzer ihre Erlebnisse mit dem Chatbot. Einer selbst von Essstörung betroffenen Person empfahl Tessa nach eigenen Angaben, die eigenen Körpermaße mit einem Hautfaltenmessgerät zu messen – inklusive der Information, wo man ein solches kaufen könne.
Die Chancen sind hoch, dass auch Sie selbst dieses Jahr schon mit einem Chatbot gesprochen haben.
Im Gegensatz zu ChatGPT – ebenfalls ein Chatbotsystem – basiert Tessa nicht auf generativer KI-Technologie, sondern bezieht Informationen und Gesprächsbausteine aus einem eigens geschriebenen Programm, das von einem Team der Washington University School of Medicine entwickelt wurde. Psychiatrie-Professorin Ellen Fitzsimmons-Craft bestätigte gegenüber dem Technologiemagazin Wired, dass die teils beunruhigenden Antworten des Chatbots nicht Teil des Programms gewesen seien. Sie habe keine Ahnung, wie die widersprüchlichen Ratschläge in Tessas Gesprächsrepertoire gelangt sein könnten. „Unsere einzige Absicht war es, Einzelpersonen zu helfen und zur Vermeidung dieser schrecklichen Probleme beizutragen.“
Mit steigendem Druck in den sozialen Medien wurde Tessa schließlich nach wenigen Wochen Anfang Juni 2023 deaktiviert. Die Unsicherheit vieler Menschen gegenüber der Technologie bleibt. Ängste von Arbeitnehmern beziehen sich auf das rasante Wachstum von generativer KI-Technologie. Expertinnen und Experten mahnen für mehr Verantwortung. Die aktuelle Geschwindigkeit, mit der weltweit in Chatbots und KI investiert wird, macht vielen Menschen Angst. Ist ein selbstlernender Chatbot, der seine Reaktionen und Antworten immer wieder an den bisherigen Gesprächsverlauf anpasst, vertrauenswürdig? Selbst Sarah Bird, Head of Responsible AI bei Microsoft, räumt ein, dass auch ein Bot wie ChatGPT noch „träumen“ oder „halluzinieren“ könne, was zu Fehlinformationen führen könne.
Ungeachtet der Bedenken befinden sich Chatbots weltweit auf dem Vormarsch: Schätzungsweise 1,5 Milliarden Menschen benutzen regelmäßig Chatbots – die meisten davon in den Vereinigten Staaten, Großbritannien, Deutschland, Indien und Brasilien. Tendenz steigend: Einer Studie des KI-Unternehmens Tidio zufolge würden nur 38 Prozent der Befragten in Servicefragen lieber mit einem echten Menschen sprechen. Und diese werden sowieso immer weniger – Chatbots versprechen im Servicefeld große Einsparmöglichkeiten. Laut Tidio wurden im vergangenen Jahr rund 11 Milliarden Dollar durch den Einsatz von Chatbots eingespart.
Gleichzeitig wird laut dem Wirtschaftsmagazin Business Insider die Summe der über Chatbots getätigten Käufe im kommenden Jahr die Marke von 142 Milliarden Dollar knacken. 2019 waren es noch 2,8 Milliarden.
Chatbots sind gekommen, um zu bleiben. Mittels Deep-Learning werden sie immer mehr Bereiche auch zuverlässig abdecken können und auch in der Zukunft als digitale Ansprechpartner von Unternehmen für direkteren, schnelleren Service sorgen. Fakt ist dennoch: Unsere Gesellschaft steht vor einer Lernkurve der Medienkompetenz im Umgang mit Chatbots.
