Forschende der University of Utah präsentierten ein Rahmenmodell zur Bewertung der Automatisierung psychotherapeutischer Arbeit durch konversationelle KI, insbesondere durch große Sprachmodelle (LLMs). Das Modell trennt die grundlegende Frage, ob Maschinen Therapeutinnen ersetzen könnten, von praktischen Fragen zu Nutzung, Risiko und Verantwortung.
Leitend ist eine Einteilung in vier Kategorien: A = skriptgesteuerte Systeme mit vorformulierten Inhalten, B = KI, die Therapiesitzungen sichtet und bewertet, C = KI, die Interventionen oder Formulierungen vorschlägt, während Fachpersonen behandeln, und D = autonome Agenten, die Therapie direkt anbieten. Die Forschenden bewerteten Nützlichkeit und Risiken jeder Kategorie und betonten, dass Nutzer nicht immer erkennen, welches Automatisierungsniveau angewendet wird; das wirft Fragen zu Einwilligung und Verantwortung auf.
Das Team plant weitere Arbeit zur Evaluation und zum Mentoring von Klinikpersonal und will in Zusammenarbeit mit SafeUT Werkzeuge entwickeln, die Krisenberaterinnen und -beratern Feedback geben. Die Autorinnen empfehlen, mit leichteren, risikoärmeren Tools zu beginnen und Nutzen wie Schäden systematisch zu untersuchen.
Schwierige Wörter
- rahmenmodell — ein Modell zur Bewertung komplexer Situationen
- automatisierung — das Ersetzen menschlicher Arbeit durch Maschinen
- konversationell — so, dass es in Gesprächen mit Menschen funktioniertkonversationelle
- autonom — selbstständig handelnd ohne direkte menschliche Kontrolleautonome
- einwilligung — die Zustimmung einer Person vor einer Handlung
- verantwortung — die Pflicht, für Folgen zu sorgen oder zu haften
- intervention — gezielte Handlung oder Maßnahme zur HilfeInterventionen
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Würden Sie lieber mit einer menschlichen Therapeutin oder mit einer konversationellen KI über persönliche Probleme sprechen? Warum?
- Welche Vorteile und Risiken sehen Sie, wenn KI während einer Behandlung Interventionen vorschlägt?
- Wie sollte Ihrer Meinung nach die Einwilligung von Nutzerinnen geregelt werden, wenn automatisierte Werkzeuge genutzt werden?
Verwandte Artikel
Hinweise auf Weltverständnis in KI‑Sprachmodellen
Forscher untersuchten Sprachmodelle und fanden, dass große KI‑Modelle interne Repräsentationen für alltägliche, unwahrscheinliche, unmögliche und unsinnige Ereignisse bilden. Diese internen Muster entsprechen oft menschlichen Plausibilitätsurteilen.
Vibe coding: AI erzeugt verwundbaren Code
Forscher warnen vor dem Programmierstil „vibe coding“, der oft unsicheren Code freigibt. Ein Tool der Georgia Tech durchsuchte über 43.000 Sicherheitswarnungen und fand zahlreiche Fälle, in denen generative KI bei der Entstehung unsicheren Codes half.
Autorennennung verändert Bewertungen großer Sprachmodelle
Forscher der Universität Zürich zeigen, dass große Sprachmodelle einen Text anders bewerten, wenn ihnen der Autor genannt wird. Ohne Quellenangabe stimmen die Modelle über alle Themen zu über 90% überein; Nennung von Autorität enthüllt versteckte Vorurteile.
Smarte Kopfhörer isolieren Stimmen im Lärm
Forscher entwickelten smarte Kopfhörer mit KI, die im Gespräch den Turn‑Taking‑Rhythmus erkennen und Stimmen anderer Personen isolieren. Der Prototyp lief auf handelsüblicher Hardware, wurde in Suzhou vorgestellt und der Quellcode ist verfügbar.