Forschende der University of Utah präsentierten ein Rahmenmodell zur Bewertung der Automatisierung psychotherapeutischer Arbeit durch konversationelle KI, insbesondere durch große Sprachmodelle (LLMs). Das Modell trennt die grundlegende Frage, ob Maschinen Therapeutinnen ersetzen könnten, von praktischen Fragen zu Nutzung, Risiko und Verantwortung.
Leitend ist eine Einteilung in vier Kategorien: A = skriptgesteuerte Systeme mit vorformulierten Inhalten, B = KI, die Therapiesitzungen sichtet und bewertet, C = KI, die Interventionen oder Formulierungen vorschlägt, während Fachpersonen behandeln, und D = autonome Agenten, die Therapie direkt anbieten. Die Forschenden bewerteten Nützlichkeit und Risiken jeder Kategorie und betonten, dass Nutzer nicht immer erkennen, welches Automatisierungsniveau angewendet wird; das wirft Fragen zu Einwilligung und Verantwortung auf.
Das Team plant weitere Arbeit zur Evaluation und zum Mentoring von Klinikpersonal und will in Zusammenarbeit mit SafeUT Werkzeuge entwickeln, die Krisenberaterinnen und -beratern Feedback geben. Die Autorinnen empfehlen, mit leichteren, risikoärmeren Tools zu beginnen und Nutzen wie Schäden systematisch zu untersuchen.
Schwierige Wörter
- rahmenmodell — ein Modell zur Bewertung komplexer Situationen
- automatisierung — das Ersetzen menschlicher Arbeit durch Maschinen
- konversationell — so, dass es in Gesprächen mit Menschen funktioniertkonversationelle
- autonom — selbstständig handelnd ohne direkte menschliche Kontrolleautonome
- einwilligung — die Zustimmung einer Person vor einer Handlung
- verantwortung — die Pflicht, für Folgen zu sorgen oder zu haften
- intervention — gezielte Handlung oder Maßnahme zur HilfeInterventionen
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Würden Sie lieber mit einer menschlichen Therapeutin oder mit einer konversationellen KI über persönliche Probleme sprechen? Warum?
- Welche Vorteile und Risiken sehen Sie, wenn KI während einer Behandlung Interventionen vorschlägt?
- Wie sollte Ihrer Meinung nach die Einwilligung von Nutzerinnen geregelt werden, wenn automatisierte Werkzeuge genutzt werden?
Verwandte Artikel
Erklärbare KI hilft Medizinstudierenden beim Nähen von Inzisionen
Forscherinnen und Forscher der Johns Hopkins University entwickelten eine erklärbare KI, die Medizinstudierende beim Nähen (Suturing) anleitet und sofortes, personalisiertes Feedback per Textnachricht liefert. Eine kleine Studie mit 12 Studierenden zeigte unterschiedliche Lernfortschritte.
Psychische Erkrankungen erhöhen Risiko für körperliche Verletzungen
Neue Forschung zeigt: Menschen mit psychischen Erkrankungen haben ein deutlich höheres Risiko für selbstverletzende, durch Gewalt verursachte und unabsichtliche Verletzungen. Die Studie basiert auf großen Bevölkerungsdaten und fordert mehr Prävention in der Versorgung.