Ein Forschungsteam der University of Utah hat ein Rahmenmodell entwickelt, das beurteilen soll, welche Teile psychotherapeutischer Arbeit durch konversationelle künstliche Intelligenz, insbesondere durch große Sprachmodelle (LLMs), automatisiert werden könnten. Das Modell erschien vorab zur Veröffentlichung in Current Directions in Psychological Science und wurde von Zac Imel geleitet; Coautorinnen und Coautoren sind unter anderem Vivek Srikumar, Brent Kious sowie Mitarbeitende weiterer Institutionen.
Das Team beschreibt vier Automatisierungskategorien auf einem Kontinuum von geringer bis hoher Automation: Kategorie A umfasst skriptgesteuerte Systeme mit vorformulierten Inhalten und Entscheidungsbäumen; B bezeichnet KI, die Sitzungen sichtet und Feedback oder Bewertungen liefert; C meint KI, die Therapeutinnen und Therapeuten Vorschläge zu Interventionen, Hinweisen oder Formulierungen macht; D steht für autonome Agenten, die unmittelbar mit Patientinnen und Patienten interagieren können, gegebenenfalls unter Aufsicht.
Die Forschenden bewerteten Nützlichkeit und Risiken jeder Kategorie. Sie weisen darauf hin, dass einfache Notiz‑ oder Coaching‑Werkzeuge ein anderes Risikoprofil haben als vollständig autonome KI‑Therapie. Da Nutzende und Gesundheitssysteme nicht immer wissen, welches Automatisierungsniveau eingesetzt wird, entstehen Fragen zu Einwilligung, Verantwortung und Folgen von Fehlern. In Kooperation mit SafeUT sollen Werkzeuge zur Auswertung von Kriseneinsätzen und zur Rückmeldung an Beraterinnen entwickelt werden. Die Autorinnen empfehlen, mit leichteren, risikoärmeren Werkzeugen zu beginnen und Nutzen sowie Schäden systematisch zu untersuchen, da LLMs Informationen erfinden, Vorurteile kodieren und unvorhersehbar handeln können.
Schwierige Wörter
- rahmenmodell — ein strukturiertes Konzept zur Analyse eines Problems
- konversationelle künstliche intelligenz — Computerprogramme, die natürliche Gespräche mit Menschen führen
- automatisierungskategorie — Stufe, die zeigt, wie viel Arbeit von Maschinen erledigt wirdAutomatisierungskategorien
- entscheidungsbaum — eine Abfolge von Regeln zur Auswahl von HandlungenEntscheidungsbäumen
- agent — ein Programm, das selbstständig Aufgaben ausführtAgenten
- einwilligung — Zustimmung einer Person vor einer Handlung
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Welche Vorteile und Risiken sehen Sie persönlich bei der Nutzung konversationeller KI in der Psychotherapie?
- Wie sollte die Einwilligung von Patientinnen geregelt werden, wenn unterschiedliche Automatisierungsstufen eingesetzt werden?
- Welche Kriterien wären wichtig, um zu entscheiden, ob ein Werkzeug ausreichend risikoarm für den Einsatz ist?
Verwandte Artikel
Wissensgeleitete KI schreibt bessere Überschriften
Forschende der Yale School of Management zeigen, wie ein großes Sprachmodell durch das Generieren und Validieren von Hypothesen Überschriften erzeugt, die mehr Engagement und Vertrauen bringen. Das System wurde mit Upworthy‑Daten getestet und von Menschen bewertet.
Studie: PHQ-Fragen führen zu Missverständnissen
Eine Studie in JAMA Psychiatry zeigt, dass Patientinnen und Patienten das PHQ unterschiedlich verstehen. Die Autoren empfehlen, Häufigkeit und Belastung eines Symptoms getrennt zu fragen, und schlagen dafür einfache Formulierungen vor.
Unsichere Behandlungen fördern HIV-Ausbrüche in Pakistan
In Pakistan steigen HIV-Infektionen, Experten sehen unsichere medizinische Praktiken als Ursache. Eine BBC-Recherche zeigte offenbar die Wiederverwendung von Spritzen; immer mehr Frauen und Kinder sind betroffen, WHO-Zahlen dokumentieren den Anstieg.
Sichtbarkeit der Identität beeinflusst tägliche Gefühle
Eine Studie mit jungen Menschen aus sexuellen und geschlechtlichen Minderheiten zeigt: Verbergen der Identität hängt mit mehr emotionaler Belastung zusammen, Offenheit mit mehr Klarheit über das eigene Ich. Die Untersuchung basiert auf Tausenden Echtzeitberichten.
