Ein Forschungsteam der University of Utah hat ein Rahmenmodell entwickelt, das beurteilen soll, welche Teile psychotherapeutischer Arbeit durch konversationelle künstliche Intelligenz, insbesondere durch große Sprachmodelle (LLMs), automatisiert werden könnten. Das Modell erschien vorab zur Veröffentlichung in Current Directions in Psychological Science und wurde von Zac Imel geleitet; Coautorinnen und Coautoren sind unter anderem Vivek Srikumar, Brent Kious sowie Mitarbeitende weiterer Institutionen.
Das Team beschreibt vier Automatisierungskategorien auf einem Kontinuum von geringer bis hoher Automation: Kategorie A umfasst skriptgesteuerte Systeme mit vorformulierten Inhalten und Entscheidungsbäumen; B bezeichnet KI, die Sitzungen sichtet und Feedback oder Bewertungen liefert; C meint KI, die Therapeutinnen und Therapeuten Vorschläge zu Interventionen, Hinweisen oder Formulierungen macht; D steht für autonome Agenten, die unmittelbar mit Patientinnen und Patienten interagieren können, gegebenenfalls unter Aufsicht.
Die Forschenden bewerteten Nützlichkeit und Risiken jeder Kategorie. Sie weisen darauf hin, dass einfache Notiz‑ oder Coaching‑Werkzeuge ein anderes Risikoprofil haben als vollständig autonome KI‑Therapie. Da Nutzende und Gesundheitssysteme nicht immer wissen, welches Automatisierungsniveau eingesetzt wird, entstehen Fragen zu Einwilligung, Verantwortung und Folgen von Fehlern. In Kooperation mit SafeUT sollen Werkzeuge zur Auswertung von Kriseneinsätzen und zur Rückmeldung an Beraterinnen entwickelt werden. Die Autorinnen empfehlen, mit leichteren, risikoärmeren Werkzeugen zu beginnen und Nutzen sowie Schäden systematisch zu untersuchen, da LLMs Informationen erfinden, Vorurteile kodieren und unvorhersehbar handeln können.
Schwierige Wörter
- rahmenmodell — ein strukturiertes Konzept zur Analyse eines Problems
- konversationelle künstliche intelligenz — Computerprogramme, die natürliche Gespräche mit Menschen führen
- automatisierungskategorie — Stufe, die zeigt, wie viel Arbeit von Maschinen erledigt wirdAutomatisierungskategorien
- entscheidungsbaum — eine Abfolge von Regeln zur Auswahl von HandlungenEntscheidungsbäumen
- agent — ein Programm, das selbstständig Aufgaben ausführtAgenten
- einwilligung — Zustimmung einer Person vor einer Handlung
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Welche Vorteile und Risiken sehen Sie persönlich bei der Nutzung konversationeller KI in der Psychotherapie?
- Wie sollte die Einwilligung von Patientinnen geregelt werden, wenn unterschiedliche Automatisierungsstufen eingesetzt werden?
- Welche Kriterien wären wichtig, um zu entscheiden, ob ein Werkzeug ausreichend risikoarm für den Einsatz ist?
Verwandte Artikel
Liefermahlzeiten können depressive Symptome verringern
Eine kleine Studie der University of Michigan untersuchte zweiwöchige Pläne mit minimal verarbeiteten Mahlzeiten. Beide Gruppen aßen gesünder, doch die Gruppe mit fertigen Liefermahlzeiten zeigte stärkere Rückgänge bei depressiven Symptomen.
Forscher bauen chips nach dem Vorbild des Gehirns
Wissenschaftlerinnen und Wissenschaftler entwickeln neuromorphe Hardware, die wie das Gehirn arbeitet. Ziel ist, den steigenden Energiebedarf von KI-Rechenzentren zu senken und energieeffizientere, gehirnähnliche Systeme zu entwerfen.
Genetische Studie: Viele Suizide ohne Depression
Neue Forschung zeigt, dass viele Menschen, die durch Suizid sterben, keine dokumentierte Depression oder suizidale Vorgeschichte haben. Die Studie analysierte anonymisierte genetische Daten und wurde in JAMA Network Open veröffentlicht.
