Ein Forschungsteam der University of Utah hat ein Rahmenmodell entwickelt, das beurteilen soll, welche Teile psychotherapeutischer Arbeit durch konversationelle künstliche Intelligenz, insbesondere durch große Sprachmodelle (LLMs), automatisiert werden könnten. Das Modell erschien vorab zur Veröffentlichung in Current Directions in Psychological Science und wurde von Zac Imel geleitet; Coautorinnen und Coautoren sind unter anderem Vivek Srikumar, Brent Kious sowie Mitarbeitende weiterer Institutionen.
Das Team beschreibt vier Automatisierungskategorien auf einem Kontinuum von geringer bis hoher Automation: Kategorie A umfasst skriptgesteuerte Systeme mit vorformulierten Inhalten und Entscheidungsbäumen; B bezeichnet KI, die Sitzungen sichtet und Feedback oder Bewertungen liefert; C meint KI, die Therapeutinnen und Therapeuten Vorschläge zu Interventionen, Hinweisen oder Formulierungen macht; D steht für autonome Agenten, die unmittelbar mit Patientinnen und Patienten interagieren können, gegebenenfalls unter Aufsicht.
Die Forschenden bewerteten Nützlichkeit und Risiken jeder Kategorie. Sie weisen darauf hin, dass einfache Notiz‑ oder Coaching‑Werkzeuge ein anderes Risikoprofil haben als vollständig autonome KI‑Therapie. Da Nutzende und Gesundheitssysteme nicht immer wissen, welches Automatisierungsniveau eingesetzt wird, entstehen Fragen zu Einwilligung, Verantwortung und Folgen von Fehlern. In Kooperation mit SafeUT sollen Werkzeuge zur Auswertung von Kriseneinsätzen und zur Rückmeldung an Beraterinnen entwickelt werden. Die Autorinnen empfehlen, mit leichteren, risikoärmeren Werkzeugen zu beginnen und Nutzen sowie Schäden systematisch zu untersuchen, da LLMs Informationen erfinden, Vorurteile kodieren und unvorhersehbar handeln können.
Schwierige Wörter
- rahmenmodell — ein strukturiertes Konzept zur Analyse eines Problems
- konversationelle künstliche intelligenz — Computerprogramme, die natürliche Gespräche mit Menschen führen
- automatisierungskategorie — Stufe, die zeigt, wie viel Arbeit von Maschinen erledigt wirdAutomatisierungskategorien
- entscheidungsbaum — eine Abfolge von Regeln zur Auswahl von HandlungenEntscheidungsbäumen
- agent — ein Programm, das selbstständig Aufgaben ausführtAgenten
- einwilligung — Zustimmung einer Person vor einer Handlung
Tipp: Fahre über markierte Wörter oder tippe darauf, um kurze Definitionen zu sehen – während du liest oder zuhörst.
Diskussionsfragen
- Welche Vorteile und Risiken sehen Sie persönlich bei der Nutzung konversationeller KI in der Psychotherapie?
- Wie sollte die Einwilligung von Patientinnen geregelt werden, wenn unterschiedliche Automatisierungsstufen eingesetzt werden?
- Welche Kriterien wären wichtig, um zu entscheiden, ob ein Werkzeug ausreichend risikoarm für den Einsatz ist?
Verwandte Artikel
Forscher bauen chips nach dem Vorbild des Gehirns
Wissenschaftlerinnen und Wissenschaftler entwickeln neuromorphe Hardware, die wie das Gehirn arbeitet. Ziel ist, den steigenden Energiebedarf von KI-Rechenzentren zu senken und energieeffizientere, gehirnähnliche Systeme zu entwerfen.
Warum KI voreingenommen ist
Forscher der University of Texas at Austin untersuchten problematische Algorithmen und fanden drei Hauptursachen für KI-Bias: fehlende klare Entscheidungsgrundlagen, vereinfachte Modelle der Realität und fehlende Vielfalt bei den Entwicklern. Mehr als bessere Genauigkeit ist nötig.
Energieunsicherheit und mehr Angst und Depression in US‑Haushalten
Eine Studie findet, dass Energieunsicherheit in vielen US‑Haushalten mit höheren Raten von Angststörungen und Depressionen verbunden ist. Forschende empfehlen, in der Gesundheitsversorgung nach Energieproblemen zu fragen und weitere Studien durchzuführen.
Vogelschwarm‑Ideen gegen KI‑Halluzinationen
Forscher nutzen Muster aus Vogelschwärmen, um lange Texte vor der Zusammenfassung durch große Sprachmodelle zu ordnen. Der Ansatz reduziert Wiederholungen und verbessert die faktische Genauigkeit, bleibt aber eine Ergänzung zu den Modellen.
VillainNet: Sicherheitslücke bei selbstfahrenden Autos
Forscher entdeckten die Hintertür VillainNet, die Supernetzwerke in autonomen Fahrsystemen ausnutzen kann. Aktiviert könnte sie Angreifern erlauben, Fahrzeuge zu übernehmen; die Studie stammt von Georgia Tech und wurde im Oktober 2025 vorgestellt.