Onderzoekers van de University of Utah hebben een raamwerk ontwikkeld om te beoordelen in welke mate therapeutisch werk geautomatiseerd kan worden naarmate converserende AI en grote taalmodellen (LLMs) gangbaar worden. Het raamwerk, vooraf gepubliceerd voor publicatie in Current Directions in Psychological Science, is geleid door Zac Imel en ontwikkeld met collega’s.
Het team verdeelt automatisering in vier categorieën: gescripte systemen; AI die therapeuten evalueert; AI die therapeuten assisteert; en AI die direct therapie levert. Ze beoordeelden elke categorie op potentiële bruikbaarheid en op risico's, en wijzen erop dat eenvoudige notitiehulpmiddelen een ander risicoprofiel hebben dan volledig autonome AI-therapie.
De onderzoekers werken samen met SafeUT om tools te ontwikkelen die crisiscounselingsessies evalueren en feedback geven. Zij waarschuwen dat LLMs kunnen verzinnen, vooroordelen kunnen bevatten en niet altijd evidence-based werken, en adviseren te beginnen met lichtere, laag-risico tools.
Moeilijke woorden
- raamwerk — Structuur om iets systematisch te beoordelen
- automatiseren — Een taak door machines laten uitvoerengeautomatiseerd
- therapeutisch — Gerelateerd aan behandeling of therapie
- gescripte systemen — Systemen die volgens vaste scripts werken
- evalueren — Iets onderzoeken en een oordeel gevenevalueert
- assisteren — Iemand helpen bij een taak of werkassisteert
- autonoom — Zelfstandig werken zonder menselijke leidingautonome
- vooroordeel — Een oneerlijke mening over een groepvooroordelen
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Zou je vertrouwen op AI die therapeuten assisteert in een echte therapiesituatie? Waarom wel of niet?
- Wat vind je van het advies om te beginnen met lichtere, laag-risico tools in de zorg?
- Welke problemen kunnen vooroordelen in AI volgens jou veroorzaken tijdens counseling of therapie?
Gerelateerde artikelen
Onderzoekers waarschuwen voor risico's van browsers met AI-agents
Een studie van de University of Washington vindt dat browsers met ingebouwde AI-agents grote beveiligingsrisico's kunnen hebben. Onderzoekers tonen voorbeelden van datadiefstal en noemen twee hoofdtypen technische kwetsbaarheden.
AI helpt jongeren met seksuele gezondheid in Latijns-Amerika
Gezondheidsgroepen in Latijns-Amerika gebruiken kunstmatige intelligentie om seksuele en reproductieve gezondheidsinformatie te geven aan jongeren en gemarginaliseerde groepen. Projecten in Peru en Argentinië proberen taalbarrières, stigma en beperkte zorgaanbod te verminderen.
Taalmodellen leren plausibiliteit van gebeurtenissen
Onderzoekers testten of moderne taalmodellen echte wereldkennis hebben. Ze vonden interne vectoren die plausibiliteitscategorieën weerspiegelen en die overeenkomen met menselijke oordelen, met mogelijke gevolgen voor betere betrouwbaarheid van modellen.
AI-koptelefoon isoleert stemmen in lawaai
Onderzoekers ontwikkelden een prototype-koptelefoon die met kunstmatige intelligentie het beurtwisselingsritme van een gesprek volgt en zo stemmen van gesprekspartners isoleert. Het systeem werkt met korte audiofragmenten en de code is open-source.
AI kan vroeg risico op ADHD bij kinderen signaleren
Onderzoekers laten zien dat kunstmatige intelligentie routinematige medische dossiers kan gebruiken om jaren vóór een diagnose het risico op ADHD in te schatten. Het hulpmiddel markeert kinderen voor extra aandacht, maar stelt geen diagnose.