In april presenteerde een onderzoeker een paper op de CHI-conferentie. Het team van Virginia Tech onderzocht wat er gebeurt als gebruikers eerst melden dat ze autistisch zijn voordat ze om sociaal advies vragen. Ze noteerden twaalf veelgenoemde stereotypen en maakten honderden alledaagse scenario’s met keuzevragen.
De onderzoekers testten zes grote taalmodellen, waaronder GPT-4. Wanneer autisme werd genoemd, verschoof het advies vaak naar veronderstellingen dat autistische mensen introvert of sociaal ongemakkelijk zijn. Het team sprak ook met gebruikers met autisme; sommige waren geschokt, anderen vonden het advies geruststellend. De onderzoekers hopen dat ontwikkelaars duidelijkere en eerlijkere systemen maken.
Moeilijke woorden
- onderzoeker — iemand die wetenschappelijk werk doet
- stereotype — een vaste, vereenvoudigde mening over groepenstereotypen
- scenario — een korte beschrijving van een mogelijke situatiescenario’s
- taalmodel — computerprogramma dat tekst begrijpt en maakttaalmodellen
- veronderstelling — een aanname of idee zonder zeker bewijsveronderstellingen
- ontwikkelaar — iemand die software of systemen maaktontwikkelaars
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Zou jij autisme noemen als je aan een computer om sociaal advies vraagt? Waarom?
- Wat betekent voor jou een eerlijk systeem als een gebruiker autisme vermeldt?
- Ken jij voorbeelden van stereotypen die mensen over anderen hebben?
Gerelateerde artikelen
Afrika op een kantelpunt: malaria en gezondheidssystemen
Op Wereldmalariadag (25 april) staat Afrika op een kantelpunt: eerdere winsten tegen malaria en kindersterfte stagneren of keren om. Fragmentatie in zorg en onderzoek belemmert snelle toepassing van oplossingen; lokaal onderzoek en integratie zijn dringend nodig.
AI helpt prothese natuurlijker grijpen
Onderzoekers voegden druk- en nabijheidssensoren en kunstmatige intelligentie toe aan een commerciële prothese. De combinatie verbeterde grijpprecisie en -veiligheid, verminderde mentale inspanning en maakte veel dagelijkse taken mogelijk zonder lange training.
Hersenactiviteit van muizen verandert tijdens de dag
Onderzoekers ontwikkelden nieuwe experimentele en computationele methoden om te zien welke delen van de muizenhersenen actief zijn tijdens de dag. Ze vonden dat activiteit zich verplaatst van binnenste hersenlagen naar de cortex en willen hiermee vermoeidheid beter begrijpen.
Gezichtsverlies: onderzoek en mogelijke behandelingen
Een nieuwe video bespreekt gezichtsverlies en onderzoekt of verloren zicht teruggegeven kan worden. Juliette McGregor van de University of Rochester legt uit dat blindheid een spectrum is en bespreekt onderzoek en toekomstige behandelideeën.