- Grote taalmodellen geven advies en instructies aan mensen.
- Mensen kijken naar de veiligheid van deze taalmodellen.
- Ze willen dat de modellen geen gevaarlijke adviezen geven.
- Veiligheid is belangrijk bij gevoelige vragen en instructies.
- Soms neemt de nauwkeurigheid van modellen af na training.
- Sommige veiligheidsregels in modellen zijn te eenvoudig.
- Gebruikers kunnen die eenvoudige regels soms omzeilen.
- Mensen zoeken naar manieren om veiligheid te verbeteren.
- Het doel is veilige antwoorden en goede prestaties samen.
Moeilijke woorden
- taalmodel — computerprogramma dat tekst maakt en antwoorden geefttaalmodellen
- veiligheid — bescherming tegen gevaar of fouten
- gevaarlijk — dat iets schade kan veroorzakengevaarlijke
- nauwkeurigheid — hoe precies of correct iets is
- training — oefening of leren voor een computermodel
- omzeilen — een regel vermijden of voorbijgaan
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Vind jij veiligheid belangrijk bij computers of apps?
- Vraag je soms advies aan internet of een computer?
- Heb je ooit een fout advies gekregen van een computer?
Gerelateerde artikelen
Eiwit maakt eierstokkankercellen resistent tegen chemotherapie
Onderzoekers ontdekten dat kankercellen hun interne skelet veranderen en een eiwit (TPPP3) gebruiken om resistent te worden tegen cisplatin. Het blokkeren van TPPP3 herstelt in modellen de gevoeligheid voor behandeling.
AI kan vroeg risico op ADHD bij kinderen signaleren
Onderzoekers laten zien dat kunstmatige intelligentie routinematige medische dossiers kan gebruiken om jaren vóór een diagnose het risico op ADHD in te schatten. Het hulpmiddel markeert kinderen voor extra aandacht, maar stelt geen diagnose.
Proef in Malawi zoekt eenvoudiger behandeling voor cryptocokkenmeningitis
Cryptokokkenmeningitis treft vooral mensen met HIV en veroorzaakt veel doden in Sub-Sahara Afrika. Een klinische proef in Kamuzu onderzoekt een makkelijker vorm van flucytosine en verwacht resultaten in 2027.
Hoe geldgedrag het huwelijksgeluk beïnvloedt
Onderzoekers van de University of Georgia onderzochten hoe uitgave- en spaarpatronen samenhangen met tevredenheid over huwelijk en financiën. Ze vonden dat partners die elkaar als spaarders zagen vaker meer huwelijksgeluk en financieel welbevinden rapporteerden.