- Grote taalmodellen geven advies en instructies aan mensen.
- Mensen kijken naar de veiligheid van deze taalmodellen.
- Ze willen dat de modellen geen gevaarlijke adviezen geven.
- Veiligheid is belangrijk bij gevoelige vragen en instructies.
- Soms neemt de nauwkeurigheid van modellen af na training.
- Sommige veiligheidsregels in modellen zijn te eenvoudig.
- Gebruikers kunnen die eenvoudige regels soms omzeilen.
- Mensen zoeken naar manieren om veiligheid te verbeteren.
- Het doel is veilige antwoorden en goede prestaties samen.
Moeilijke woorden
- taalmodel — computerprogramma dat tekst maakt en antwoorden geefttaalmodellen
- veiligheid — bescherming tegen gevaar of fouten
- gevaarlijk — dat iets schade kan veroorzakengevaarlijke
- nauwkeurigheid — hoe precies of correct iets is
- training — oefening of leren voor een computermodel
- omzeilen — een regel vermijden of voorbijgaan
Tip: beweeg de muisaanwijzer over gemarkeerde woorden in het artikel, of tik erop om snelle definities te zien terwijl je leest of luistert.
Discussievragen
- Vind jij veiligheid belangrijk bij computers of apps?
- Vraag je soms advies aan internet of een computer?
- Heb je ooit een fout advies gekregen van een computer?
Gerelateerde artikelen
AI-test voorspelt terugkeer van borstkanker
Onderzoekers rapporteren in Nature Communications een AI-test die het risico op terugkeer van borstkanker voorspelt. De test combineert klinische gegevens en pathologieruitslagen en kan sneller en goedkoper zijn dan huidige genomische tests.
Vroeg teken: slechte contrastgevoeligheid bij ouderen
Onderzoekers vinden dat moeite met het lezen van vervagende letters op een oogkaart een vroeg waarschuwingssignaal kan zijn voor zichtproblemen die routineonderzoeken soms missen. De studie koppelt een drempel op de Pelli-Robson kaart aan dagelijkse beperkingen bij oudere volwassenen.
Elektriciteit en internet blokkeren AI-toegang in Sub-Sahara Afrika
Onbetrouwbare elektriciteit en dure, trage internetverbindingen beperken het gebruik van kunstmatige intelligentie in Sub-Sahara Afrika. Daardoor hebben veel scholen, gezondheidscentra en startups weinig voordeel van AI.
