Sistem kecerdasan buatan sering mengambil nilai dari data pelatihan. Penelitian di University of Washington menyelidiki apakah AI bisa belajar nilai budaya dengan mengamati perilaku manusia, seperti anak-anak. Hasil penelitian dipublikasikan di PLOS One.
Peneliti merekrut 190 orang dewasa yang mengidentifikasi sebagai putih dan 110 yang mengidentifikasi sebagai Latino. Data masing-masing kelompok dipakai untuk melatih agen AI terpisah. Agen dilatih menggunakan inverse reinforcement learning (IRL), yaitu AI mengamati tindakan manusia lalu menebak tujuan dan hadiah yang mendorong tindakan.
Dalam eksperimen, peserta bermain versi modifikasi permainan Overcooked. Pemain bisa memberi bawang kepada pemain lain, tetapi itu membuat mereka mengantarkan lebih sedikit sup sendiri. Kelompok Latino lebih sering memberi bantuan, dan agen yang dilatih pada data Latino juga berperilaku lebih tolong‑menolong. Peneliti menyimpulkan perlu penelitian lebih lanjut dan perhatian pada nilai budaya.
Kata-kata sulit
- pelatihan — proses memberi data agar sistem belajar
- menyelidiki — mencari tahu atau mempelajari sesuatu lebih dalam
- mengamati — melihat atau memeriksa sesuatu dengan cermat
- perilaku — cara bertindak atau berkelakuan seseorang
- hadiah — sesuatu yang didapat sebagai hasil tindakan
- mendorong — menyebabkan seseorang melakukan sesuatu atau memberi dorongan
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Mengapa peneliti merekrut peserta dari dua kelompok berbeda menurutmu?
- Apakah menurutmu AI harus belajar dari perilaku manusia? Mengapa?
- Apa yang perlu diperhatikan tentang nilai budaya ketika membuat sistem AI?
Artikel terkait
Dokter Keluarga di Daerah Pedesaan AS Berkurang Sejak 2017
Kekurangan dokter perawatan primer di Amerika Serikat meningkat sejak 2017, dengan penurunan terbesar di daerah pedesaan. Studi menemukan kehilangan bersih 11% dokter keluarga antara 2017 dan 2023 serta perpindahan orang usia 25–44 ke pedesaan.
Program Pendapatan Dasar di St. Louis Tingkatkan Keamanan Ekonomi
Penelitian dari St. Louis menunjukkan pembayaran tunai rutin tanpa pembatasan meningkatkan keamanan ekonomi, kesehatan kredit, dan kualitas hidup keluarga berpenghasilan rendah. Program memberikan $500 per bulan selama 18 bulan kepada keluarga dengan anak sekolah.
Model Bahasa Mengubah Penilaian Berdasarkan Identitas Pengarang
Peneliti University of Zurich menemukan bahwa large language models mengubah penilaian teks ketika diberi tahu siapa pengarangnya. Tanpa sumber, model sering sepakat, tetapi menyebut pengarang memicu bias, termasuk bias anti-Cina.