Tim peneliti dari Brown University mempelajari apakah model bahasa AI memahami dunia nyata. Studi ini dipresentasikan pada Konferensi Internasional tentang Representasi Pembelajaran (ICLR) di Rio de Janeiro, Brazil. Michael Lepori, kandidat PhD yang memimpin penelitian, mengatakan model tampak menyandi aturan kausal dunia nyata.
Para peneliti membuat kalimat dengan tingkat plausibilitas berbeda, misalnya mendinginkan minuman dengan es, salju, api, atau kata "kemarin" yang tidak masuk akal. Mereka melihat keadaan matematis internal model menggunakan interpretabilitas mekanistik. Eksperimen dijalankan pada beberapa model open-source seperti GPT-2, Llama 3.2, dan Gemma 2. Temuan ini dapat membantu membuat model lebih cerdas dan lebih dapat dipercaya.
Kata-kata sulit
- peneliti — orang yang bekerja mencari jawaban ilmiah
- mempelajari — melihat dan belajar sesuatu dengan teliti
- menyandi — mengubah informasi menjadi bentuk rahasia atau kode
- kausal — berhubungan dengan sebab dan akibat
- plausibilitas — tingkat seberapa wajar atau masuk akal
- interpretabilitas — kemampuan untuk menjelaskan bagian dalam model
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Mengapa menurut teks temuan ini bisa membuat model lebih dapat dipercaya?
- Sebutkan dua contoh kata atau hal yang dipakai dalam kalimat pengujian dari teks (misalnya untuk mendinginkan minuman).
Artikel terkait
Headphone Pintar Memisahkan Suara Mitra di Tempat Bising
Sebuah tim mengembangkan headphone pintar yang memakai kecerdasan buatan untuk mengikuti ritme percakapan dan mengisolasi suara mitra sehingga lebih mudah didengar di tempat bising. Prototipe dipresentasikan di Suzhou dan kode sumbernya tersedia untuk diunduh.
Peneliti Pakai Pola Kelompok Burung untuk Kurangi Halusinasi AI
Peneliti mengembangkan langkah pra-proses yang menata kalimat seperti kelompok burung sebelum AI membuat ringkasan. Cara ini mengurangi kesalahan fakta pada ringkasan, tetapi tidak sepenuhnya menghilangkan risiko halusinasi.