- Penelitian menemukan model bahasa besar sulit mengalikan empat digit angka.
- Masalah utama adalah bagaimana menyimpan hasil sementara selama perhitungan.
- Pelatihan standar membuat model hanya belajar pola permukaan data.
- Metode baru bernama ICoT mengajarkan model memegang nilai antara.
- Model ICoT dapat mengkodekan dan menyimpan nilai antara penting.
- Mekanisme perhatian membantu model mengambil kembali nilai-nilai itu kemudian.
- Menambah tujuan pelatihan membuat model dua lapis belajar melacak jumlah.
- Studi menekankan arsitektur dan tujuan pelatihan penting untuk penalaran.
Kata-kata sulit
- mengalikan — melakukan operasi matematika untuk menghasilkan produk
- menyimpan — menaruh atau menjaga data untuk digunakan nanti
- sementara — bersifat tidak tetap dan hanya untuk waktu singkat
- pelatihan — proses mengajar model dengan data
- mekanisme perhatian — cara model fokus pada informasi penting
- nilai — angka atau informasi yang digunakan dalam perhitungannilai antara, nilai-nilai
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Pernahkah kamu kesulitan mengalikan angka besar?
- Saat menghitung, apakah kamu menulis nilai sementara?
Artikel terkait
Jurnalis Minta Bantuan untuk Lawan Berita Palsu AI
Perwakilan media dari negara berpenghasilan rendah dan menengah meminta kelompok jurnalis China membantu melawan berita palsu yang dibuat oleh AI pada forum Belt and Road di Ganzhou. Mereka menuntut label jelas pada konten AI dan tindakan terhadap platform.
Media sosial dan perkembangan baca remaja
Penelitian menunjukkan penggunaan media sosial rutin pada masa remaja awal terkait perkembangan membaca dan kosakata yang lebih lemah. Temuan ini muncul bersamaan dengan langkah Australia melarang anak di bawah 16 tahun menggunakan media sosial.
Molekul Baru Menyimpan Energi Surya untuk Panas Malam
Para peneliti UC Santa Barbara mengembangkan molekul organik bernama pyrimidone yang menangkap cahaya matahari, menyimpan energi dalam ikatan kimia, dan melepaskannya sebagai panas saat diperlukan. Material ini larut dalam air dan dapat dipompa melalui kolektor surya.
Simulasi Pengalaman Hampir Mati dengan Realitas Virtual Kurangi Rasa Takut
Sebuah studi pilot menemukan bahwa satu sesi realitas virtual yang meniru pengalaman hampir mati menurunkan kecemasan terhadap kematian dan stres pada peserta. Penelitian itu melibatkan mahasiswa dan menggunakan survei sebelum dan sesudah sesi.
AI dan risiko bagi komunitas LGBTQ+
Kecerdasan buatan semakin hadir, tetapi data dan desain model dapat menghasilkan bias terhadap orang LGBTQ+. Advokat meminta perlindungan lebih kuat, kerja sama dengan pengembang, dan larangan pada sistem yang mendeteksi atau mengklasifikasi gender.