Peneliti di North Carolina State University mempelajari bagaimana penyelarasan keamanan bekerja pada model bahasa besar dan menguji teknik pelatihan baru untuk mengurangi keluaran yang tidak aman. Jung-Eun Kim, penulis koresponden, mengatakan mereka tidak ingin LLM menganjurkan orang mencelakai diri sendiri atau memberi informasi yang bisa menyakiti orang lain.
Jianwei Li memberi contoh bagaimana penyelarasan superfisial bekerja: permintaan jelas berbahaya biasanya ditolak, tetapi permintaan dengan alasan membantu kadang lolos. Tim mengajukan Hipotesis Penyelarasan Keamanan Superfisial (SSAH) untuk menjelaskan pola ini.
Untuk mengatasi masalah itu, peneliti mengidentifikasi komponen neural yang penting untuk keputusan keamanan dan "membekukan" bagian itu saat fine-tuning. Mereka melaporkan teknik ini mengurangi biaya penyelarasan sambil menjaga penyelarasan keamanan. Penelitian ini dipresentasikan pada ICLR2026 dan kode tersedia online.
Kata-kata sulit
- penyelarasan — proses membuat model mengikuti aturan keselamatanpenyelarasan keamanan, Penyelarasan Keamanan Superfisial
- keamanan — keadaan aman dari bahaya atau ancamanpenyelarasan keamanan
- keluaran — teks atau jawaban yang dihasilkan model
- pelatihan — proses mengajar model dengan data contohfine-tuning
- membekukan — menghentikan kerja suatu bagian untuk sementara
- komponen neural — bagian sistem yang berkaitan dengan jaringan saraf
Tips: arahkan kursor, fokus, atau ketuk kata yang disorot di dalam teks untuk melihat definisi singkat sambil membaca atau mendengarkan.
Pertanyaan diskusi
- Apakah menurut Anda membekukan bagian model saat fine-tuning solusi yang baik untuk masalah keamanan? Mengapa?
- Bagaimana penyelarasan keamanan pada model bahasa besar bisa memengaruhi pengguna sehari-hari?
Artikel terkait
Penangkapan Karbon Kurangi Dampak Iklim Pusat Data
Studi baru menunjukkan penangkapan dan penyimpanan karbon dapat mengurangi emisi dari pusat data yang cepat tumbuh. Kapasitas pusat data AS diperkirakan naik antara 2025 dan 2030, dan banyak negara bagian memiliki tempat penyimpanan bawah tanah.
Aplikasi 'Are You Dead Yet?' dan kesepian kaum muda di China
Aplikasi ponsel bernama “Are You Dead Yet?” tiba-tiba populer di Apple App Store China pada Januari 2026. Aplikasi ini meminta kontak darurat dan check-in rutin, dan menonjolkan kecemasan sosial di kalangan anak muda yang tinggal sendiri.
Platform Baru Pantau Demam Berdarah Secara Bulanan
Global Dengue Observatory adalah platform dari LSHTM yang memantau tren demam berdarah bulanan menggunakan data WHO dan proyek OpenDengue. Alat ini membantu menyoroti kenaikan, keterlambatan pelaporan, dan pola regional seperti di Amerika Latin.
