باحثون اختبروا ما إذا كانت نماذج اللغة تستطيع تمييز الأحداث المألوفة من غير المحتملة أو المستحيلة. فحص الفريق الحالات الداخلية للنماذج ووجد إشارات داخلية تتوافق مع أحكام البشر.
باحثون في Georgia Tech وجدوا أن أسلوباً يسمى "vibe coding" مرتبط بإصدار شيفرات ضعيفة أمنياً. بنوا أداة اسمها Vibe Security Radar واكتشفوا حالات عديدة ناتجة عن أدوات ذكاء اصطناعي مثل Claude وGemini وCopilot.
باحثون وضعوا إطاراً لتقييم مقدار العمل العلاجي الذي يمكن أتمتته عبر نظم محادثة بالذكاء الاصطناعي، ويحدد الإطار مستويات أتمتة مختلفة ويقارن بين فوائد هذه الأدوات ومخاطرها ومسؤوليتها.
بحث جديد وجد أن الدماغ يتنبأ بالكلمات عبر تجميعها إلى عبارات أو تراكيب نحوية، وليس فقط عبر توقع الكلمة التالية كما تفعل بعض النماذج الحاسوبية. الدراسة استخدمت قياس نشاط الدماغ وتجارب سلوكية بلغات مختلفة.
يظهر بحث جديد أن إفشاء تشخيص التوحد يغيّر نصائح نماذج الذكاء الاصطناعي في مواقف اجتماعية، وغالباً بصيغة صور نمطية. يدعو الباحثون إلى مزيد من الشفافية والتحكّم في تأثير معلومات الهوية.
طور باحثون في ETH Zurich شريحة حسّاس تضع توقيعاً مشفراً للصور والفيديو والصوت عند التقاطها. يمكن تخزين التوقيع في سجل دائم للتحقق من أصالة المحتوى وكشف أي تعديل لاحق.
طور فريق بحثي إطاراً مستوحى من سلوك الطيور ليعدّل جمل النصوص الطويلة قبل إدخالها إلى نماذج اللغة الكبيرة. يساعد الإطار على تقليل هلوسات الملخّصات وزيادة دقتها لكنه لا يقضي على الأخطاء تماماً.
فحص فريق في جامعة ولاية نورث كارولاينا طرقًا جديدة لتدريب نماذج اللغة لتقليل المخرجات غير الآمنة مع الحفاظ على أداء النموذج. اقترحوا فرضية SSAH ووجدوا أن تجميد أجزاء محددة يساعد على الحفاظ على سلوك السلامة.
بحث نشر في أكتوبر يفحص ملخصات صوتية مولدة بواسطة Google NotebookLM لورقات علمية عن البركان على المريخ. الملخصات جذابة لكنها احتوت أخطاء، والباحثان ينصحان بقراءة المادة الأصلية للتحقق.
اكتشف باحثو الأمن السيبراني في Georgia Tech ثغرة اسمها VillainNet قد تسمح للمهاجمين بالسيطرة على سيارات تقود نفسها عبر باب خلفي مخفي. الباحثون دعوا لتطوير دفاعات وإضافة تدابير أمنية لأنظمة الذكاء الاصطناعي.
دراسة جديدة وجدت أن نماذج توليدية مثل ChatGPT وClaude وLLaMa تستطيع التنبؤ بسمات الشخصية والعواطف والسلوك اليومي بدقة تقارب أو تفوق أحكام الأقارب. البيانات جاءت من مذكرات يومية وتسجيلات لأشخاص في الحياة الحقيقية والمختبر.
يتناول النص تأثير الذكاء الاصطناعي وتغيرات الحياة الرقمية على التواصل العاطفي. يناقش هاري ريس كيف تقدم برامج الدردشة رفقة مؤقتة ويحذّر من أن الدفء المحاكى لا يعوّض الحب الحقيقي.
