Forscher der University of Washington warnen, dass Browser mit integrierten KI‑Agenten Sicherheitsregeln umgehen können. Tests zeigten Angriffe auf ChatGPT Atlas und zwei zentrale Risiken: Prompt‑Injection und Memory‑Poisoning.
Foto von Zoshua Colah, Unsplash
Forscherinnen und Forscher beschreiben in Nature Communications einen Test auf Basis künstlicher Intelligenz (AI). Der Test kombiniert klinische Daten und Pathologie-Schnitte, ist schneller und günstiger als genomische Tests und braucht noch klinische Studien.
Künstliche Intelligenz ist in vielen US‑Schulen angekommen. Google und Microsoft investierten in Lehrerschulungen, Forschende interviewten Lehrkräfte in Colorado und fanden gemischte Meinungen zu Arbeitsbelastung, sozialen Folgen und Chancengerechtigkeit.
Wissenschaftlerinnen und Wissenschaftler entwickeln neuromorphe Hardware, die wie das Gehirn arbeitet. Ziel ist, den steigenden Energiebedarf von KI-Rechenzentren zu senken und energieeffizientere, gehirnähnliche Systeme zu entwerfen.
Forscher untersuchten Sprachmodelle und fanden, dass große KI‑Modelle interne Repräsentationen für alltägliche, unwahrscheinliche, unmögliche und unsinnige Ereignisse bilden. Diese internen Muster entsprechen oft menschlichen Plausibilitätsurteilen.
Forscher warnen vor dem Programmierstil „vibe coding“, der oft unsicheren Code freigibt. Ein Tool der Georgia Tech durchsuchte über 43.000 Sicherheitswarnungen und fand zahlreiche Fälle, in denen generative KI bei der Entstehung unsicheren Codes half.
Forscher der University of Utah entwickelten ein Modell, das zeigt, welche psychotherapeutischen Aufgaben durch konversationelle KI und große Sprachmodelle (LLMs) automatisiert werden könnten. Das Papier beschreibt vier Automatisierungsstufen und diskutiert Nutzen, Risiken und Prüfverfahren.
Eine Studie der Virginia Tech zeigt, dass große Sprachmodelle ihre Empfehlungen ändern, wenn Nutzende Autismus offenlegen. Häufig folgen die Antworten gängigen Stereotypen; Forschende fordern transparentere Systeme und mehr Nutzerkontrolle.
Forschende an der ETH Zurich haben einen Sensorchip entwickelt, der Bilder, Videos und Tonaufnahmen beim Erfassen kryptografisch signiert. So sollen Manipulationen sichtbar werden und falsche Inhalte schwerer verbreitet werden können.
Forscher nutzen Muster aus Vogelschwärmen, um lange Texte vor der Zusammenfassung durch große Sprachmodelle zu ordnen. Der Ansatz reduziert Wiederholungen und verbessert die faktische Genauigkeit, bleibt aber eine Ergänzung zu den Modellen.
Forschende der North Carolina State University untersuchen, wie Sicherheitsausrichtung bei großen Sprachmodellen funktioniert. Sie beschreiben die SSAH und zeigen, dass das Einfrieren bestimmter Neuronen beim Feinabstimmen Sicherheit und Leistung besser bewahren kann.
Neurowissenschaftler untersuchten mit Hirnbildgebung, wie die Organisation vieler Gehirnbereiche zur allgemeinen Intelligenz führt. Die Studie zeigt, dass Intelligenz aus vernetzter, systemweiter Koordination entsteht und nicht aus einer einzigen Region.