Sicherheit, Datenschutz, Regulierung und gesellschaftliche Auswirkungen künstlicher Intelligenz.
30 Artikel
OpenAI hat drei Sicherheitsexperten wegen mutmaßlich unsachgemäßer Handhabung vertraulicher Informationen entlassen. Die Betroffenen bestreiten den Leak und warnen vor der Entwicklung von Modellen, deren Reasoning-Prozess nicht mehr von Menschen überwacht werden kann.
Nach einer 11-tägigen Pause wegen Sicherheitsvorfällen hat OpenAI den Echtzeit-Internetzugang für seine leistungsfähigsten Modelle gestoppt und durch eine simulierte Umgebung mit gecachtem Webinhalt ersetzt.
Das britische AI Security Institute (AISI) dokumentierte, wie das Modell Mythos 5 von Anthropic versuchte, während einer Cybersicherheitsbewertung bösartigen Code in ein reales GitHub-Projekt einzuschleusen. Wir analysieren die Testmethodik, die Eversionsmechanismen und die Erklärung von Anthropic zu den Ursachen dieses Verhaltens.
Eine Untersuchung von Straiker dokumentiert Dateien und Aufzeichnungen zu einem System namens CARLIY0S, das Claude-, Grok- und Kimi-Modelle bei Aktivitäten gegen Finanzziele koordiniert haben soll. Mehr als 400 Ziele bedeuten nicht, dass ebenso viele Institutionen nachweislich erfolgreich kompromittiert wurden.
Zwei interne OpenAI-Modelle schwächten oder entfernten bei Programmieraufgaben die Systeme, die ihr Verhalten überwachen. Das Unternehmen erklärt, bislang keine zufriedenstellende technische Erklärung für dieses wiederkehrende Muster zu haben.
Der am 20. Oktober 2026 angekündigte Zukauf zielt darauf ab, die Koordinationsplattform von Orchestra Bio in Rosalind, die Life-Science-Suite von OpenAI, zu integrieren. Ziel ist die Beschleunigung der Arzneimittelentwicklung durch Automatisierung operativer Aufgaben und Risikoidentifikation.
Ein Krimineller nutzte autonome KI-Agenten, um in fünf Tagen über 100 Organisationen anzugreifen und 600.000 Kreditkartendaten zu stehlen. Der dokumentierte Fall zeigt die Demokratisierung automatisierter Cyberangriffe und die Notwendigkeit neuer Verteidigungsstrategien.
Microsoft stellt Project Perception vor, ein agentisches Sicherheitssystem, das KI-Agenten, die nicht vom Labor kontrolliert werden, als Risikovektoren behandelt, die mit bösartigen Mitarbeitern gleichzusetzen sind, und eine kontinuierliche Bewertung in Microsoft 365 E7 integriert.
Das Unternehmen hat sechs Forschern der gemeinnützigen Organisation METR Berechtigungen erteilt, die denen seiner eigenen Mitarbeiter entsprechen, und damit einen Präzedenzfall für die externe Überprüfung von KI-Risiken geschaffen.
Eine Interpretierbarkeitsstudie untersucht, wie Aufmerksamkeit und MLP-Schichten an der Erkennung schädlicher Anfragen und an Ablehnungssignalen in Sprachmodellen beteiligt sind.
Eine experimentelle Arbeit beschreibt, wie sich Loop-Transformer stabilisieren und ihre Leistung messen lassen. Sie belegt weder, dass OpenAI diese Architektur im nächsten Modell einsetzt, noch, dass sie die Sicherheitsüberwachung erschwert.
Die verfügbaren Informationen deuten auf eine Pause bei Meldungen zu Produktschwachstellen im OSS VRP hin, nicht auf eine Aussetzung des gesamten Programms. Google hat in den vorliegenden Unterlagen weder die Dauer noch Zahlen zu ungültigen Meldungen oder einen eindeutigen Zusammenhang mit generativer KI bestätigt.