Themen: KI/Digital, Technologie
Regionen: International, Nordamerika
Anthropic veröffentlichte einen Sicherheitsbericht, dem zufolge Nutzende das KI-Modell Claude mehrfach für die Entwicklung von Biowaffen einsetzen wollten. Das Unternehmen erklärte, es habe solche Versuche erkannt und unterbunden. Daraus entstand erneut die Frage, ob künstliche Intelligenz gefährlich werden könne – durch kriminellen Missbrauch oder durch ein eigenständiges Handeln der Systeme. Anthropic und OpenAI verlangen stärkere staatliche Regulierung. Der Text bezweifelt jedoch, ob diese Forderung vor allem verantwortungsvolle Risikokontrolle oder auch Selbstvermarktung darstellt. US-Präsident Donald Trump lehnt zusätzliche Regeln aus wirtschaftlichen Gründen ab und verweist auf die Konkurrenz Chinas. Als Beispiel für unzureichende Kontrolle wird eine von der AfD entwickelte Propaganda-KI genannt, die auf Anwendungen von OpenAI, Google und Anthropic basiert und auch verfassungsfeindliche Social-Media-Inhalte erzeugen könne. Die Unternehmen hätten nach Anfragen zunächst angekündigt, den Fall zu prüfen. Damit bleibe unklar, weshalb sie Regulierung fordern, statt den Einsatz ihrer Technik selbst konsequenter zu überwachen.
