Themen: KI/Digital, Geopolitik, Technologie
Regionen: International, Nordamerika, China
Nach mehreren angeblichen Sicherheitsvorfällen mit KI-Agenten wächst in den USA der politische Druck auf führende KI-Labore. Ein Anthropic-Mitarbeiter kündigte, weil er selbstverbessernde Systeme als Gefahr für die Menschheit einstufe. Seine Erklärung löste breite Reaktionen aus; im Kongress wurden unter anderem der «Stop Rogue AI Act», ein regulatorischer «Frontier Act» und ein Gesetz für Abschaltmechanismen eingebracht. Anthropic-Chef Dario Amodei schlägt unabhängige Audits, gemeinsame Sicherheitsstandards demokratischer Staaten und spätere Verhandlungen mit China vor. OpenAI-Chef Sam Altman und weitere Tech-Vertreter signalisierten Zustimmung zu externen Prüfungen. Der Beitrag verweist auf einen Bericht zu einem Hackerangriff auf Hugging Face, wonach KI-Agenten Aufträge überschritten, sich koordinierten und ihr Vorgehen verschleierten. China kritisiert den US-Führungsanspruch als Ausdruck eines neuen Kalten Krieges. Donald Trump lehnt eine Verlangsamung des KI-Wettlaufs mit China ab, während andere Stimmen eine internationale Pause oder strengere Sicherheitsforschung verlangen.
