Themen: KI/Digital, Wissenschaft
Regionen: International, International Unbestimmt
Der mögliche Einsatz künstlicher Intelligenz bei der Entwicklung biologischer Waffen weckt Sicherheitsbedenken. Anthropic schildert in einem Bericht fünf Fälle, in denen Forschende seine Modelle für Arbeiten verwendeten, die zur Entwicklung solcher Waffen beitragen könnten. Die Anwendungen umfassten die Planung von Experimenten, Entwürfe für Forschungsvorhaben, die Auswertung biologischer Daten und die Umgestaltung von Toxinen. Nach einer Prüfung der Forschungsinhalte und von Versuchen, regionale Beschränkungen zu umgehen, sperrte das Unternehmen die betreffenden Konten. Die Fälle gelten als ernstzunehmende Warnsignale, belegen jedoch nicht, dass ein KI-System die Konstruktion einer funktionsfähigen biologischen Waffe ermöglicht hat. Zwischen der Beschreibung eines gefährlichen biologischen Agens und dessen Herstellung in der realen Welt besteht eine grosse Lücke. Eine übertriebene Fokussierung auf KI könnte deshalb von den zentralen Risiken und praktischen Hürden ablenken. Vergleiche biologischer und digitaler Risiken innerhalb desselben Sicherheitsberichts können irreführend sein.
