Themen: KI/Digital, Gesellschaft, Demokratie
Regionen: International, International Unbestimmt
KI-Unternehmen und ihre führenden Köpfe warnen zunehmend vor existenziellen Risiken ihrer eigenen Systeme. Anthropic-Chef Dario Amodei fordert wegen Sicherheitsbedenken ein langsameres Innovationstempo; auch Sam Altman und Elon Musk unterstützen dies. Ein ehemaliger Anthropic-Ingenieur sowie ein Sicherheitsforscher des Unternehmens beziffern die Möglichkeit, dass KI alle Menschen töten könnte, auf mehr als zehn Prozent. Solche Prozentangaben wirkten zwar präzise, seien aber nicht nachvollziehbar berechnet und deshalb dubios. Die Warnungen könnten zugleich der Selbstdarstellung der Branche dienen: Gefährliche Werkzeuge erscheinen besonders leistungsfähig. Akute Risiken bestünden bereits durch militärische KI-Nutzung. Wie leistungsfähig neue Systeme tatsächlich sind, bleibe jedoch unklar, weil ihre Entwicklung privat erfolgt. Der KI-Boom mit Serverfarmen und AKWs zeige vor allem, dass Kapitalinteressen bestimmen, welche Innovationen vorangetrieben werden. Über die Welt von morgen entschieden damit wenige statt viele.
