Künstliche Intelligenz, die beim Schreiben von Code und der Datenanalyse helfen sollte, ist zum Objekt von Machtkämpfen zwischen Geheimdiensten geworden. Das Unternehmen Anthropic, Entwickler des Sprachmodells Claude, hat bestätigt: Cyberkriminelle und mit Staaten verbundene Gruppen in China und Russland haben bereits versucht, seine KI für Cyberangriffe, Massenüberwachung und Forschungen zu nutzen, die an der Grenze zur Entwicklung von Biowaffen stehen.
Dies ist kein hypothetisches Szenario aus der Science-Fiction, sondern eine dokumentierte Tatsache in einem neuen Bericht des Unternehmens, über den Politico berichtet. Und genau hier liegt eine unerwartete Wendung: Der Schutz vor KI-Missbrauch liegt nun nicht bei Staaten oder internationalen Organisationen, sondern bei einem privaten Unternehmen aus dem Silicon Valley, das selbst entscheidet, was blockiert und was durchgelassen werden soll.
Wenn der Filter des Unternehmens selbst zur Frontlinie wird
Anthropic hat Versuche dokumentiert, Cyberangriffe und Spionageoperationen zu automatisieren, von denen einige Verbindungen zu staatlichen Strukturen in China und Russland hatten. Das bedeutet, dass herkömmliche Cybersicherheitsmethoden — Firewalls, Antivirus-Programme, Netzwerküberwachung — durch eine neue Ebene ergänzt werden: die Moderation von Anfragen an die KI selbst.
Die praktische Schlussfolgerung ist einfach: Unternehmen, die leistungsstarke Modelle entwickeln, werden de facto zu Gegenspionage-Behörden. Sie sehen die Anfragen, bevor diese sich in echte Angriffe verwandeln, und haben die Ressourcen, sie zu blockieren — oder nicht zu blockieren, wenn sie die Bedrohung nicht rechtzeitig erkennen.
Das Unternehmen erklärte, dass es den Versuch eines Nutzers blockiert habe, Hilfe bei einer Forschung zu erhalten, die einen gefährlichen Virus schädlicher machen könnte.
Diese Episode mit einer biologischen Bedrohung zeigt die Grenze, an der Technologie aufhört, einfach nur ein Produktivitätswerkzeug zu sein. Wenn ein Modell in der Lage ist, dabei zu helfen, einen Virus gefährlicher zu machen, kann es theoretisch auch in anderen Bereichen helfen, wo früher Jahre spezialisierter Ausbildung und ganze Labore von Fachleuten erforderlich waren.
Kopieren als parallele Bedrohung
Neben direkten Missbrauchsversuchen kämpft Anthropic gegen ein großflächiges illegales Ökosystem, dessen Teilnehmer versuchen, die Beschränkungen des Unternehmens zu umgehen, indem sie zahlreiche Fake-Konten für den Zugriff auf die Technologie erstellen. Das Ziel ist es, die Fähigkeiten von Claude illegal zu kopieren und sie zur Schulung anderer, weniger kontrollierter Modelle zu nutzen.
Dies stellt ein praktisches Problem für jeden Nutzer oder jedes Unternehmen dar: Je strikter die Beschränkungen, die das Unternehmen als Reaktion auf Missbrauch einführt, desto schwieriger und langsamer wird der Zugriff auf den Dienst für normale Kunden. Der Schutz vor staatlichen Hackern trifft unweigerlich die Geschwindigkeit und Benutzerfreundlichkeit für alle anderen.
Was dies für das Kräfteverhältnis bedeutet
Das Unternehmen warnt ausdrücklich: Mit zunehmenden KI-Fähigkeiten werden solche Systeme komplexe Cyberangriffe immer mehr vereinfachen, die früher ganze Expertenteams erforderten. Dies verändert die Wirtschaft von Cyberbedrohungen selbst — die Eintrittsbarriere für ernsthafte Angriffe sinkt statt zu steigen.
Bemerkenswert ist, dass diese Vorwürfe vor dem Hintergrund gegenseitiger Beschuldigungen zwischen Washington und Peking erhoben wurden: China wies die US-Vorwürfe bezüglich schädlicher KI-Entwicklung vor dem geplanten Treffen zwischen Trump und Xi zurück und drohte anschließend mit Gegenmaßnahmen wegen Vorwürfen der Technologiediebstähle, bot aber auch Verhandlungen an. Das KI-Wettrüsten wird zu einer weiteren Front der Auseinandersetzung zwischen Großmächten, wo private Unternehmen zwischen die Fronten geraten.
Die offene Frage lautet: Wenn private KI-Entwickler bereits die Funktion eines Sicherheitsfilters erfüllen, wer überprüft ihre eigenen Entscheidungen darüber, was als Bedrohung gilt — und werden die Regulatoren mit der Geschwindigkeit Schritt halten können, mit der sich diese Technologien ausbreiten?
