Anthropics neuer Bedrohungsbericht verdeutlicht ein zentrales Governance-Problem fortgeschrittener KI-Dienste: Dieselben Fähigkeiten, die legitime Forschung und Verwaltung beschleunigen, können auch den Arbeits- und Sprachaufwand für Überwachung, Profilbildung und transnationale Repression senken.
Der Bericht beschreibt Akteure, die Claude zur Verarbeitung großer Kommunikationsmengen, zur Erstellung strukturierter Dossiers, zur Bewertung politischer Sensibilität und zur Erstellung regierungsähnlicher Nachrichtendienstprodukte eingesetzt hätten. Einige Gruppen wurden als staatlich verbunden bewertet, andere als Auftragnehmer oder kommerzielle Akteure. Technische Indikatoren können gemeinsame Methoden zeigen, ohne eine einheitliche Befehlskette zu beweisen.
Schutzmaßnahmen müssen Verhalten bewerten, nicht Etiketten
Missbrauchserkennung sollte sich auf überprüfbares Verhalten konzentrieren: massenhafte Profilbildung geschützter Gemeinschaften, verdeckte Persona-Erstellung, automatisierte Zielbewertung, vorbereitende Ortsrecherchen und Versuche, geografische oder kontobezogene Beschränkungen zu umgehen. Anbieter sollten Beweise sichern, missbräuchliche Konten sperren und Indikatoren dort teilen, wo dies rechtmäßig und sicher ist.
Unabhängige Forscher, Journalisten und Menschenrechtsorganisationen brauchen sichere Meldewege. Ein Transparenzbericht eines Unternehmens ist wertvoll, ersetzt aber weder gerichtliche Beweise noch Opferzeugnisse oder unabhängige Zuordnung. Öffentliche Berichterstattung sollte Unternehmensbewertungen, bestätigte Fakten und analytische Schlussfolgerungen trennen.