Sonstiges

Anthropic hält KI-Modell zurück – zu gefährlich für die Welt

Di. 21 Apr 2026 - 22:03

Das KI-Unternehmen Anthropic hat ein leistungsstarkes Modell namens Claude Mythos entwickelt, das Sicherheitslücken in Online-Systemen effizienter aufspüren kann als erfahrene Hacker. Da das Unternehmen das Risiko für zu groß hält, wird das Modell vorerst nicht veröffentlicht. Fachleute diskutieren, ob die Gefährdung tatsächlich so gravierend ist oder ob Unternehmensankündigungen die Bedrohungslage übertreiben. Der Fall zeigt, dass verantwortungsvolles Handeln in der KI-Entwicklung zunehmend in den Mittelpunkt rückt.

Die Entscheidung, ein KI-Modell aus Sicherheitsgründen nicht zu veröffentlichen, zeigt, dass zumindest einige Unternehmen beginnen, Verantwortung für gesellschaftliche Risiken ihrer Technologien zu übernehmen. Gleichzeitig verdeutlicht der Fall die dringende Notwendigkeit unabhängiger, staatlicher und zivilgesellschaftlicher Kontrollmechanismen für KI-Entwicklungen, die kritische digitale Infrastrukturen gefährden könnten. Für offene Gesellschaften ist der Schutz digitaler Infrastruktur eine Grundvoraussetzung für demokratische Teilhabe.

Der Fall Mythos reiht sich in eine wachsende Diskussion über die Regulierung von KI-Systemen mit dualem Verwendungspotenzial ein – also Technologien, die sowohl für Sicherheitsverbesserungen als auch für Angriffe genutzt werden können. Für Gesetzgeber und Regulierungsbehörden in der EU und weltweit unterstreicht dies die Dringlichkeit verbindlicher Transparenz- und Sicherheitspflichten für KI-Unternehmen. Konkrete nächste Schritte wären verpflichtende externe Sicherheitsprüfungen vor Markteinführung solcher Modelle.