Amazon-CEO soll Fable-Sperre ausgelöst haben

Die jüngste globale Sperrung von Anthropics neuem KI-Modell Fable wird Berichten zufolge auf den Einfluss eines anderen großen Technologiekonzerns zurückgeführt: Amazon-CEO Andrew Jassy. Demnach soll jener einem US-Finanzminister, Scott Bessent, von einem vermuteten „Jailbreak“ berichtet haben. Dies führte angeblich dazu, dass die US-Regierung eine Exportdirektive erließ, welche Anthropic letztendlich zur Sperrung des KI-Modells zwang.

Verschiedene Medien berichten einheitlich über diesen Sachverhalt: Andrew Jassy soll zunächst die Cybersicherheitsabteilung von Amazon beauftragt haben, das neue KI-Modell auf mögliche „Jailbreaks“ zu testen – Methoden, mit denen KIs dazu gebracht werden, sensible Prompts zu bearbeiten, die normalerweise verweigert würden. Die Experten sollen einen Bericht vorgelegt haben, der funktionierende Exploits für Sicherheitslücken in vier gängigen Programmen enthüllte und Jassy informierte. Diesen Sachverhalt soll er auch US-Regierungsvertretern mitgeteilt haben.

Auf diese Berichte folgte ein Ultimatum der US-Regierung an Anthropic: Die von den Jailbreak-Problemen innerhalb von 24 Stunden behoben werden müssen, andernfalls werde der Zugang zu Fable für Nicht-Amerikaner gesperrt. David Sacks, Tech-Investor und Co-Vorsitzender des Beraterstabs des US-Präsidenten für Wissenschaft und Technologie, berichtete darüber auf X (Twitter). Nach seiner Darstellung soll sich Anthropic-CEO Dario Amodei geweigert haben, die aus Amazon resultierenden Sicherheitslücken zu schließen. Obwohl Anthropic zuvor bestritten hatte, es handele sich um einen vollwertigen Jailbreak, ist gemäss Sacks' Account das strenge Verbot aufgrund von Amodeis Weigerung erfolgt.

Das Vorgehen der US-Regierung sei nach Ansicht von Experten widersinnig. Theoretisch lässt sich jedes KI-Modell mit einem Jailbreak kompromittieren. Darüber hinaus hatte Anthropic selbst große Aufmerksamkeit erregt, weil Fable (eine Variante des Modells Mythos) angeblich in kürzester Zeit unbekannte Sicherheitslücken in nahezu jeder Software finden und deren Ausnutzcode liefern konnte – ein Niveau, das von Antagonisten als zu gefährlich für eine allgemeine Veröffentlichung eingestuft wurde. Das aktuelle Vorgehen könnte somit auch als indirekter Kritikpunkt innerhalb eines bestehenden Konflikts zwischen Anthropic und der US-Regierung verstanden werden.

Quelle: www.heise.de