Rząd USA nakazuje Anthropic zamknięcie modeli AI Fable 5 i Mythos 5 ze względów bezpieczeństwa

TLDR

• Rząd USA nakazał firmie Anthropic wyłączenie dwóch jej najbardziej zaawansowanych modeli AI, Fable 5 i Mythos 5, powołując się na obawy dotyczące bezpieczeństwa narodowego.
• Wyłączenie zostało wywołane przez zgłoszoną metodę jailbreak, którą Anthropic określa jako wąską i nie stanowiącą uniwersalnego zagrożenia.
• Anthropic zastosował się do dyrektywy, ale publicznie ją zakwestionował, nazywając dowody niewystarczającymi.
• Akcje Anthropic przed IPO na Hyperliquid spadły o 3,7% do około 1 627 USD po ogłoszeniu wiadomości.
• Anthropic poinformował, że w ciągu 24 godzin opublikuje szczegóły techniczne dotyczące jailbreaka i uważa, że nakaz wynika z nieporozumienia.

Rząd USA nakazał firmie Anthropic wyłączenie dwóch jej najpotężniejszych modeli AI w piątek. Ten ruch wstrząsnął rynkami przed IPO i postawił firmę na kursie kolizyjnym z Waszyngtonem.

Nakaz wyłączenia

Anthropic otrzymał dyrektywę o 23:21 czasu polskiego w piątek. Nakaz, wydany na podstawie uprawnień dotyczących bezpieczeństwa narodowego, zobowiązał firmę do zawieszenia wszelkiego dostępu do Fable 5 i Mythos 5 dla wszystkich obcokrajowców, zarówno wewnątrz, jak i na zewnątrz Stanów Zjednoczonych.

Dotyczyło to również pracowników Anthropic będących obcokrajowcami.

Aby zapewnić zgodność z przepisami, Anthropic całkowicie wycofał oba modele dla wszystkich użytkowników. Pozostałe modele firmy, w tym Opus 4.8, nie zostały dotknięte.

Fable 5 i Mythos 5 zostały uruchomione zaledwie kilka dni wcześniej. Zostały zbudowane na bazie Mythos Preview, modelu ogólnego przeznaczenia, o którym Anthropic poinformował, że wykrył tysiące luk w krytycznym oprogramowaniu.

Rząd poinformował Anthropic, że dowiedział się o metodzie jailbreaka dla Fable 5. Jailbreak to technika służąca do obejścia zabezpieczeń modelu.

Anthropic przeanalizował metodę i odparł zarzuty. Firma stwierdziła, że technika jest wąska, nie jest uniwersalnym jailbreakiem i opiera się na niewielkiej liczbie wcześniej znanych, drobnych luk.

Dodała również, że inne publicznie dostępne modele, w tym GPT-5.5 firmy OpenAI, mogą znaleźć te same luki bez żadnej metody obejścia.

Firma dodała, że obrońcy używają tego dokładnego zadania każdego dnia.

Wpływ na akcje przed IPO

Rynki zareagowały szybko. Kontrakt perpetualny Anthropic na Hyperliquid, który śledzi oczekiwaną przez traderów wycenę akcji firmy, spadł w sobotę o 3,7% do około 1 627 USD.

Kontrakt był notowany powyżej 1 800 USD po uruchomieniu Fable 5. Otwarte pozycje wynoszą blisko 8,6 mln USD, co jest małą kwotą w porównaniu z kontraktem perpetualnym SpaceX, ale znaczącą dla firmy, która jeszcze nie złożyła wniosku o IPO.

Anthropic oświadczył, że uważa nakaz za wynik nieporozumienia i pracuje nad jak najszybszym przywróceniem dostępu.

Firma planuje udostępnić pełne szczegóły techniczne dotyczące domniemanego jailbreaka w ciągu 24 godzin.

Firma, która zbudowała swoją reputację na AI z priorytetem bezpieczeństwa, publicznie kwestionuje teraz dyrektywę rządową, twierdząc, że dowody nie spełniają jej własnych określonych standardów.

To, czy nakaz zostanie cofnięty, zawężony, czy rozszerzony, ukształtuje ścieżkę Anthropic do publicznej oferty akcji.

Wpis Rząd USA nakazuje firmie Anthropic wyłączenie modeli AI Fable 5 i Mythos 5 ze względu na obawy dotyczące bezpieczeństwa pojawił się jako pierwszy na CoinCentral.