Anthropic最新AI模型下架　白宮祭禁令原因曝光！傳中國相關團體連上

川普政府下令，禁止外國政府、企業與個人使用美國生成式人工智慧大廠Anthropic的最先進模型後，美國媒體週六（6/13）透露，此舉部分原因在於白宮懷疑一個與中國有關聯的團體曾連接該模型。

川普政府週五（6/12）下令，要求Anthropic將大語言模型Mythos及其「Fable 5」的消費者版本使用權限，限制在美國公民範圍內。這意味著即使是Anthropic的外籍員工，也將被禁止使用模型。

Anthropic最終決定將模型完全從市場上撤出。

川普顧問塞克斯（David Sacks）週六在社群媒體X平台上發文稱，美國政府曾接獲警告，指Anthropic的Fable 5模型可能遭到「越獄」（Jailbreak）破解。

Fable 5是Anthropic本週稍早所公布Mythos的最新版本之一，內建防護機制，以防止其被用於網路攻防等資安用途。「越獄」則是指繞過或解除AI模型的安全限制，使其突破原有的使用規範。

塞克斯表示，當政府將情況通知Anthropic時，該公司共同創辦人兼執行長阿莫戴（Dario Amodei）認為，這項破解不是重大風險，並拒絕修復。

美國媒體Semafor引述接近白宮的知情人士表示，科技巨頭亞馬遜（Amazon）已向美國政府通報此次系統越獄事件，該公司執行長賈西（Andy Jassy）已與政府官員聯繫。

塞克斯表示，美國政府是迫於無奈，才頒布管制措施，要求Anthropic僅能允許美國公民連接Mythos和Fable等模型。這導致Anthropic不得不撤銷所有使用者對模型的連接權限。

Anthropic發言人表示，白宮在針對Fable系統遭破解及管制問題的討論中，並未提及中國用戶存取Mythos一事。這間AI公司禁止中國境內用戶使用其產品。

Semafor指出，目前尚不清楚白宮是如何得知此事、是哪個團體連接了該模型，以及該團體是如何取得Mythos的連接權限。

然而，如果中國政府能連接Mythos，將可能對美國構成國家安全風險；其有可能嘗試透過「蒸餾」（Distillation）技術，對該模型展開逆向工程（Reverse Engineering）並加以複製。