隨著中國的 K3 模型崛起，美國政府對於是否管制來自中國的開放權重模型（open-weights models）的討論日益激烈。NVIDIA 執行長黃仁勳上周五發表公開信，聯合多家科技公司敦促政策制定者不應過早施加限制。四天後，Anthropic 執行長阿莫迪（Dario Amodei）也發表了長文，闡述自己和公司的立場。

Anthropic 的立場

阿莫迪在文章中強調，Anthropic 從未主張禁止開放權重模型。「許多科技公司簽署了一封支持開放權重模型的公開信，甚至有人指控 Anthropic 想要禁止開放權重模型，藉此保護自身業務。任何讀過我過去文章的人都應該知道，我不認為這類禁令是一項有用的措施。」阿莫迪表示。

他進一步指出，開放權重模型與中國構成的威脅不同。「那些不具備危險能力的開放權重模型，是一項公共財：它們除了運行所需的運算資源外，別無其他成本，能為各家企業、開發者及研究人員帶來價值。」

從產業面來看，開放權重模型的普及可以加速技術創新，但同時也帶來了新的挑戰。如何在保障公共利益的同時，防止技術被惡意利用，是政策制定者和業界共同面臨的重要課題。

阿莫迪的擔憂

阿莫迪重申他在六個月前寫下的〈科技的青春期〉一文中提到的兩大擔憂：一是威權政府打造比美國更強大的模型，並利用這些模型達成永久的軍事優勢或對其人民進行深度鎮壓；二是強大的模型可能遭到濫用，用於網路攻擊或生物攻擊，存在嚴重的對齊問題。

阿莫迪認為，無論開放權重模型來自中國或其他地方，都有可能比閉源模型有更高的風險。他舉例，能力足夠強大的模型，可能迅速將大流行等級的病毒武器化，而防禦這些病原體即使在最理想的情況下，也需要數年的時間才能全面控制。

因應策略

• 不應向中國銷售強大的晶片或晶片製造設備，並嚴加打擊走私和各種變通手法以取得先進晶片。
• 應嚴加打擊工業規模的「蒸餾」行動，阻止中國模型水準接近美國。
• 所有能力足夠強大的模型，無論開源或閉源，都應進行強制性的安全測試，通過測試的模型才能釋出。

阿莫迪認同公開信中的許多內容，但不同意信中關於開放權重模型必然更容易開發安全措施，或者廣泛獲取能力有利於防禦者而非攻擊者的論點。他認為前述可能性恐怕相反，並強調應通過嚴謹的釋出前測試來驗證這些問題。

展望與影響

面對中國開放權重模型的進逼，美國科技公司和政策制定者需要找到平衡點，既能促進技術創新，又能防止技術被惡意利用。阿莫迪提出的三項措施為這場辯論提供了明確的方向。未來，如何在國際舞台上協調這些政策，將成為決定技術發展走向的關鍵。

如果你對這場技術競爭有獨到的見解，歡迎在下方留言分享你的看法。你的意見將有助於我們更好地理解這個複雜的議題。

本文改寫整理自公開新聞來源，原始報導由科技新報發布。

常見問題 FAQ

什麼是開放權重模型？

開放權重模型是指模型的權重參數對所有人開放，可以自由下載和使用。這種模型通常由研究機構或开源社區開發，旨在促進技術的普及和創新。

為什麼中國的開放權重模型引起關注？

中國的開放權重模型因其高性能和低門檻受到關注，但也引發了安全和監管方面的擔憂。這些模型可能被用於不良目的，如網路攻擊或生物攻擊。

Anthropic 提出了哪些因應策略？

Anthropic 提出了三項因應策略：1. 不向中國銷售強大晶片；2. 打擊「蒸餾」行動；3. 對所有強大模型進行強制性安全測試。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。