根據聯合國秘書長古特瑞斯（António Guterres）於7月6日在瑞士日內瓦發出的嚴厲警示，人工智慧（AI）技術的發展速度已經達到「失控（runaway speed）」的程度。他強調，全球各國必須盡快制定並出台統一協調的監管規則，以降低 AI 技術所帶來的潛在風險，特別是針對兒童、人權以及全球安全的各類威脅。
數據發現：AI 發展速度超越科學家
古特瑞斯在日內瓦舉辦的首屆「政府層級全球人工智慧治理對話（Global Dialogue on AI Governance）」開幕式上表示，AI 技術擁有重塑全球經濟、徹底改變職場格局、左右民主選舉結果，甚至顛覆全球地緣政治與安全力量平衡的龐大能力。然而，其落地應用的推進速度，已經快到所有人都跟不上，就連研發這項技術的頂尖從業人員與科學家也不例外。
「這場技術革命正在以超乎想像的速度進行，我們必須迅速採取行動，否則將面臨無法挽回的後果。」
缺乏共識的社會實驗
古特瑞斯進一步指出，目前全球正處於一場沒有計畫、也沒有經過全民同意的「巨大社會實驗」之中。他強調，世界各國必須立刻做出決定，究竟是要共同塑造這場科技變革，還是被動地被其改變。他呼籲：「創新需要設立明確的約束邊界，若要安全且充分地發揮人工智慧的強大能力，就必須對其實施有效且具備強制力的全球治理。」
「我們不能讓這場技術革命成為無序的實驗，而是要通過全球協作，確保其發展方向符合人類的利益。」
四大治理優先事項
為了應對這些挑戰，古特瑞斯在會議中提出了未來 AI 治理的四大核心優先事項：
- 安全性（Safety）：開發共享的測試方法與標準，用以精確衡量系統風險，並明確劃分開發者與使用者的責任歸屬。
- 人權保障（Human Rights）：確保演算法的透明度與問責機制，並建立強大的人工監督體系，防止 AI 被用於歧視或監控。
- 能力建構（Capacity）：致力於弭平全球的數位與 AI 落差，確保開發中國家也能夠公平地獲得運算資源、伺服器基礎設施與技術支援。
- 透明度（Transparency）：確保人工智慧的開發與使用皆符合道德規範，並讓大眾了解 AI 系統的運作邏輯。
軍事應用與環境衝擊成為隱憂
除了社會與經濟層面的影響，古特瑞斯也對 AI 在軍事領域的擴散表達了強烈擔憂。他特別提及，目前民用等級的 AI 晶片正大量流入軍事應用，這可能會加速「致命性自主武器（Lethal Autonomous Weapons）」——也就是俗稱的「殺手機器人」的發展。他強烈呼籲國際社會應全面禁止這些能夠在沒有人類實質控制下，自行選擇並攻擊目標的武器系統。
「AI 晶片的軍事化應用，將對全球安全造成嚴重威脅，必須立即採取行動加以制止。」
在環境衝擊方面，AI 伺服器與資料中心所消耗的龐大電力也成為焦點。古特瑞斯敦促全球科技巨頭與運算晶片供應商，必須公開其 AI 系統與大型語言模型的實際能源需求，並承諾在 2030 年前，全面使用再生能源來驅動其資料中心，以避免 AI 發展加劇全球氣候變遷。
「AI 的環境影響不容忽視，各國必須共同努力，實現綠色 AI 的目標。」
數據背後的啟示
這場為期兩天的首屆聯合國全球人工智慧治理對話，是由國際電信聯盟（ITU）、聯合國教科文組織（UNESCO）等多個機構共同促成。其主要目標並非立即起草一份具法律約束力的國際條約，而是建立一個具備包容性的合作空間，探討如何制定相關規則，既要緩解人工智慧可能造成的危害，也要充分把握其發展機遇。
從產業面來看，AI 的快速發展確實帶來了巨大的機遇，但也伴隨著巨大的風險。全球各國需要通過協作，共同制定有效的監管措施，以確保 AI 的發展能夠造福人類，而不是成為新的威脅。
與會代表將在會議期間，審議一份由聯合國支持、40 名頂尖專家組成的獨立科學專家小組所出具的報告。該小組將發布全球首份獨立的 AI 科學評估研究結論，為未來的政策制定提供科學依據。聯合國計畫在明年（2027年）於紐約舉辦第二屆全球人工智慧治理對話會議，並預計屆時將推出一份內容更為全面、具體的全球監管框架報告。
行動呼籲
面對 AI 的快速發展，每個人都有責任關注其可能帶來的影響。我們呼籲讀者積極參與公共討論，支持政府和國際組織制定合理的監管政策，共同塑造一個安全、公正、可持續的 AI 未來。
本文改寫整理自公開新聞來源，原始報導由T客邦發布。
常見問題 FAQ
聯合國秘書長對 AI 的主要警告是什麼？
聯合國秘書長古特瑞斯警告，AI 技術的發展速度已經達到失控的程度，需要全球各國盡快制定統一協調的監管規則。
AI 治理的四大核心優先事項是什麼？
AI 治理的四大核心優先事項包括安全性、人權保障、能力建構和透明度。
AI 在軍事領域的應用有哪些隱憂？
AI 在軍事領域的應用可能加速致命性自主武器的發展，這些武器可以在沒有實質人類控制下自行選擇並攻擊目標，對全球安全造成嚴重威脅。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。