當人工智能超越人類之前，我們準備好了嗎？

我們現在所看到的，「人工智能」正在以前所未有的速度改變世界。幾年前，我們對AI的印象，只停留在聊天、翻譯、寫文章、生成圖片；但今天，它已經開始寫程式、做數學推理、協助科學研究、分析醫療資料，甚至可以像一個「代理人」一樣，自己拆解任務、使用工具、執行工作。

根據2026年《國際AI安全報告》，全球至少已有7億人每週使用「領先的AI系統」，運用在數學與程式的設計，並以驚人的速度快速提升了「AI代理人」( AI Agent)更長的獨立完成任務的時間。以現在的發展速度，讓了解AI的人相當憂心，其中包括「AI教父」Geoffrey Hinton、Yoshua Bengio、Google DeepMind執行長Demis Hassabis、OpenAI執行長Sam Altman、Anthropic執行長Dario Amodei等人，因此他們共同簽署聯合聲明：需要降低AI導致人類滅絕的風險，應該將此等視於疫情和核武戰爭一樣的受到規範，列此為全球最優先處理的事項。這讓我們感受到，這是一句多沉重的警告。

當人工智能愈來愈像人，甚至開始在某些能力上超越人類，我們究竟要建立什麼樣的制度、技術與倫理，才能與自己創造出來的智慧安全共生？這可能是21世紀人類必須共同回答的問題。

當聽到「AI可能威脅人類」，是不是腦海會出現科幻電影的情景，機器有了意識，開始憎恨人類，最後反過來消滅了創造它的人。

其實，真正的「AI安全問題」並沒有這麼簡單。如同已經發生的

Deepfake可以偽造一個人的聲音和影像；「生成式AI」可以被拿來大量製造詐騙內容、假消息與網路攻擊。AI也會產生錯誤資訊、寫出有漏洞的程式，甚至提供錯誤的醫療建議，這些都不是科幻。

我們現在所使用的Chat GPT，是人問一句，AI回答一句。但是下一代AI--AI Agent (AI代理人)，AI就開始具有「自主行動」能力，只需告訴它目標，它自己能完成規劃、搜尋資料、寫程式、使用工具、修正錯誤，再一步一步完成任務。這會是一個非常重要的分水嶺。

當AI只是回答問題的時候，我們只會擔心它「說錯話」；但當AI開始會自主執行任務之後，我們就要更擔心它「做錯事」。

2026年的國際AI安全報告特別指出，「AI代理人」的風險之所以值得注意，正因為它們可以在較少人類介入的情況下行動，一旦出錯，人類能夠及時介入的機會也會減少。目前我們仍處「安全狀態」，只因為AI能自主運作的「高風險領域」還沒到來。

最讓人擔憂的是，當AI長出手和腳，離開了電腦螢幕，進入了現實世界，汽車、無人機、工業機器人、人形機器人、醫療設備、物流系統，甚至未來的家庭服務機器人，都可能逐漸成為AI的「身體」。這就是近年快速發展的「具身智能」。

過去的「工業機器人」只能按人類預先設定的程式，在固定位置焊接、搬運或組裝；但未來的機器人卻可以透過視覺、語言和AI模型，自己理解周圍環境，判斷下一步應該怎麼做。

現在的AI只有嘴，我們只擔心它說錯話；但當AI有了眼睛、雙手、雙腳，甚至可以自己採取行動之後，一個錯誤的判斷就有可能從「虛擬世界」到了「物理世界」。

AI不壞，但人可以用來做壞事，如果有人把AI當成武器，駭客利用AI尋找網路漏洞；犯罪集團用來大量製造詐騙；極端組織可能利用AI尋找危險的生物與化學資訊；國家也可能把AI裝進無人機與自主武器和軍事決策系統。在2026年的國際AI安全報告中，以上的例子真實存在。

這是一個兩難的問題，水能覆水；亦能載舟。AI能設計新藥、理解蛋白質與找到治療疾病的方法，同樣也可能被利用於製造毒藥。AI能保護網路安全，也能被用來攻擊網路。科技本無國籍，也無善惡，人類應該要有最後的決定權與使用的安全規範設定。我們所要恐懼的是，人類會不會有一天控制不了它？這也是目前AI科學界爭論最大的「失去控制」的風險。

現在最令專家真正擔心的是：如果未來AI有能力長時間自主行動、隱藏自己的行為、規避監督，甚至能阻止人類把它「關機」，到時就是人類失去控制權的時候。雖然科學界對這種情境存在很大分歧，有人認為這是過度擔憂，也有人認為，這是必須要在現在做好防範。

無論如何，AI最危險之處，就在於雖無法證明會不會發生，但只要發生，很可能就是無法挽回的災難。

人工智能發展至今，已經不只是科技，而是涉及到每一個領域，無論經濟、軍事、醫療、科研與國家競爭力，未來都與AI有關。中美兩大國更是不敢停。

美國不會願意放慢AI的研發，因為它怕被中國趕上，而中國更是認為，AI將是決定下一代工業與國家競爭力的因素，所以中美都不可能放慢腳步。

企業間也是如此，每一家AI公司都知道安全很重要，但也擔心競爭對手的超越。2026年的國際AI安全報告就指出，人工智能真正令人憂慮的，不只是有一天機器有比人類更聰明，而是人類在還沒有完全學會控制它之前，國家與企業之間的競爭，已經讓所有人都失去了能讓AI停下來的可能。

今日中美兩國在「AI安全」的責任重大。

美國今天仍然擁有世界最強大的AI創新生態，在頂尖大模型、先進晶片設計、基礎研究、雲端算力、風險資本以及吸引世界人才均具有優勢。

而中國最大的優勢，則是龐大的製造業、工程人才、供應鏈、電動車、電池、無人機與工業自動化體系。

2024年，中國新增約29.5萬台工業機器人，數量超過世界其他國家的總和；中國國產的機器人在國內的需求，相比10年前倍數成長。而中國也正在把人工智能與機器人、自動車和製造業更緊密地連接在起來。

目前中美兩國的競爭方向已經非常清楚。AI的上半場，人類比誰的「大腦」更聰明；下一階段就是比誰先把大腦長出眼睛、雙手與雙腳，進入整個「工業體系」。

所以未來中美的AI競爭，就在比誰最先把人工智能的大腦，讓機器人有了身體，最後建構整個「工業體系」。

這次剛結束的習特會，AI議題是第一次被兩國元首拉高到「戰略討論」的範疇，可見AI對人類未來的發展多麼重要。

根據中美雙方這次會面的成果發布，兩國決定要建立AI對話機制，並將會在11月舉行的APEC，建立「雙邊AI事故溝通渠道」。美方稱之為「Super Intelligence Dialogue」，中方則使用AI Dialogue做表述。

中國領導人習近平，這次在會談中提出了一句值得正視的話：「AI必須保持在人類控制之下」發展，AI應該是用在服務人類的進步上，而特郎普則表示AI關乎人類未來，中美應保持對話並加強合作。可見連兩大國都不得不承認，在這場競爭如此激烈的競賽中，架設護欄是必須的，中美不應該只有競爭，同時也必須建立「共同安全底線」。所以我們寄望這套「國際AI安全制度」盡快建立。如同二十世紀美蘇的核武競賽也要建立危機溝通熱線一樣，要做好軍備控制，管控核武擴散危機。

AI不是核武，它卻比核武更普及，也更複雜。核武主要掌握在國家手中，而AI掌握在政府、企業、大學、研究機構甚至普通人手中；核武需要特殊材料與龐大工業設施，而AI模型卻可以跨境傳播、複製和修改。所以AI治理甚至可能比核武治理更加困難，我們慶幸中美兩大國已經了解到合作的重要性。

中美兩國，在未來將會朝向對最先進模型的建立，建構共同認可的安全測試標準；對重大AI事故迅速相互通報；在核武指揮、關鍵基礎設施與自主武器領域要保留人類決策權；對可能大幅提升的生物武器或大規模網路攻擊能力的模型建立風險門檻；並且推動企業必須公布更透明的安全評估；以及建立科學家之間長期、非政治化的AI安全交流。在中美這場關乎人類生存的競賽中，必須設有底線，因為誰都不希望發生一場失控的AI災難，因為AI不會在太平洋中間停下來。

AI雖有隱憂，但它的成就同樣令人振奮，它可以幫助科學家更快發現新藥、分析癌症、研究蛋白質；幫助醫生更早發現疾病；讓偏遠地區的孩子得到世界級教育；幫助老人與身心障礙者生活得更加獨立；提高能源效率；協助人類理解氣候變化；並且把人類從危險、骯髒、重複性的勞動中解放出來。AI甚至可能幫助我們解決許多單靠人腦已經難以處理的複雜問題。

所以真正值得追求的答案，從來不是「停止AI」。而是讓AI發展造福了人類之外，還需要有制度、倫理與安全護欄的保障，這才是中美兩國合作的最大公約數。

中美可以在晶片、模型、機器人、汽車與市場上競爭；但是在人類是否仍然保有最終控制權這件事情上，兩國的利益一致。並且除中美兩國外，歐洲、日本、印度以及其他國家、聯合國和國際組織、全球科技企業與科學界，都應該參與建立「AI時代的共同規則」。現在只是中美先建立底線。

究竟人類的「治理智慧」，能不能趕得上自己的「科技智慧」？只要

回頭看人類的文明發展歷程，就會發現每一次的重大科技革命，當同時帶來希望外，也帶來新的危險。工業革命改變了生產，也帶來污染；核能可以發電，也可以製造原子彈；生物科技可以治療疾病，也可能被用來製造危險的病原體。科技本身從來不是人類最大的敵人。真正的問題始終是：我們有沒有足夠的智慧；具有管理自己的能力。

人工智能可能是人類歷史上第一次創造出一種可以「獨立思考」的工具。當AI開始自主行動，開始進入機器人的身體，甚至未來可能在愈來愈多認知領域超越我們時，人類需要的不只是更快的晶片、更大的模型和更多的算力。而是需要在快速的科技進步中，同時建立制度、倫理、責任與國際合作。

二十世紀，人類最大的智慧之一，是在擁有足以毀滅世界的核武之後，逐漸學會建立規則，避免輕易按下按鈕。

二十一世紀，我們所要面對的也許是一場更加深刻的考驗。中美究竟誰先取得AI領先地位，當然重要。但如果競爭的最後結果，是人類創造出自己無法駕馭的力量，那麼誰先到達終點，也就失去了意義。

二十一世紀真正的競賽，不只是中國與美國誰先抵達人工智能的前沿，而是人類的「治理智慧」，能不能始終追得上自己所創造的科技速度。只有當人工智能最後仍服務於人的尊嚴、生命與幸福，我們今天所追求的這場科技革命，才真正值得被稱為人類的進步。