作者：趙志耘（中國科學技術信息研究所黨委書記、所長，科技部新一代人工智能發展研究中心主任）

　　當前，ChatGPT類大模型加速了數字世界和物理世界的深度融合，引領人工智能進入新的發展階段。與此同時，人工智能固有的不確定性、不透明性、難以解釋、事實性錯誤等能力局限，對經濟發展、國際政治和全球治理等方面帶來深遠影響，引發了全球對大模型廣泛應用安全風險的熱議。如何應對人工智能風險并把握人工智能發展的戰略主動，有效保障國家安全，已成為我國國家安全治理的重要議題。

　　大模型技術引發新的安全風險和治理挑戰。隨著技術的更新迭代，人工智能的應用門檻持續降低，伴隨著誤用濫用情況的增加，經濟社會領域的多重安全風險也在交織疊加。

　　一是放大隱私信息泄露風險。當前，人工智能開發者和服務提供者可能利用用戶數據進行優化訓練，但相關服務條款卻并未對數據使用做出解釋說明，可能涉及在用戶不知情情況下收集個人信息、商業秘密等，安全風險較為突出。為保護個人信息安全，部分歐洲國家對大模型進行了嚴格監管和審查，甚至考慮禁止ChatGPT等人工智能應用。

　　二是輿論引導與文化滲透風險。在輿論和文化領域，人工智能技術可被用于算法引導、平臺滲透、網絡監控、內容生成等信息處理環節，由大模型驅動的文本創作工具可能產生頗具影響力或說服力的信息，使得虛假信息不易被識破，負面輿情傳播速度加快，進而導致侵犯他人合法權益、擾亂經濟秩序和社會秩序，甚至危害國家安全和社會公共利益。

　　三是情報軍事領域應用的新威脅。人工智能的自動生成代碼功能使黑客技術的習得過程更為容易，使網絡攻防的更新頻率大幅提升。利用ChatGPT類大模型可以幫助機器學習識別更加復雜的文本及實體，或將擴大無人軍用智能無人裝備的應用，增大軍事對峙摩擦，對國家安全帶來嚴峻挑戰。

　　加快推進人工智能安全治理。面對人工智能技術快速發展、風險持續蔓延的形勢，增強人工智能的安全性成為國際組織、各國政府及產業界等共同關注的議題。

　　我國高度重視人工智能安全問題，不斷加強人工智能發展的潛在風險研判和防范，建立健全人工智能安全治理體系，對人工智能技術本身所致的內生安全、人工智能應用中的衍生安全以及影響和決定人工智能前景的發展安全問題進行系統性治理，確保人工智能安全、可靠、可控。

　　2017年，國務院發布《新一代人工智能發展規劃》，對人工智能治理工作進行了專門部署，并要求建立人工智能安全監管和評估體系。我國不斷完善數據安全、網絡安全、人工智能等相關法律制度建設，為新技術的快速應用奠定法律基礎。研究制定算法推薦、深度合成、生成式人工智能等領域的管理規定，對人工智能發展進行引導和規范，保障相關技術產品的有序發展。先后發布《新一代人工智能治理原則——發展負責任的人工智能》《新一代人工智能倫理規范》，為人工智能技術的開發和應用設定道德約束，促使人工智能更好地服務于人類。此外，我國也積極參與全球人工智能治理，堅持倫理先行、和平利用、安全可控等治理原則，呼吁加強對人工智能軍事應用的監管，以負責任的態度促進人工智能安全治理。

　　推動形成人工智能安全治理的強大合力。盡管已開展一系列治理行動，但人工智能安全治理還面臨諸多全球共性難題。人工智能技術目前并不具備較強的可解釋性、準確性和真實性，難以完全實現人工智能治理所倡導的透明度、可靠性和安全性。如何在創新發展和有效監管之間取得平衡也是各國普遍面臨的問題。既要避免過度監管阻礙技術發展，也要防止管理力度不夠而引發嚴重問題。

　　當前，人工智能影響下的國際科技、經濟及政治領域發生沖突的可能性日益增大。我國正處在人工智能技術快速發展的階段，必須堅持貫徹總體國家安全觀，構建多元參與、協同共治的人工智能治理機制，調動各主體參與治理的積極性，促進人工智能與經濟社會健康有序融合，以高水平科技安全保障國家總體安全。一是建立健全人工智能安全治理機制。堅持審慎監管、開放包容原則，強化風險研判和監測預警，完善科技倫理審查和監管制度。二是增強法治保障能力。加快推進人工智能立法，開展生成式人工智能、信息安全利用等法律問題研究，建立追溯和問責機制，清晰界定人工智能相關主體權利、義務及責任邊界，從而保障各類群體的合法權益。三是增強人工智能技術治理能力。強化人工智能數據安全、隱私保護等技術研發，強化對人工智能算法和模型的審計監管和對人工智能系統安全性測試評估，增強抗系統性風險能力。四是增強國際安全合作能力。倡導以人為本、智能向善理念，在《中國關于規范人工智能軍事應用的立場文件》等基礎上，發揮聯合國、G20、上合組織等多邊機制的作用，拓展人工智能安全共識，避免人工智能濫用帶來的安全風險。