中新網烏鎮11月22日電(奚金燕 藍伊旎)人工智能生成的內容如何“防偽”？網絡空間國際規則怎么制定？數據安全的邊界在哪里？隨著人工智能的高速發展以及在各領域的廣泛應用，加強人工智能在開發和應用層面的安全治理逐漸成為社會共識，聚焦的議題也愈加細分、深入。

　　11月19日至22日，2024年世界互聯網大會烏鎮峰會在烏鎮舉辦，人工智能成為本次大會核心議題，AI的倫理風險、安全治理等問題成為討論的焦點。

　　近年來，AI技術的快速發展帶來了巨大的經濟和社會效益，也引發了眾多安全和治理方面的挑戰。

　　在本屆峰會的網絡安全技術發展與國際合作論壇上，奇安信集團董事長齊向東指出，AI技術正面臨著“黑箱化”導致內容生成良莠不齊、“黑產化”導致深度偽造泛濫成災和“武器化”導致黑客攻擊愈演愈烈三重安全危機，亟須通過多維度體系化防護、深度偽造技術防治以及安全大模型的創新來加強治理。

　　“有了高效的安全治理，AI才有未來。”他認為，建立AI安全大模型是應對未來挑戰的關鍵策略。

　　以奇安信為例，用其部署自研的QAX-GPT安全大模型賦能天眼、天擎、椒圖等安全產品，再依托AISOC進行告警全局關聯，可以讓網絡安全、終端安全、服務器安全的防御變得更加主動。

　　再如，安恒信息牽頭研發的恒腦·安全垂域大模型在杭州亞運會賽事期間輔助處理安全事件287起，降低了ITCC57%的工作量。以AI對AI，以AI管AI，人工智能切實給網絡安保帶來了質的變化。

　　同時，隨著人工智能深入到生活的各個方面，如何用人文關懷搭建數字橋梁、實現技術發展與社會責任間的平衡成為新的課題。

　　在量子之歌董事長李鵬看來，隨著數字資源供給日益豐富、數字發展環境逐漸優化，老年人對知識與精神生活的需求也更加迫切，銀發教育普惠及資源共享需要在供給側發力。

　　他呼吁，人工智能的發展應當為老年教育等領域提供更多的數字化解決方案。比如，通過“線上+線下”的融合創新，一起構建“15分鐘學習圈”，實現“老年大學辦到家門口”，打通“老年教育最后一百米”，以數字創新增強老年教育服務的“可及性”和“均衡性”。

　　那么，應當如何加強安全治理和社會引導，助力人工智能可持續發展？

　　據了解，本屆峰會圍繞人才培養、數據安全等方面，打造了多個“亮點”、實現了多個“首次”。

　　峰會期間，世界互聯網大會智庫合作計劃啟動。該計劃由全球約60家智庫聯合發起，涉及互聯網、人工智能、大數據、通信、云計算等專業方向和數字經濟、網絡文化、網絡空間國際治理、網絡安全等研究領域，將為全球互聯網領域學術交流和思想對話機制化、常態化搭建合作平臺，推動全球智庫圍繞互聯網相關議題開展研究、交流與合作。

　　功以才成，業由才廣。互聯網迅猛發展，亟需規模宏大、結構合理、素質優良的創新人才隊伍。

　　為了應對這一挑戰，世界互聯網大會數字研修院正式啟動，旨在聚焦人工智能、數據、網絡安全、跨境電商等國際社會廣泛關注的熱點領域，通過開展國際化綜合性、專題性培訓和沙龍活動，為全球各國，特別是發展中國家培養具有廣闊國際視野、前沿數字化思維、先進數字化技能的專業人才。

　　作為研修院首批合作單位，安恒信息相關負責人表示，將以此為契機，在網絡安全人才培養領域走穩走遠，走深走實，助力“數字研修院”這一全新引擎，以更加創新、開放、普惠的方式，搭建全球能力建設平臺，維護安全的新疆域、文明互鑒的新平臺。

　　此外，世界互聯網大會還成立了首個專業性、常態化分支機構——人工智能專業委員會。第一屆專委會成員共170余人，匯集了來自人工智能領域國際組織、知名智庫、科研院所、專業協會及產業界的權威專家和專業人才，設立了標準推進計劃、安全與治理推進計劃和產業推進計劃。

　　當前正處于全球人工智能治理的重要時期，專委會將秉持搭建國際交流合作平臺、推動發展與治理協同、促進全球共享人工智能發展成果的原則，通過開展專題研討、成果分享、倡議發布等活動，不斷凝聚國際共識，促進人工智能包容普惠、可持續發展。(完)