7月4日，2024世界人工智能大會暨人工智能全球治理高級別會議發表《人工智能全球治理上海宣言》。全文如下：
人工智能全球治理上海宣言
我們深感人工智能對世界的深遠影響和巨大潛力，認識到人工智能正在引領一場科技革命，深刻影響人類生產生活。隨著人工智能技術快速發展，我們也面臨前所未有的挑戰，特別是在安全和倫理方面。
我們強調共同促進人工智能技術發展和應用的必要性，同時確保其發展過程中的安全性、可靠性、可控性和公平性，促進人工智能技術賦能人類社會發展。我們相信，只有在全球范圍內的合作與努力下，我們才能充分發揮人工智能的潛力，為人類帶來更大的福祉。
一、促進人工智能發展
我們愿積極推進研發，釋放人工智能在醫療、教育、交通、農業、工業、文化、生態等各領域的應用潛力。鼓勵創新思維，支持跨學科研究合作，共同推動人工智能技術突破與向善發展。共同關注和緩解人工智能對就業的影響，引導和促進人工智能賦能人類工作的質量與效率的提升。
倡導開放與共享的精神，推動全球人工智能研究資源的交流與合作。建立合作平臺，促進技術轉移與成果轉化，推動人工智能基礎設施公平分配，避免技術壁壘，共同提升全球人工智能的發展水平。
以高水平數據安全保障高質量數據發展，推動數據的依法有序自由流動，反對歧視性、排他性的數據訓練，合作打造高質量數據集，為人工智能發展注入更多養料。
建立合作機制，大力推進人工智能賦能各行各業，率先在制造、物流、采礦等領域加速智能化，同步推進相關技術、標準的共用共享。
致力于培養更多的人工智能專業人才，加強教育培訓與人才交流合作，提高全球范圍內人工智能素養與技能水平。
呼吁各國秉持以人為本、智能向善原則，確保各國在開發和利用人工智能技術方面權利平等、機會平等、規則平等，不受任何形式的歧視。
尊重各國自主發展的權利，鼓勵各國根據自身國情制定人工智能戰略政策和法律法規，呼吁在人工智能技術、產品和應用的國際合作中，遵守產品與服務對象國的法律法規，遵守適用的國際法，尊重其經濟社會制度、宗教文化傳統和價值理念。
二、維護人工智能安全
我們高度重視人工智能的安全問題，特別是數據安全與隱私保護，愿推動制定數據保護規則，加強各國數據與信息保護政策的互操作性，確保個人信息的保護與合法使用。
我們認識到加強監管，打造可審核、可監督、可追溯和可信賴的人工智能技術的必要性。我們將以發展的眼光看問題，在人類決策與監管下，以人工智能技術防范人工智能風險，提高人工智能治理的技術能力。我們鼓勵各國結合國情，制定相應的法律和規范，建立風險等級測試評估體系和科技倫理審查制度，在此基礎上，鼓勵行業制定更為及時和敏捷的自律規范。
我們愿加強人工智能相關的網絡安全，增強系統與應用的安全性與可靠性，防止黑客攻擊與惡意軟件應用。在尊重運用國際國內法律框架前提下，共同打擊操縱輿論、編造與傳播虛假信息的行為。
合作防范恐怖主義、極端勢力和跨國有組織犯罪集團利用人工智能技術從事非法活動，共同打擊竊取、篡改、泄露和非法收集利用個人信息的行為。
推動制定和采納具有廣泛國際共識的人工智能的倫理指南與規范，引導人工智能技術的健康發展，防止其被誤用、濫用或惡用。
三、構建人工智能治理體系
我們倡導建立全球范圍內的人工智能治理機制，支持聯合國發揮主渠道作用，歡迎加強南北合作和南南合作，提升發展中國家的代表性和發言權。我們鼓勵國際組織、企業、研究機構、社會組織和個人等多元主體積極發揮與自身角色相匹配的作用，參與人工智能治理體系的構建和實施。
我們愿加強與國際組織、專業機構等合作，分享人工智能的測試、評估、認證與監管政策實踐，確保人工智能技術的安全可控可靠。
加強人工智能的監管與問責機制，確保人工智能技術的合規使用與責任追究。
四、加強社會參與和提升公眾素養
我們愿建立多元化的參與機制，包括公開征求意見、社會調查等方式，讓公眾參與到人工智能決策過程。
加強公眾對人工智能的認知與理解，提高公眾對人工智能安全性的認識。開展科普活動，普及人工智能知識，提升公眾的數字素養與安全意識。
五、提升生活品質與社會福祉
我們愿積極推動人工智能在可持續發展領域的應用，包括工業創新、環境保護、資源利用、能源管理、促進生物多樣性等。鼓勵創新思維，探索人工智能技術在解決全球性問題中的潛力與貢獻。
致力于利用人工智能提升社會福祉，特別是在醫療、教育、養老等領域。
我們深知，這份宣言的落實需要我們共同努力。我們期待全球各國政府、科技界、產業界等利益攸關方能夠積極響應，共同推動人工智能的健康發展，共同維護人工智能的安全，賦能人類共同的未來。
