當前，全球人工智能產業規模已達1.8萬億美元，人工智能技術在各行各業的滲透融合逐步深入，核心領域呈現三大特征：一是?認知智能跨越?。GPT-5等大模型在醫療診斷、法律咨詢等專業領域準確率超過90%，引發教育、醫療等行業結構性變革?。二是?實體智能融合。美國波士頓動力的Atlas機器人已實現建筑工地全場景作業，中國“天工”機器人突破柔性抓取技術，推動制造業自動化率提升至68%?。三是?公共決策參與度增強。比如，美國的法院已開始試點AI量刑輔助系統，我國杭州的城市大腦3.0啟動建設，邁入“AI智辦”時代。
在人工智能技術不斷推動顛覆性創新的同時，也給社會治理乃至人類文明帶來了新問題和新挑戰。主要表現在算法權力問題、真實世界中的人際關系出現“數字真空”?、人類?創造力的異化等。對此，要加快探索完善人工智能倫理準則、規范及問責機制，明確人工智能的價值底線。
建立完善倫理約束框架。首先要堅持?立法先行?，研究制定《人工智能倫理審查法》，設立算法透明度、公平性、可問責性的法定標準，對醫療診斷等高風險系統實施準入審查?。其次是進行?分級監管，建立分級風險清單，按照風險程度初步可分為禁止、限制和鼓勵三個級別，比如，禁止AI操控核設施，限制情緒識別技術商業應用，鼓勵氣候預測模型開發等?。
重塑技術治理體系。建立完善?權力制衡機制，吸納哲學家、社會學家（占比不低于40%）參與國家人工智能倫理和治理機構，對公共領域AI系統實施動態倫理評估?。建設?技術免疫工程?，在自動駕駛等系統中強制植入生命優先權、公平性原則，從硬件層面約束算法邏輯?。
推進全球協同治理。推動國際?規則對接?，在G20等框架下探索建立人工智能倫理互認機制，統一跨境數據流動、知識產權保護等標準，減少“監管套利”空間?。建立完善?風險聯防機制，?創建國際AI安全預警網絡，對自主武器、基因編輯等高風險研發行為實施全球溯源追蹤與聯合懲戒?。
總之，守牢人工智能的價值底線是事關人類文明主導權的重要課題。只有通過前瞻性的制度設計、穿透性的技術治理和包容性的社會政策，才能讓人工智能真正成為照亮人類世界未來的火炬?。
閱讀原文
作者丨伍愛群（全國政協委員、上海航天信息科技研究院院長、華東師范大學特聘教授）
來源丨人民政協報
編輯丨王藍萱
編審丨戴琪
