原標(biāo)題：專家解讀｜筑牢智能向善的倫理安全基石

　　近日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會公布《人工智能應(yīng)用倫理安全指引1.0》（以下簡稱《指引》），標(biāo)志著我國在人工智能應(yīng)用治理領(lǐng)域邁出了重要一步。在當(dāng)前生成式人工智能、智能體等新技術(shù)快速迭代、應(yīng)用場景不斷拓展的背景下，《指引》的制定旨在平衡技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防范，確保人工智能發(fā)展始終服務(wù)于國家經(jīng)濟(jì)社會發(fā)展和人民福祉。

　　一、深刻認(rèn)識人工智能應(yīng)用帶來的倫理安全影響

　　開展有效治理的前提是精準(zhǔn)識別技術(shù)發(fā)展帶來的潛在風(fēng)險(xiǎn)?！吨敢吩敱M歸納了人工智能技術(shù)應(yīng)用可能帶來的六大結(jié)構(gòu)性影響?？v觀全球，警惕并規(guī)制這些影響，已成為當(dāng)前世界各國的普遍共識。

　　一是可能影響人類主導(dǎo)地位與生態(tài)可持續(xù)性。隨著系統(tǒng)自主性的提升，人工智能的行為可能超出人類所預(yù)設(shè)與可控的范圍。若關(guān)鍵決策節(jié)點(diǎn)缺乏有效監(jiān)督，人類在社會運(yùn)行中的主導(dǎo)地位將受到實(shí)質(zhì)性沖擊。同時(shí)，不合理的技術(shù)路線與算力擴(kuò)張也可能帶來系統(tǒng)性生態(tài)壓力，影響人與自然的和諧發(fā)展。防范模型失控、確保人類主導(dǎo)地位以及推動綠色智能已成為全球核心關(guān)切。例如，聯(lián)合國教科文組織《人工智能倫理問題建議書》等全球性倫理文件，也均將“人類主導(dǎo)和監(jiān)督”以及“環(huán)境可持續(xù)性”作為核心原則。

　　二是可能影響社會基礎(chǔ)秩序，加劇結(jié)構(gòu)性分化。人工智能深度介入社會運(yùn)行，在技術(shù)演進(jìn)快于社會適應(yīng)的錯(cuò)位下，可能沖擊既有行為規(guī)范與市場秩序，削弱維系社會運(yùn)轉(zhuǎn)的基本信任機(jī)制。此外，海量自動化決策可能對不同群體產(chǎn)生差異化影響，放大固有偏見與歧視，造成結(jié)構(gòu)性不利后果。維護(hù)社會公平秩序已成為多國監(jiān)管焦點(diǎn)，如美國發(fā)布《人工智能風(fēng)險(xiǎn)管理框架》以應(yīng)對算法偏見。我國近年來在算法推薦、深度合成等領(lǐng)域積累的專項(xiàng)治理經(jīng)驗(yàn)，也為此次通過倫理安全指引進(jìn)一步防范技術(shù)帶來的歧視性影響，奠定了扎實(shí)的工作基礎(chǔ)。

　　三是可能異化個(gè)體認(rèn)知，對公民權(quán)益造成威脅。人工智能普遍應(yīng)用形成的新環(huán)境極易對個(gè)體認(rèn)知與價(jià)值體系造成沖擊，導(dǎo)致過度依賴或脫離現(xiàn)實(shí)社會交往。同時(shí)，隱蔽的數(shù)據(jù)處理與全新的應(yīng)用方式，潛藏著侵害自然人生命健康、人格尊嚴(yán)、隱私財(cái)產(chǎn)及組織合法權(quán)益的隱患。縱觀世界多國對人工智能的治理實(shí)踐，保護(hù)個(gè)體免受智能異化與權(quán)益侵害是一項(xiàng)通行做法，如意大利數(shù)據(jù)保護(hù)局曾因情感干預(yù)與隱私風(fēng)險(xiǎn)緊急叫停某AI伴侶應(yīng)用?！吨敢穼ξ⒂^權(quán)益與認(rèn)知風(fēng)險(xiǎn)的精準(zhǔn)把控，為我國的防范治理指明了方向。

　　二、彰顯以人為本與智能向善的中國特色

　　在全球探尋人工智能治理共識的當(dāng)下，世界主要經(jīng)濟(jì)體均在加速構(gòu)建符合自身價(jià)值觀的監(jiān)管框架?！吨敢飞羁潭床爝@一國際趨勢，將社會主義核心價(jià)值觀貫穿于技術(shù)應(yīng)用規(guī)范的始終，深刻體現(xiàn)了技術(shù)發(fā)展造福人類、服務(wù)社會的中國特色與人文關(guān)懷。

　　一是細(xì)化落實(shí)頂層設(shè)計(jì)，貫通從倫理原則到應(yīng)用場景的實(shí)踐路徑。近年來，我國人工智能倫理治理體系日益完善，通過《人工智能科技倫理審查與服務(wù)辦法（試行）》《人工智能安全治理框架》等文件的出臺，已初步構(gòu)建起從倫理原則到程序規(guī)范的架構(gòu)。在此背景下，此次出臺的《指引》則進(jìn)一步向下延伸，切實(shí)填補(bǔ)了從宏觀倫理規(guī)范向具體產(chǎn)業(yè)應(yīng)用場景過渡的規(guī)則細(xì)化空間。指引不僅從理念層面提出引導(dǎo)，更通過詳實(shí)的通用指引、應(yīng)用開發(fā)指引、服務(wù)提供指引和應(yīng)用使用指引，將宏觀的審查要求轉(zhuǎn)化為微觀應(yīng)用層面的具體操作規(guī)范。這種從前沿科研向具體場景落地的制度安排，形成了原則、辦法與指引的一脈相承，使得人工智能倫理安全治理真正實(shí)現(xiàn)了從實(shí)驗(yàn)室到應(yīng)用場的落地見效。

　　二是貫通銜接法律規(guī)章，構(gòu)建強(qiáng)制約束與柔性引導(dǎo)相結(jié)合的治理體系。近年來，我國堅(jiān)持敏捷治理，在部門規(guī)章層面形成了清晰的演進(jìn)邏輯。從《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》規(guī)范算法分發(fā)，到《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》強(qiáng)調(diào)內(nèi)容真實(shí)性，再到《生成式人工智能服務(wù)管理暫行辦法》統(tǒng)籌全鏈條安全，《人工智能生成合成內(nèi)容標(biāo)識辦法》明確標(biāo)識要求，以及《人工智能擬人化互動服務(wù)管理暫行辦法》規(guī)制擬人化行為，隨著配套規(guī)定的不斷完善，我國已建立起以算法備案、安全評估、內(nèi)容標(biāo)識等要求為核心的人工智能制度規(guī)范。在此脈絡(luò)中，《指引》與上述法律規(guī)范互為補(bǔ)充，法律規(guī)范負(fù)責(zé)劃定制度紅線并解決違法懲戒問題；《指引》則確立倫理錨點(diǎn)，通過更詳細(xì)的操作建議引導(dǎo)技術(shù)向善，確保技術(shù)演進(jìn)契合人類共同福祉。這種法律規(guī)范與倫理安全指引雙輪驅(qū)動的模式，既保持了監(jiān)管的穩(wěn)定性，又賦予了治理體系應(yīng)對前沿技術(shù)不確定性的靈活性。

　　三是堅(jiān)守以人為本，彰顯科技向善與人文關(guān)懷底色。《指引》在倫理安全原則中明確了“增進(jìn)人類福祉”與“尊重生命權(quán)利”的安全底線，堅(jiān)持人工智能的主導(dǎo)權(quán)應(yīng)歸屬人類。其中極具中國特色的一點(diǎn)是，《指引》高度關(guān)注個(gè)人勞動就業(yè)權(quán)利的保護(hù)，明確提出事先評估并防范人工智能應(yīng)用可能引發(fā)的就業(yè)替代或失業(yè)風(fēng)險(xiǎn)，著力引導(dǎo)技術(shù)發(fā)展促進(jìn)提高生產(chǎn)生活水平。同時(shí)，人文關(guān)懷貫穿了文件的各個(gè)部分。例如，在通用指引和服務(wù)提供指引中，均重點(diǎn)強(qiáng)調(diào)了對未成年人、老年人、殘障人士等易受影響群體的保護(hù)，倡導(dǎo)在應(yīng)用開發(fā)和部署階段切實(shí)提升便利性，避免造成使用機(jī)會的不公平。此外，“普惠共享”原則倡導(dǎo)構(gòu)建合作共生、收益共享的人工智能生態(tài)，充分彰顯了我國科技發(fā)展堅(jiān)持消除偏見歧視、保障機(jī)會均等的社會責(zé)任感。

　　四是深化國際規(guī)則銜接，貢獻(xiàn)人工智能治理的中國智慧。當(dāng)前，全球人工智能治理面臨著技術(shù)壁壘森嚴(yán)、規(guī)則碎片化以及數(shù)據(jù)鴻溝加劇等嚴(yán)峻挑戰(zhàn)。指引在“敏捷共治”原則中，前瞻性地提出加強(qiáng)安全互認(rèn)，推動治理規(guī)則、技術(shù)標(biāo)準(zhǔn)、安全基準(zhǔn)等方面的國際銜接，以全面提升敏捷治理水平。這表明我國在筑牢國內(nèi)應(yīng)用安全底線的同時(shí)，始終秉持開放包容的大國態(tài)度。結(jié)合“普惠共享”原則的要求，《指引》鼓勵技術(shù)開源，倡導(dǎo)共享人工智能知識成果、最佳實(shí)踐與安全治理經(jīng)驗(yàn)。這些倡議舉措體現(xiàn)了我國堅(jiān)持開放合作、共治共享的治理理念，為構(gòu)建全球人工智能倫理安全治理體系提供了具有建設(shè)性的中國方案，有助于進(jìn)一步增強(qiáng)我國在全球前沿技術(shù)治理領(lǐng)域的話語權(quán)與影響力。

　　三、構(gòu)建全鏈條、全生命周期的倫理安全治理體系

　　人工智能治理是一項(xiàng)復(fù)雜的系統(tǒng)工程，單一環(huán)節(jié)的規(guī)制難以應(yīng)對跨邊界的技術(shù)風(fēng)險(xiǎn)。《指引》立足人工智能發(fā)展應(yīng)用實(shí)踐，按照參與主體的角色劃分，對應(yīng)用開發(fā)、服務(wù)提供和應(yīng)用使用三個(gè)關(guān)鍵環(huán)節(jié)進(jìn)行了分類引導(dǎo)，并結(jié)合不同垂直領(lǐng)域的特征，構(gòu)筑了一套權(quán)責(zé)清晰、協(xié)同聯(lián)動的指引體系。

　　一是在前端落實(shí)應(yīng)用開發(fā)者主體責(zé)任，強(qiáng)化安全管理。開發(fā)者是決定技術(shù)演進(jìn)方向的第一道關(guān)口?！吨敢丰槍?yīng)用開發(fā)階段提出了明確指引，核心在于將安全可控、公平公正、隱私保護(hù)等倫理要求作為應(yīng)用設(shè)計(jì)的默認(rèn)設(shè)置。在具體研發(fā)流程中，引導(dǎo)開發(fā)者在數(shù)據(jù)選擇、目標(biāo)設(shè)定、算法設(shè)計(jì)等核心環(huán)節(jié)高度關(guān)注潛在的偏見歧視影響，從技術(shù)源頭保障機(jī)會均等。同時(shí)，為防范技術(shù)黑箱帶來的失控風(fēng)險(xiǎn)，《指引》強(qiáng)調(diào)設(shè)置事故信息追溯機(jī)制，保留與風(fēng)險(xiǎn)事件相關(guān)的必要信息，確保在發(fā)生爭議或損害時(shí)能夠復(fù)盤分析并支撐責(zé)任追溯，從而保障技術(shù)底層的透明與可信。

　　二是在中端規(guī)范服務(wù)提供者運(yùn)營行為，完善風(fēng)險(xiǎn)控制機(jī)制。服務(wù)提供者是連接技術(shù)與使用者的橋梁，其運(yùn)營規(guī)范程度直接關(guān)系到風(fēng)險(xiǎn)控制的成效?！吨敢分貙Ψ?wù)提供者的管理責(zé)任作出指引，特別是在關(guān)鍵領(lǐng)域場景進(jìn)行重要決策時(shí)，若使用不可解釋的人工智能，將其限定為僅承擔(dān)輔助決策作用、不提供直接決策依據(jù)，并設(shè)置人工復(fù)核機(jī)制，防止算法替代人類做出核心判斷。此外，《指引》充分尊重使用者的自主選擇權(quán)，提出以清楚明確的方式向使用者提供拒絕、干預(yù)及停止使用的選項(xiàng)，并引導(dǎo)設(shè)置包含人工緊急干預(yù)、中止應(yīng)用等在內(nèi)的事故應(yīng)急處置機(jī)制，確保在面臨突發(fā)倫理安全風(fēng)險(xiǎn)時(shí)能夠及時(shí)熔斷止損。

　　三是在后端加強(qiáng)對應(yīng)用使用者宣教引導(dǎo)，明確合理合規(guī)的使用導(dǎo)向。應(yīng)用方不僅是技術(shù)的使用者，也是數(shù)字生態(tài)的重要共建者?！吨敢穼ＴO(shè)了應(yīng)用使用指引，倡導(dǎo)積極提升人工智能使用素養(yǎng)，形成理性、審慎的使用習(xí)慣。在內(nèi)容生產(chǎn)與傳播方面，《指引》劃定了清晰的行為底線，提出在使用人工智能生成內(nèi)容并對外發(fā)布時(shí)，履行主動聲明及標(biāo)識義務(wù)，不利用技術(shù)偽造他人身份或仿冒權(quán)威主體開展活動。同時(shí)，提醒審慎分享涉及個(gè)人或他人的敏感信息，防范因不當(dāng)輸入造成權(quán)益受損。

　　四是聚焦典型垂直場景特點(diǎn)，落實(shí)分類精細(xì)化治理指引。由于人工智能在不同領(lǐng)域的應(yīng)用風(fēng)險(xiǎn)存在顯著差異，一刀切的管理模式難以奏效。《指引》在通用指引中對多類典型垂直場景，前瞻性地給出了差異化的操作導(dǎo)向。例如，在涉及生命健康與人身安全的場景，明確了安全優(yōu)先、審慎適用的底線思維；在涉及社會治理與公共服務(wù)的場景，強(qiáng)調(diào)公共利益優(yōu)先與公平公正，保障技術(shù)應(yīng)用不削弱公共服務(wù)的普惠性；在涉及信息資訊與傳播的場景，則堅(jiān)持真實(shí)可信與清朗生態(tài)導(dǎo)向，強(qiáng)化對生成與推薦的風(fēng)險(xiǎn)治理。這種分類施策的精細(xì)化指引，為各類場景下的合規(guī)落地提供了重要參考。

　　《指引》的出臺，不僅是應(yīng)對人工智能倫理安全風(fēng)險(xiǎn)的技術(shù)性指引，更是統(tǒng)籌高質(zhì)量發(fā)展與高水平安全、構(gòu)建人工智能長效治理體系的戰(zhàn)略性舉措。展望未來，在規(guī)范引導(dǎo)下，我國人工智能產(chǎn)業(yè)將加速邁向更加穩(wěn)健、成熟的發(fā)展階段。一個(gè)權(quán)責(zé)清晰、合作共生、普惠共享的智能新生態(tài)正在逐步形成，人工智能將深度賦能社會進(jìn)步，成為增進(jìn)人民福祉和助力可持續(xù)發(fā)展的積極力量。同時(shí)，中國在人工智能應(yīng)用倫理安全領(lǐng)域積極探索與實(shí)踐，也將持續(xù)為全球數(shù)字治理體系提供參考借鑒。我們將與國際社會一道，共同迎接智能時(shí)代的安全、公平與繁榮。（作者：張凌寒，中國政法大學(xué)人工智能法研究院院長、教授，聯(lián)合國高級別人工智能咨詢機(jī)構(gòu)專家）