原標(biāo)題：專家解讀｜強(qiáng)化倫理安全標(biāo)準(zhǔn) 引導(dǎo)人工智能規(guī)范發(fā)展

　　當(dāng)前，人工智能技術(shù)加速演進(jìn)，正從內(nèi)容生成、智能交互向行業(yè)應(yīng)用、公共服務(wù)、知識(shí)生產(chǎn)、社會(huì)治理等領(lǐng)域持續(xù)拓展，深刻改變生產(chǎn)生活方式和社會(huì)運(yùn)行形態(tài)。推動(dòng)人工智能健康有序發(fā)展，既要充分釋放技術(shù)創(chuàng)新活力，也要堅(jiān)持以人為本、智能向善的理念，統(tǒng)籌發(fā)展和安全，引導(dǎo)人工智能應(yīng)用更好服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展和人民美好生活。近日發(fā)布的《人工智能應(yīng)用倫理安全指引1.0》（以下簡(jiǎn)稱《指引》），立足人工智能應(yīng)用活動(dòng)實(shí)際，為推動(dòng)人工智能應(yīng)用倫理安全治理從原則倡導(dǎo)走向?qū)嵺`落實(shí)提供了重要參照。

　　一、以開放協(xié)同凝聚人工智能應(yīng)用倫理安全治理共識(shí)

　　人工智能應(yīng)用倫理安全治理，關(guān)系技術(shù)創(chuàng)新方向、產(chǎn)業(yè)應(yīng)用秩序和社會(huì)公共利益，既需要堅(jiān)持正確價(jià)值導(dǎo)向，也需要在應(yīng)用實(shí)踐中持續(xù)凝聚共識(shí)。隨著人工智能應(yīng)用加快拓展，不同領(lǐng)域、不同場(chǎng)景對(duì)倫理安全的理解和關(guān)注重點(diǎn)不盡相同，亟需形成相對(duì)統(tǒng)一的認(rèn)識(shí)基礎(chǔ)?！吨敢肪幹七^程中，注重匯聚有關(guān)主管部門、行業(yè)部門及產(chǎn)學(xué)研用各方力量，充分聽取相關(guān)部門、專家學(xué)者、企業(yè)機(jī)構(gòu)和行業(yè)組織意見建議。一方面，圍繞人工智能應(yīng)用倫理安全治理的總體方向、政策銜接和實(shí)踐需求開展深入溝通，確?！吨敢放c人工智能治理有關(guān)部署相協(xié)調(diào)；另一方面，圍繞人工智能應(yīng)用活動(dòng)中的倫理安全影響、理念原則和主體責(zé)任開展專業(yè)研討，吸收不同領(lǐng)域、不同行業(yè)實(shí)踐經(jīng)驗(yàn)和意見建議，推動(dòng)各方在治理目標(biāo)、基本原則和實(shí)踐路徑上形成更加一致的認(rèn)識(shí)。

　　在此基礎(chǔ)上，《指引》立足人工智能應(yīng)用活動(dòng)實(shí)際，將價(jià)值導(dǎo)向、風(fēng)險(xiǎn)邊界和實(shí)踐要求進(jìn)一步轉(zhuǎn)化為面向應(yīng)用活動(dòng)的共同語言和基本遵循，使倫理安全要求能夠被不同主體理解、參照和落實(shí)。這既體現(xiàn)了人工智能應(yīng)用倫理安全治理的價(jià)值共識(shí)，也兼顧了技術(shù)創(chuàng)新和產(chǎn)業(yè)應(yīng)用中的現(xiàn)實(shí)需求，推動(dòng)人工智能應(yīng)用倫理安全治理從共識(shí)凝聚走向?qū)嵺`深化。

　　二、把倫理安全轉(zhuǎn)化為可識(shí)別的標(biāo)準(zhǔn)化對(duì)象

　　倫理安全具有價(jià)值屬性強(qiáng)、涉及范圍廣、表現(xiàn)形態(tài)多樣等特點(diǎn)。對(duì)于人工智能應(yīng)用治理而言，將倫理安全相關(guān)要求轉(zhuǎn)化為清晰的識(shí)別維度和治理參照，有利于幫助相關(guān)主體在具體應(yīng)用活動(dòng)中理解要求、把握邊界、開展實(shí)踐?！吨敢妨⒆闳斯ぶ悄軕?yīng)用活動(dòng)實(shí)際，對(duì)倫理安全相關(guān)影響進(jìn)行系統(tǒng)梳理，推動(dòng)宏觀價(jià)值要求進(jìn)一步轉(zhuǎn)化為各方可理解、可識(shí)別的標(biāo)準(zhǔn)化對(duì)象，為人工智能應(yīng)用向善發(fā)展提供重要參考。

　　（一）拓展人工智能應(yīng)用治理視野

　　人工智能倫理安全不是孤立的道德討論，而是人工智能深度融入經(jīng)濟(jì)社會(huì)發(fā)展后，與技術(shù)創(chuàng)新、產(chǎn)業(yè)應(yīng)用、公共服務(wù)和社會(huì)治理相伴而生的重要議題。人工智能應(yīng)用越是深入，越需要在關(guān)注技術(shù)安全、產(chǎn)品安全、服務(wù)安全的同時(shí)，進(jìn)一步關(guān)注其對(duì)人的主體性、社會(huì)秩序、公共利益和長(zhǎng)遠(yuǎn)發(fā)展的影響?！吨敢窂娜斯ぶ悄軕?yīng)用活動(dòng)出發(fā)，將倫理安全納入人工智能應(yīng)用治理整體框架，有助于引導(dǎo)相關(guān)主體從更寬視野認(rèn)識(shí)人工智能應(yīng)用影響，推動(dòng)人工智能更好體現(xiàn)以人為本、智能向善的價(jià)值取向。

　　（二）形成倫理安全影響識(shí)別框架

　　提升人工智能應(yīng)用倫理安全治理效能，關(guān)鍵在于把復(fù)雜多元的倫理安全影響轉(zhuǎn)化為明確的識(shí)別框架。倫理安全涉及價(jià)值取向、權(quán)利保障、責(zé)任邊界、社會(huì)秩序等多個(gè)方面，具有綜合性、關(guān)聯(lián)性和場(chǎng)景性特點(diǎn)。對(duì)于主管部門、行業(yè)組織、企業(yè)機(jī)構(gòu)和社會(huì)公眾而言，形成相對(duì)清晰的識(shí)別維度，有助于在不同場(chǎng)景、不同環(huán)節(jié)中理解、研判倫理安全，推進(jìn)倫理安全治理?！吨敢吠ㄟ^對(duì)人工智能應(yīng)用活動(dòng)相關(guān)影響的系統(tǒng)梳理，將相對(duì)抽象、多元、復(fù)雜的倫理安全要求，轉(zhuǎn)化為較為清晰的治理維度，為各方在統(tǒng)一框架下形成認(rèn)識(shí)、開展工作、加強(qiáng)協(xié)同提供基礎(chǔ)參照。

　　（三）為重點(diǎn)場(chǎng)景治理提供基礎(chǔ)支撐

　　人工智能應(yīng)用倫理安全治理需要從基礎(chǔ)框架走向場(chǎng)景實(shí)踐，重點(diǎn)場(chǎng)景是檢驗(yàn)和細(xì)化治理要求的重要領(lǐng)域。公共服務(wù)、教育、醫(yī)療、金融、內(nèi)容傳播、知識(shí)生產(chǎn)等場(chǎng)景，與人民群眾切身利益、社會(huì)公共秩序和行業(yè)發(fā)展質(zhì)量密切相關(guān)，對(duì)倫理安全治理提出了更具體的實(shí)踐需求。《指引》形成基礎(chǔ)性識(shí)別框架，有助于面向重點(diǎn)行業(yè)、重點(diǎn)場(chǎng)景和重點(diǎn)主體細(xì)化治理要求、形成配套指南、開展評(píng)估驗(yàn)證、積累典型案例，推動(dòng)人工智能應(yīng)用倫理安全治理更加貼近應(yīng)用實(shí)際、更加注重實(shí)踐落地。

　　三、把價(jià)值導(dǎo)向轉(zhuǎn)化為可遵循的基本規(guī)則

　　人工智能應(yīng)用倫理安全治理，既需要價(jià)值引領(lǐng)，也需要將價(jià)值要求轉(zhuǎn)化為應(yīng)用活動(dòng)中可以遵循的基本規(guī)則?！吨敢吩趥惱戆踩砟钪忻鞔_了人工智能應(yīng)用活動(dòng)的總體取向，并在倫理安全原則中從人類福祉、生命權(quán)利、公平公正、控制風(fēng)險(xiǎn)、公開透明、隱私安全、可控可信、敏捷共治、普惠共享等方面作出細(xì)化，有助于推動(dòng)價(jià)值導(dǎo)向從原則共識(shí)進(jìn)一步轉(zhuǎn)化為應(yīng)用活動(dòng)中的規(guī)則參照，引導(dǎo)人工智能應(yīng)用在創(chuàng)新發(fā)展中更好服務(wù)人的發(fā)展和社會(huì)公共利益。

　　（一）以人為本、智能向善的價(jià)值導(dǎo)向

　　人工智能應(yīng)用深度融入生產(chǎn)生活，倫理安全治理須更加注重維護(hù)人的主體地位、保障人的合法權(quán)益、促進(jìn)人的全面發(fā)展。《指引》將增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正等內(nèi)容納入倫理安全原則，有助于引導(dǎo)相關(guān)主體在人工智能應(yīng)用活動(dòng)中更加重視人的主體地位和合法權(quán)益，推動(dòng)人工智能應(yīng)用更好服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展和人民群眾實(shí)際需要。

　　（二）促進(jìn)發(fā)展和安全協(xié)同推進(jìn)

　　人工智能應(yīng)用從技術(shù)探索走向場(chǎng)景落地，既帶來效率提升和模式創(chuàng)新，也使倫理安全要求更加受到關(guān)注?！吨敢穼⒑侠砜刂骑L(fēng)險(xiǎn)、保持公開透明、保護(hù)隱私安全、確保可控可信等納入倫理安全原則，有助于引導(dǎo)相關(guān)主體在人工智能應(yīng)用活動(dòng)中統(tǒng)籌考慮創(chuàng)新價(jià)值與安全要求，把倫理安全要求融入方向把握、制度安排和過程管理之中，為人工智能應(yīng)用規(guī)范有序發(fā)展提供價(jià)值參照。

　　（三）形成價(jià)值引領(lǐng)與行為約束相統(tǒng)一的規(guī)則體系

　　人工智能應(yīng)用倫理安全治理需要在明確價(jià)值取向的基礎(chǔ)上，進(jìn)一步劃定應(yīng)用活動(dòng)應(yīng)當(dāng)遵循的基本邊界?！吨敢穱@增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、普惠共享等要求，明確人工智能應(yīng)用應(yīng)當(dāng)服務(wù)人的全面發(fā)展和社會(huì)公共利益；圍繞合理控制風(fēng)險(xiǎn)、保護(hù)隱私安全、確?？煽乜尚诺纫螅鞔_人工智能應(yīng)用應(yīng)當(dāng)堅(jiān)持必要的安全邊界和責(zé)任約束；圍繞保持公開透明、敏捷共治等要求，明確人工智能應(yīng)用應(yīng)當(dāng)增強(qiáng)可理解性、可監(jiān)督性和協(xié)同治理能力。通過將價(jià)值目標(biāo)、風(fēng)險(xiǎn)邊界和治理方式相銜接，《指引》推動(dòng)倫理安全原則從一般性理念轉(zhuǎn)化為人工智能應(yīng)用活動(dòng)可以對(duì)照把握的基本規(guī)則，引導(dǎo)相關(guān)主體在促進(jìn)創(chuàng)新應(yīng)用的同時(shí)，更好兼顧權(quán)益保護(hù)、風(fēng)險(xiǎn)防范和公共利益維護(hù)。

　　四、把原則要求轉(zhuǎn)化為可操作的應(yīng)用指引

　　圍繞人工智能應(yīng)用活動(dòng)中的實(shí)踐需求，《指引》在明確倫理安全影響、理念和原則的基礎(chǔ)上，進(jìn)一步將相關(guān)要求延伸到應(yīng)用活動(dòng)層面，圍繞通用要求以及應(yīng)用開發(fā)、服務(wù)提供、應(yīng)用使用等環(huán)節(jié)形成實(shí)踐參照，有助于推動(dòng)倫理安全要求從價(jià)值共識(shí)和原則要求進(jìn)入具體應(yīng)用過程，為相關(guān)主體規(guī)范開展人工智能應(yīng)用活動(dòng)提供行為參考。

　　（一）以通用指引明確應(yīng)用活動(dòng)共性要求

　　《指引》圍繞人工智能應(yīng)用活動(dòng)給出通用指引，將倫理安全理念和原則進(jìn)一步銜接到應(yīng)用目的、能力邊界、人的監(jiān)督、權(quán)益保護(hù)、風(fēng)險(xiǎn)防范等基礎(chǔ)環(huán)節(jié)。通過對(duì)共性事項(xiàng)作出引導(dǎo)，《指引》為不同主體、不同場(chǎng)景開展人工智能應(yīng)用活動(dòng)提供了基本參照，使倫理安全要求能夠從原則層面進(jìn)入具體應(yīng)用過程。

　?。ǘ┟嫦驊?yīng)用活動(dòng)各方明確實(shí)踐要求

　　人工智能應(yīng)用倫理安全要求需要落實(shí)到應(yīng)用開發(fā)、服務(wù)提供和應(yīng)用使用等具體活動(dòng)中?！吨敢访嫦驊?yīng)用活動(dòng)各方提出要求，體現(xiàn)了根據(jù)不同環(huán)節(jié)特點(diǎn)推動(dòng)責(zé)任落實(shí)的思路。對(duì)應(yīng)用開發(fā)環(huán)節(jié)，重在推動(dòng)倫理安全要求前置融入目標(biāo)設(shè)定、功能設(shè)計(jì)、技術(shù)實(shí)現(xiàn)和測(cè)試驗(yàn)證等過程，促進(jìn)人工智能應(yīng)用從源頭提升安全性、適用性和可預(yù)期性。對(duì)服務(wù)提供環(huán)節(jié)，重在推動(dòng)倫理安全要求貫穿服務(wù)運(yùn)行、用戶交互和風(fēng)險(xiǎn)處置等過程，促進(jìn)人工智能服務(wù)在具體場(chǎng)景中保持規(guī)范、可控、可信。對(duì)應(yīng)用使用環(huán)節(jié)，重在推動(dòng)使用者科學(xué)認(rèn)識(shí)人工智能能力邊界、理性審慎開展應(yīng)用活動(dòng)，共同維護(hù)安全有序、健康良好的人工智能應(yīng)用生態(tài)。

　　通過面向應(yīng)用活動(dòng)各方明確實(shí)踐要求，《指引》將倫理安全原則進(jìn)一步轉(zhuǎn)化為開發(fā)有遵循、服務(wù)有規(guī)范、使用有邊界的應(yīng)用指引。這樣的安排，既有利于推動(dòng)相關(guān)主體在各自環(huán)節(jié)履行相應(yīng)責(zé)任，也有利于促進(jìn)應(yīng)用開發(fā)、服務(wù)提供和應(yīng)用使用之間形成銜接配合，推動(dòng)人工智能應(yīng)用倫理安全要求更好融入實(shí)際活動(dòng)、落到具體場(chǎng)景。

　　《指引》作為人工智能應(yīng)用倫理安全治理的基礎(chǔ)性文件，立足應(yīng)用活動(dòng)實(shí)際，突出價(jià)值引領(lǐng)、規(guī)則傳導(dǎo)和責(zé)任落實(shí)，為完善人工智能倫理安全治理體系提供了重要支撐。面向未來，建議以《指引》發(fā)布實(shí)施為契機(jī)，圍繞重點(diǎn)行業(yè)、重點(diǎn)場(chǎng)景和重點(diǎn)主體，持續(xù)完善配套標(biāo)準(zhǔn)、實(shí)踐指南、評(píng)估方法和典型案例，推動(dòng)人工智能應(yīng)用倫理安全要求更好融入技術(shù)創(chuàng)新、產(chǎn)業(yè)發(fā)展和社會(huì)治理實(shí)踐，引導(dǎo)人工智能始終沿著以人為本、智能向善、安全可信的方向健康有序發(fā)展。（作者：范科峰，中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院副院長(zhǎng)）