加強(qiáng)人工智能科技倫理治理 保障產(chǎn)業(yè)高質(zhì)量發(fā)展

　　近日，工業(yè)和信息化部等十部門聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡(jiǎn)稱《辦法》）。為更好理解和實(shí)施《辦法》，現(xiàn)就有關(guān)內(nèi)容解讀如下。

　　《辦法》出臺(tái)的背景是什么？

　　黨和國(guó)家高度重視科技倫理工作，2022年3月，中共中央辦公廳、國(guó)務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》，對(duì)科技倫理治理作出頂層設(shè)計(jì)和系統(tǒng)部署；2023年9月，科技部等十部門聯(lián)合印發(fā)《科技倫理審查辦法（試行）》，對(duì)科技倫理審查主體、審查程序作出具體規(guī)定；2024年7月，黨的二十屆三中全會(huì)再次強(qiáng)調(diào)“加強(qiáng)科技倫理治理”。人工智能技術(shù)快速發(fā)展，深度賦能千行百業(yè)，由此帶來的算法歧視、深度偽造等倫理風(fēng)險(xiǎn)也愈加凸顯。人工智能科技倫理治理是人工智能治理的重要組成部分，主要包括增進(jìn)人類福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯、隱私保護(hù)等內(nèi)涵。加強(qiáng)人工智能科技倫理治理，是堅(jiān)守科技向善、筑牢科技安全底線、保障產(chǎn)業(yè)高質(zhì)量發(fā)展的必然要求。在此背景下，出臺(tái)《辦法》，既是對(duì)科技倫理治理要求的具體落地，也是推動(dòng)人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展、促進(jìn)負(fù)責(zé)任創(chuàng)新的現(xiàn)實(shí)需要。

　　《辦法》與現(xiàn)有人工智能治理政策法規(guī)如何銜接？

　　《辦法》與現(xiàn)有人工智能治理相關(guān)政策法規(guī)實(shí)現(xiàn)有效協(xié)同。

　　《辦法》與《科技倫理審查辦法（試行）》緊密銜接?！犊萍紓惱韺彶檗k法（試行）》是覆蓋各領(lǐng)域科技倫理審查的綜合性、通用性規(guī)定，明確了審查基本程序、審查內(nèi)容與標(biāo)準(zhǔn)等統(tǒng)一要求，為《辦法》提供了基礎(chǔ)遵循。《辦法》在遵循通用規(guī)定的前提下，立足人工智能技術(shù)特征與倫理原則，在適用范圍、申請(qǐng)材料、審查重點(diǎn)、簡(jiǎn)易程序適用等方面作了針對(duì)性完善與細(xì)化，更貼合人工智能科技倫理審查實(shí)際需要。

　　《辦法》第二十六條規(guī)定，人工智能科技活動(dòng)在深度合成、算法推薦、生成式人工智能服務(wù)管理等方面實(shí)行登記、備案、行政審批等監(jiān)管措施且將符合科技倫理要求作為審批條件、監(jiān)管內(nèi)容的，可不再開展專家復(fù)核，有效減輕企業(yè)合規(guī)負(fù)擔(dān)。

　　同時(shí)，《辦法》第三十二條規(guī)定，明確違反本辦法規(guī)定的，將依照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》等法律法規(guī)和相關(guān)規(guī)定進(jìn)行調(diào)查處理并給予相應(yīng)處罰。

　　《辦法》中規(guī)定的人工智能科技倫理審查流程主要包括哪些環(huán)節(jié)？審查重點(diǎn)關(guān)注哪些方面？

　　《辦法》規(guī)定的人工智能科技倫理審查程序主要包括：

　　申請(qǐng)：人工智能科技活動(dòng)負(fù)責(zé)人向本單位人工智能科技倫理委員會(huì)（以下簡(jiǎn)稱“委員會(huì)”）或人工智能科技倫理審查與服務(wù)中心（以下簡(jiǎn)稱“服務(wù)中心”）提交申請(qǐng)材料；

　　受理：委員會(huì)或服務(wù)中心應(yīng)根據(jù)申請(qǐng)材料決定是否受理申請(qǐng)，確定適用的審查程序，并通知申請(qǐng)人；

　　開展審查：委員會(huì)或服務(wù)中心采用一般、簡(jiǎn)易或應(yīng)急程序，開展科技倫理審查；

　　專家復(fù)核：納入“需要開展科技倫理專家復(fù)核的人工智能科技活動(dòng)清單”（以下簡(jiǎn)稱“復(fù)核清單”）管理的科技活動(dòng)，通過委員會(huì)或服務(wù)中心的初步審查后，由單位申請(qǐng)專家復(fù)核，所在地方或相關(guān)主管部門組織開展專家復(fù)核；

　　作出審查決定：委員會(huì)或服務(wù)中心開展審查后作出批準(zhǔn)，修改后再審或不予批準(zhǔn)等決定，納入復(fù)核清單的科技活動(dòng)，根據(jù)專家復(fù)核意見作出科技倫理審查決定；

　　審查申訴：申請(qǐng)人對(duì)審查決定有異議的，可向委員會(huì)或服務(wù)中心提出申訴；

　　跟蹤審查：委員會(huì)或服務(wù)中心對(duì)審查批準(zhǔn)的人工智能科技活動(dòng)開展跟蹤審查，跟蹤審查間隔一般不超過12個(gè)月，納入復(fù)核清單的活動(dòng)，跟蹤審查間隔一般不超過6個(gè)月。

　　委員會(huì)或服務(wù)中心重點(diǎn)圍繞人類福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯、隱私保護(hù)等方面開展倫理審查。同時(shí)，還需要關(guān)注參與科技活動(dòng)的科技人員資質(zhì)等是否符合相關(guān)要求，擬開展的科技活動(dòng)是否具有科學(xué)價(jià)值和社會(huì)價(jià)值，科技活動(dòng)的風(fēng)險(xiǎn)受益是否合理，倫理風(fēng)險(xiǎn)控制方案及應(yīng)急預(yù)案是否科學(xué)恰當(dāng)、具有可操作性等。

　　哪些人工智能科技活動(dòng)需要開展專家復(fù)核，具體如何開展？

　　《辦法》第三節(jié)及附件規(guī)定，需要開展專家復(fù)核的人工智能科技活動(dòng)主要包括以下三類：

　　一是對(duì)人類主觀行為、心理情緒和生命健康等具有較強(qiáng)影響的人機(jī)融合系統(tǒng)的研發(fā)；

　　二是具有輿論社會(huì)動(dòng)員能力和社會(huì)意識(shí)引導(dǎo)能力的算法模型、應(yīng)用程序及系統(tǒng)的研發(fā)；

　　三是面向存在安全、人身健康風(fēng)險(xiǎn)等場(chǎng)景的具有高度自主能力的自動(dòng)化決策系統(tǒng)的研發(fā)。

　　開展專家復(fù)核的人工智能科技活動(dòng)，需先通過本單位人工智能科技倫理委員會(huì)或委托的服務(wù)中心完成初步審查；再由本單位申請(qǐng)專家復(fù)核。其中，中央企業(yè)、中央和國(guó)家機(jī)關(guān)直屬單位直接報(bào)請(qǐng)相關(guān)主管部門，其他單位報(bào)請(qǐng)地方。地方或相關(guān)主管部門按規(guī)定成立復(fù)核專家組，對(duì)初步審查意見的合規(guī)性、合理性開展復(fù)核，并在收到復(fù)核申請(qǐng)后30日內(nèi)反饋復(fù)核意見。委員會(huì)或服務(wù)中心依據(jù)復(fù)核意見作出最終審查決定，同時(shí)對(duì)納入復(fù)核清單的活動(dòng)加強(qiáng)跟蹤審查，跟蹤審查間隔一般不超過6個(gè)月。若倫理風(fēng)險(xiǎn)發(fā)生重大變化，應(yīng)重新開展審查并申請(qǐng)專家復(fù)核。

　　《辦法》在人工智能科技倫理服務(wù)與促進(jìn)方面提出了哪些具體舉措？

　　《辦法》專門設(shè)立第二章“服務(wù)與促進(jìn)”，圍繞標(biāo)準(zhǔn)建設(shè)、促進(jìn)服務(wù)、鼓勵(lì)創(chuàng)新、宣傳教育、人才培養(yǎng)五個(gè)方面制定務(wù)實(shí)舉措，精準(zhǔn)破解當(dāng)前人工智能企業(yè)倫理治理中存在的技術(shù)手段不足、標(biāo)準(zhǔn)規(guī)范不完善、治理工具匱乏等問題。

　　一是鼓勵(lì)高等學(xué)校、科研機(jī)構(gòu)、醫(yī)療衛(wèi)生機(jī)構(gòu)、企業(yè)和科技類社會(huì)團(tuán)體等參與人工智能科技倫理標(biāo)準(zhǔn)制定，凝聚行業(yè)共識(shí)，完善標(biāo)準(zhǔn)體系。

　　二是推進(jìn)人工智能科技倫理服務(wù)體系建設(shè)，強(qiáng)化風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警、檢測(cè)評(píng)估、認(rèn)證、咨詢等服務(wù)供給，加大對(duì)中小微企業(yè)人工智能科技倫理審查的支持和服務(wù)力度，降低企業(yè)合規(guī)成本。

　　三是支持人工智能科技倫理審查技術(shù)創(chuàng)新，鼓勵(lì)企業(yè)運(yùn)用技術(shù)手段防范倫理風(fēng)險(xiǎn)。

　　四是加強(qiáng)人工智能科技倫理宣傳教育，提升公眾倫理意識(shí)和素養(yǎng)。

　　五是推動(dòng)職業(yè)體系和課程體系建設(shè)，采取多種方式培養(yǎng)人工智能科技倫理人才。（工業(yè)和信息化部科技司）

　　轉(zhuǎn)自：中國(guó)電子報(bào)

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀