十部門聯(lián)合印發(fā)《辦法》 規(guī)范人工智能科技活動倫理治理

記者7日獲悉，工業(yè)和信息化部等十部門近日聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡稱《辦法》），為我國人工智能科技倫理審查與服務(wù)工作提供了明確指引。

人工智能技術(shù)快速發(fā)展，深度賦能千行百業(yè)，由此帶來的算法歧視、深度偽造等倫理風(fēng)險也愈加凸顯。人工智能科技倫理治理是人工智能治理的重要組成部分，主要包括增進(jìn)人類福祉、公平公正、可控可信、透明可解釋、責(zé)任可追溯、隱私保護(hù)等內(nèi)涵。工業(yè)和信息化部有關(guān)負(fù)責(zé)人表示，加強(qiáng)人工智能科技倫理治理，是堅守科技向善、筑牢科技安全底線、保障產(chǎn)業(yè)高質(zhì)量發(fā)展的必然要求。在此背景下，出臺《辦法》，既是對科技倫理治理要求的具體落地，也是推動人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展、促進(jìn)負(fù)責(zé)任創(chuàng)新的現(xiàn)實需要。

根據(jù)《辦法》要求，需要開展專家復(fù)核的人工智能科技活動主要包括三類：對人類主觀行為、心理情緒和生命健康等具有較強(qiáng)影響的人機(jī)融合系統(tǒng)的研發(fā)；具有輿論社會動員能力和社會意識引導(dǎo)能力的算法模型、應(yīng)用程序及系統(tǒng)的研發(fā)；面向存在安全、人身健康風(fēng)險等場景的、具有高度自主能力的自動化決策系統(tǒng)的研發(fā)。

上述負(fù)責(zé)人介紹，《辦法》圍繞標(biāo)準(zhǔn)建設(shè)、促進(jìn)服務(wù)、鼓勵創(chuàng)新、宣傳教育、人才培養(yǎng)五個方面制定舉措，精準(zhǔn)破解當(dāng)前人工智能企業(yè)倫理治理中存在的技術(shù)手段不足、標(biāo)準(zhǔn)規(guī)范不完善、治理工具匱乏等問題。

具體來看，《辦法》鼓勵高等學(xué)校、科研機(jī)構(gòu)、醫(yī)療衛(wèi)生機(jī)構(gòu)、企業(yè)和科技類社會團(tuán)體等參與人工智能科技倫理標(biāo)準(zhǔn)制定，凝聚行業(yè)共識，完善標(biāo)準(zhǔn)體系；推進(jìn)人工智能科技倫理服務(wù)體系建設(shè)，強(qiáng)化風(fēng)險監(jiān)測預(yù)警、檢測評估、認(rèn)證、咨詢等服務(wù)供給，加大對中小微企業(yè)人工智能科技倫理審查的支持和服務(wù)力度，降低企業(yè)合規(guī)成本；支持人工智能科技倫理審查技術(shù)創(chuàng)新，鼓勵企業(yè)運(yùn)用技術(shù)手段防范倫理風(fēng)險；加強(qiáng)人工智能科技倫理宣傳教育，提升公眾倫理意識和素養(yǎng)；推動職業(yè)體系和課程體系建設(shè)，采取多種方式培養(yǎng)人工智能科技倫理人才。

據(jù)了解，《辦法》堅持促進(jìn)創(chuàng)新與防范風(fēng)險相統(tǒng)一，通過制定人工智能科技倫理審查規(guī)則，提升人工智能倫理治理能力，確保人工智能負(fù)責(zé)任創(chuàng)新。

來源: 科技日報