《新一代人工智能倫理規(guī)范》發(fā)布
2021/9/27 16:00:01 來源:中國企業(yè)新聞網(wǎng)
導(dǎo)言:9月25日,國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能倫理規(guī)范》,旨在將倫理道德融入人工智能全生命周期,為從事人工智能相關(guān)活動的自然人、法人和其他相關(guān)機構(gòu)等提供倫理指引。
據(jù)科技部網(wǎng)站消息,9月25日,國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能倫理規(guī)范》(以下簡稱《倫理規(guī)范》),旨在將倫理道德融入人工智能全生命周期,為從事人工智能相關(guān)活動的自然人、法人和其他相關(guān)機構(gòu)等提供倫理指引。
《倫理規(guī)范》經(jīng)過專題調(diào)研、集中起草、意見征詢等環(huán)節(jié),充分考慮當(dāng)前社會各界有關(guān)隱私、偏見、歧視、公平等倫理關(guān)切,包括總則、特定活動倫理規(guī)范和組織實施等內(nèi)容!秱惱硪(guī)范》提出了增進人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責(zé)任擔(dān)當(dāng)、提升倫理素養(yǎng)等6項基本倫理要求。同時,提出人工智能管理、研發(fā)、供應(yīng)、使用等特定活動的18項具體倫理要求!秱惱硪(guī)范》全文如下:
新一代人工智能倫理規(guī)范為深入貫徹《新一代人工智能發(fā)展規(guī)劃》,細化落實《新一代人工智能治理原則》,增強全社會的人工智能倫理意識與行為自覺,積極引導(dǎo)負責(zé)任的人工智能研發(fā)與應(yīng)用活動,促進人工智能健康發(fā)展,制定本規(guī)范。
第一章 總則
第一條本規(guī)范旨在將倫理道德融入人工智能全生命周期,促進公平、公正、和諧、安全,避免偏見、歧視、隱私和信息泄露等問題。
第二條本規(guī)范適用于從事人工智能管理、研發(fā)、供應(yīng)、使用等相關(guān)活動的自然人、法人和其他相關(guān)機構(gòu)等。(一)管理活動主要指人工智能相關(guān)的戰(zhàn)略規(guī)劃、政策法規(guī)和技術(shù)標(biāo)準(zhǔn)制定實施,資源配置以及監(jiān)督審查等。(二)研發(fā)活動主要指人工智能相關(guān)的科學(xué)研究、技術(shù)開發(fā)、產(chǎn)品研制等。(三)供應(yīng)活動主要指人工智能產(chǎn)品與服務(wù)相關(guān)的生產(chǎn)、運營、銷售等。(四)使用活動主要指人工智能產(chǎn)品與服務(wù)相關(guān)的采購、消費、操作等。
第三條人工智能各類活動應(yīng)遵循以下基本倫理規(guī)范。(一)增進人類福祉。堅持以人為本,遵循人類共同價值觀,尊重人權(quán)和人類根本利益訴求,遵守國家或地區(qū)倫理道德。堅持公共利益優(yōu)先,促進人機和諧友好,改善民生,增強獲得感幸福感,推動經(jīng)濟、社會及生態(tài)可持續(xù)發(fā)展,共建人類命運共同體。(二)促進公平公正。堅持普惠性和包容性,切實保護各相關(guān)主體合法權(quán)益,推動全社會公平共享人工智能帶來的益處,促進社會公平正義和機會均等。在提供人工智能產(chǎn)品和服務(wù)時,應(yīng)充分尊重和幫助弱勢群體、特殊群體,并根據(jù)需要提供相應(yīng)替代方案。(三)保護隱私安全。充分尊重個人信息知情、同意等權(quán)利,依照合法、正當(dāng)、必要和誠信原則處理個人信息,保障個人隱私與數(shù)據(jù)安全,不得損害個人合法數(shù)據(jù)權(quán)益,不得以竊取、篡改、泄露等方式非法收集利用個人信息,不得侵害個人隱私權(quán)。(四)確保可控可信。保障人類擁有充分自主決策權(quán),有權(quán)選擇是否接受人工智能提供的服務(wù),有權(quán)隨時退出與人工智能的交互,有權(quán)隨時中止人工智能系統(tǒng)的運行,確保人工智能始終處于人類控制之下。(五)強化責(zé)任擔(dān)當(dāng)。堅持人類是最終責(zé)任主體,明確利益相關(guān)者的責(zé)任,全面增強責(zé)任意識,在人工智能全生命周期各環(huán)節(jié)自省自律,建立人工智能問責(zé)機制,不回避責(zé)任審查,不逃避應(yīng)負責(zé)任。(六)提升倫理素養(yǎng)。積極學(xué)習(xí)和普及人工智能倫理知識,客觀認識倫理問題,不低估不夸大倫理風(fēng)險。主動開展或參與人工智能倫理問題討論,深入推動人工智能倫理治理實踐,提升應(yīng)對能力。
第四條人工智能特定活動應(yīng)遵守的倫理規(guī)范包括管理規(guī)范、研發(fā)規(guī)范、供應(yīng)規(guī)范和使用規(guī)范。
第二章 管理規(guī)范
第五條推動敏捷治理。尊重人工智能發(fā)展規(guī)律,充分認識人工智能的潛力與局限,持續(xù)優(yōu)化治理機制和方式,在戰(zhàn)略決策、制度建設(shè)、資源配置過程中,不脫離實際、不急功近利,有序推動人工智能健康和可持續(xù)發(fā)展。
第六條積極實踐示范。遵守人工智能相關(guān)法規(guī)、政策和標(biāo)準(zhǔn),主動將人工智能倫理道德融入管理全過程,率先成為人工智能倫理治理的實踐者和推動者,及時總結(jié)推廣人工智能治理經(jīng)驗,積極回應(yīng)社會對人工智能的倫理關(guān)切。
第七條正確行權(quán)用權(quán)。明確人工智能相關(guān)管理活動的職責(zé)和權(quán)力邊界,規(guī)范權(quán)力運行條件和程序。充分尊重并保障相關(guān)主體的隱私、自由、尊嚴、安全等權(quán)利及其他合法權(quán)益,禁止權(quán)力不當(dāng)行使對自然人、法人和其他組織合法權(quán)益造成侵害。
第八條加強風(fēng)險防范。增強底線思維和風(fēng)險意識,加強人工智能發(fā)展的潛在風(fēng)險研判,及時開展系統(tǒng)的風(fēng)險監(jiān)測和評估,建立有效的風(fēng)險預(yù)警機制,提升人工智能倫理風(fēng)險管控和處置能力。
第九條促進包容開放。充分重視人工智能各利益相關(guān)主體的權(quán)益與訴求,鼓勵應(yīng)用多樣化的人工智能技術(shù)解決經(jīng)濟社會發(fā)展實際問題,鼓勵跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國界的交流與合作,推動形成具有廣泛共識的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。
第三章 研發(fā)規(guī)范
第十條強化自律意識。加強人工智能研發(fā)相關(guān)活動的自我約束,主動將人工智能倫理道德融入技術(shù)研發(fā)各環(huán)節(jié),自覺開展自我審查,加強自我管理,不從事違背倫理道德的人工智能研發(fā)。
第十一條提升數(shù)據(jù)質(zhì)量。在數(shù)據(jù)收集、存儲、使用、加工、傳輸、提供、公開等環(huán)節(jié),嚴格遵守數(shù)據(jù)相關(guān)法律、標(biāo)準(zhǔn)與規(guī)范,提升數(shù)據(jù)的完整性、及時性、一致性、規(guī)范性和準(zhǔn)確性等。
第十二條增強安全透明。在算法設(shè)計、實現(xiàn)、應(yīng)用等環(huán)節(jié),提升透明性、可解釋性、可理解性、可靠性、可控性,增強人工智能系統(tǒng)的韌性、自適應(yīng)性和抗干擾能力,逐步實現(xiàn)可驗證、可審核、可監(jiān)督、可追溯、可預(yù)測、可信賴。
第十三條避免偏見歧視。在數(shù)據(jù)采集和算法開發(fā)中,加強倫理審查,充分考慮差異化訴求,避免可能存在的數(shù)據(jù)與算法偏見,努力實現(xiàn)人工智能系統(tǒng)的普惠性、公平性和非歧視性。
第四章 供應(yīng)規(guī)范
第十四條尊重市場規(guī)則。嚴格遵守市場準(zhǔn)入、競爭、交易等活動的各種規(guī)章制度,積極維護市場秩序,營造有利于人工智能發(fā)展的市場環(huán)境,不得以數(shù)據(jù)壟斷、平臺壟斷等破壞市場有序競爭,禁止以任何手段侵犯其他主體的知識產(chǎn)權(quán)。
第十五條加強質(zhì)量管控。強化人工智能產(chǎn)品與服務(wù)的質(zhì)量監(jiān)測和使用評估,避免因設(shè)計和產(chǎn)品缺陷等問題導(dǎo)致的人身安全、財產(chǎn)安全、用戶隱私等侵害,不得經(jīng)營、銷售或提供不符合質(zhì)量標(biāo)準(zhǔn)的產(chǎn)品與服務(wù)。
第十六條保障用戶權(quán)益。在產(chǎn)品與服務(wù)中使用人工智能技術(shù)應(yīng)明確告知用戶,應(yīng)標(biāo)識人工智能產(chǎn)品與服務(wù)的功能與局限,保障用戶知情、同意等權(quán)利。為用戶選擇使用或退出人工智能模式提供簡便易懂的解決方案,不得為用戶平等使用人工智能設(shè)置障礙。
第十七條強化應(yīng)急保障。研究制定應(yīng)急機制和損失補償方案或措施,及時監(jiān)測人工智能系統(tǒng),及時響應(yīng)和處理用戶的反饋信息,及時防范系統(tǒng)性故障,隨時準(zhǔn)備協(xié)助相關(guān)主體依法依規(guī)對人工智能系統(tǒng)進行干預(yù),減少損失,規(guī)避風(fēng)險。
第五章 使用規(guī)范
第十八條提倡善意使用。加強人工智能產(chǎn)品與服務(wù)使用前的論證和評估,充分了解人工智能產(chǎn)品與服務(wù)帶來的益處,充分考慮各利益相關(guān)主體的合法權(quán)益,更好促進經(jīng)濟繁榮、社會進步和可持續(xù)發(fā)展。
第十九條避免誤用濫用。充分了解人工智能產(chǎn)品與服務(wù)的適用范圍和負面影響,切實尊重相關(guān)主體不使用人工智能產(chǎn)品或服務(wù)的權(quán)利,避免不當(dāng)使用和濫用人工智能產(chǎn)品與服務(wù),避免非故意造成對他人合法權(quán)益的損害。
第二十條禁止違規(guī)惡用。禁止使用不符合法律法規(guī)、倫理道德和標(biāo)準(zhǔn)規(guī)范的人工智能產(chǎn)品與服務(wù),禁止使用人工智能產(chǎn)品與服務(wù)從事不法活動,嚴禁危害國家安全、公共安全和生產(chǎn)安全,嚴禁損害社會公共利益等。
第二十一條及時主動反饋。積極參與人工智能倫理治理實踐,對使用人工智能產(chǎn)品與服務(wù)過程中發(fā)現(xiàn)的技術(shù)安全漏洞、政策法規(guī)真空、監(jiān)管滯后等問題,應(yīng)及時向相關(guān)主體反饋,并協(xié)助解決。
第二十二條提高使用能力。積極學(xué)習(xí)人工智能相關(guān)知識,主動掌握人工智能產(chǎn)品與服務(wù)的運營、維護、應(yīng)急處置等各使用環(huán)節(jié)所需技能,確保人工智能產(chǎn)品與服務(wù)安全使用和高效利用。
第六章 組織實施
第二十三條本規(guī)范由國家新一代人工智能治理專業(yè)委員會發(fā)布,并負責(zé)解釋和指導(dǎo)實施。
第二十四條各級管理部門、企業(yè)、高校、科研院所、協(xié)會學(xué)會和其他相關(guān)機構(gòu)可依據(jù)本規(guī)范,結(jié)合實際需求,制訂更為具體的倫理規(guī)范和相關(guān)措施。
第二十五條本規(guī)范自公布之日起施行,并根據(jù)經(jīng)濟社會發(fā)展需求和人工智能發(fā)展情況適時修訂。
國家新一代人工智能治理專業(yè)委員會
2021年9月25日
標(biāo)簽 :
相關(guān)網(wǎng)文
一周新聞資訊點擊排行
關(guān)于我們 | CENN服務(wù) | 對外合作 | 刊登廣告 | 法律聲明 | 聯(lián)系我們 | 手機版
客戶服務(wù)熱線:020-34333079、34333137 舉報電話:020-34333002 投稿郵箱:cenn_gd@126.com
版權(quán)所有:中國企業(yè)新聞網(wǎng) 運營商:廣州至高點網(wǎng)絡(luò)科技投資有限公司 地址:廣州市海珠區(qū)江燕路353號保利紅棉48棟1004