歐盟制定人工智能技術(shù)監(jiān)管條款 以保障人們權(quán)利不受侵害

據(jù)外媒報(bào)道，歐盟委員會(huì)21日提出了一系列關(guān)于人工智能技術(shù)應(yīng)用的監(jiān)管條款，認(rèn)為高風(fēng)險(xiǎn)的人工智能應(yīng)用應(yīng)當(dāng)被禁止或受到限制，以保障人們的安全和正當(dāng)權(quán)利不受侵害。

此舉是歐盟加強(qiáng)數(shù)字領(lǐng)域監(jiān)管，以期在該領(lǐng)域保持領(lǐng)先地位的最新行動(dòng)。歐盟按照安全風(fēng)險(xiǎn)的高低，將人工智能應(yīng)用場(chǎng)景分為從“安全”到“不可接受”四個(gè)等級(jí)，以在鼓勵(lì)該領(lǐng)域創(chuàng)新與保護(hù)人們的安全和隱私等權(quán)利之間更好地進(jìn)行平衡。

風(fēng)險(xiǎn)最低的應(yīng)用場(chǎng)景包括基于人工智能的電子游戲和垃圾郵件識(shí)別軟件等;風(fēng)險(xiǎn)有限的場(chǎng)景包括機(jī)器聊天軟件等，對(duì)此歐盟建議，應(yīng)該讓用戶知曉自己在與機(jī)器互動(dòng)，并有權(quán)決定繼續(xù)對(duì)話還是退出。

高風(fēng)險(xiǎn)應(yīng)用場(chǎng)景是指可能對(duì)人們生活的重要方面造成嚴(yán)重影響的場(chǎng)景，如包括自動(dòng)駕駛軟件在內(nèi)的交通等重要基礎(chǔ)設(shè)施、刑事法庭、邊境、精神病院和移民管理等。歐盟建議，這類(lèi)功能在啟用前應(yīng)履行嚴(yán)格義務(wù)，包括足夠的風(fēng)險(xiǎn)評(píng)估、高質(zhì)量的數(shù)據(jù)，以及必要的人工監(jiān)督等。比如，篩選入學(xué)、簡(jiǎn)歷和信用卡申請(qǐng)等應(yīng)用，必須滿足透明度和數(shù)據(jù)質(zhì)量方面的規(guī)定。

某些明顯威脅人們安全和權(quán)利的人工智能應(yīng)用被劃為不可接受的場(chǎng)景，包括控制人的行為，違反兒童意愿和潛意識(shí)的教化等，比如通過(guò)聲音輔助功能誘導(dǎo)未成年人做出危險(xiǎn)行為的玩具等。這類(lèi)應(yīng)用須被禁止。

歐委會(huì)執(zhí)行副主席瑪格麗特·韋斯塔格在新聞發(fā)布會(huì)上說(shuō)，若有企業(yè)不遵守規(guī)定，首先是受到警告，然后產(chǎn)品可能會(huì)被下架，如屢犯不改，則可罰沒(méi)其年收入的6%。

這些條款不僅約束企業(yè)行為，也對(duì)政府使用人工智能的行為進(jìn)行約束。歐委會(huì)強(qiáng)調(diào)，所有遠(yuǎn)距離生物識(shí)別系統(tǒng)都被認(rèn)為具有高風(fēng)險(xiǎn)，禁止執(zhí)法部門(mén)在公共場(chǎng)合使用這一技術(shù)，只有少數(shù)情況可例外，如尋找失蹤兒童或是防止恐怖襲擊、甄別犯罪分子和可疑人員等。這類(lèi)應(yīng)用需要得到司法部門(mén)或獨(dú)立機(jī)構(gòu)授權(quán)。

這些監(jiān)管條款中的一些即刻生效，主要是禁止那些風(fēng)險(xiǎn)過(guò)高的人工智能應(yīng)用，比如根據(jù)人們的行為進(jìn)行評(píng)判的“社會(huì)評(píng)分系統(tǒng)”。其他大部分條款尚需經(jīng)過(guò)歐洲議會(huì)和成員國(guó)政府的通過(guò)。外媒的報(bào)道稱(chēng)，這一過(guò)程可能會(huì)持續(xù)數(shù)月甚至數(shù)年。

標(biāo)簽： 歐盟 人工智能技術(shù) 監(jiān)管條款