4月9日消息，據(jù)外媒報道，歐盟日前發(fā)布了AI倫理指導(dǎo)方針，公司和政府機構(gòu)未來開發(fā)AI時應(yīng)遵循7大原則。

　　這些原則不像艾薩克·阿西莫夫(Isaac Asimov)的“機器人三定律”。他們不會提供快速制定的倫理框架來幫助我們控制殺人機器人。相反，當我們將AI融入醫(yī)療、教育和消費技術(shù)等領(lǐng)域時，它們解決了影響社會的模糊和分散的問題。

　　舉例來說，如果AI系統(tǒng)在未來的某個時候診斷出你患了癌癥，歐盟的指導(dǎo)方針將希望確保這些事情：軟件不會因你的種族或性別而產(chǎn)生偏見，不會無視人類醫(yī)生的反對意見，而且病人有權(quán)要求它們解釋診斷結(jié)果。 所以，這些指導(dǎo)方針旨在阻止AI的瘋狂行為。

　　為了幫助實現(xiàn)這一目標，歐盟召集了由52名專家組成的小組，他們提出了未來AI系統(tǒng)應(yīng)該滿足的七大原則。

　　具體如下：

　　1.人類代理和監(jiān)督：AI不應(yīng)該踐踏人類的自主性。人們不應(yīng)該被AI系統(tǒng)所操縱或脅迫，應(yīng)該能夠干預(yù)或監(jiān)督軟件所做的每一個決定;

　　2.技術(shù)穩(wěn)健性和安全性：AI應(yīng)該是安全而準確的，它不應(yīng)該輕易受到外部攻擊(例如對抗性例子)的破壞，并且應(yīng)該是相當可靠的;

　　3.隱私和數(shù)據(jù)管理：AI系統(tǒng)收集的個人數(shù)據(jù)應(yīng)該是安全的，并且能夠保護個人隱私。它不應(yīng)該被任何人訪問，也不應(yīng)該輕易被盜;

　　4.透明度：用于創(chuàng)建AI系統(tǒng)的數(shù)據(jù)和算法應(yīng)該是可訪問的，軟件所做的決定應(yīng)該“為人類所理解和追蹤”。換句話說，操作者應(yīng)該能夠解釋他們的AI系統(tǒng)所做的決定;

　　5.多樣性、無歧視、公平：AI應(yīng)向所有人提供服務(wù)，不分年齡、性別、種族或其他特征。同樣，AI系統(tǒng)不應(yīng)在這些方面有偏見;

　　6.環(huán)境和社會福祉：AI系統(tǒng)應(yīng)該是可持續(xù)的(即它們應(yīng)該對生態(tài)負責(zé))，并能“促進積極的社會變革”;

　　7.問責(zé)制：AI系統(tǒng)應(yīng)該是可審計的，并由現(xiàn)有的企業(yè)告密者保護機制覆蓋。系統(tǒng)的負面影響應(yīng)事先得到承認和報告。

　　請注意，這些原則中有些條款的措辭有點兒抽象，并且很難從客觀的意義上進行評估。例如，“積極社會變化”的定義在人與人、國與國之間差異很大。但其他原則更為直截了當，可以通過政府監(jiān)督來檢驗。例如，共享用于訓(xùn)練政府AI系統(tǒng)的數(shù)據(jù)可能是對抗偏見算法的好方法。

　　這些指導(dǎo)方針不具有法律約束力，但它們可以影響歐盟起草的任何未來立法。歐盟曾多次表示，它希望成為道德AI領(lǐng)域的領(lǐng)導(dǎo)者，并通過《通用數(shù)據(jù)保護條例》》GDPR表明，它愿意制定影響深遠的、保護數(shù)字權(quán)利的法律。

　　但這個角色在某種程度上是環(huán)境迫使歐盟扮演的。在投資和尖端研究方面，歐盟無法與美國和中國競爭，因此它選擇了倫理作為塑造這項技術(shù)未來的最佳選擇。

　　作為這一努力的一部分，歐盟發(fā)布的報告還包括了一份被稱為“可信賴AI評估列表”，它可以幫助專家們找出AI軟件中的任何潛在弱點或危險。此列表包括以下問題：“你是否驗證了系統(tǒng)在意外情況和環(huán)境中的行為方式?”以及“你評估了數(shù)據(jù)集中數(shù)據(jù)的類型和范圍了嗎?”這些評估列表只是初步的，歐盟將在未來幾年收集公司的反饋，并在2020年提交關(guān)于其效用的最終報告。

　　數(shù)字版權(quán)組織Access Now的政策經(jīng)理范尼·希德韋吉(Fanny Hidvégi)表示：“評估列表是該報告最重要的部分。它提供了一個實用的、前瞻性的角度，指導(dǎo)我們?nèi)绾螠p輕AI的潛在危害。在我們看來，歐盟有潛力和責(zé)任走在這項工作的前列。但我們確實認為，歐洲聯(lián)盟不應(yīng)止步于制定倫理準則。”

　　其他人則懷疑，歐盟試圖通過倫理研究來塑造全球AI的發(fā)展方式，這是否會產(chǎn)生很大影響。智庫數(shù)據(jù)創(chuàng)新中心(Center For Data Innovation)高級政策分析師埃林·奇沃特(Eline Chivot)表示：“我們對正在采取的方法持懷疑態(tài)度，即通過為AI倫理創(chuàng)建一個黃金標準，它將確認歐盟在全球AI發(fā)展中的地位。而要成為AI倫理領(lǐng)域的領(lǐng)導(dǎo)者，首先必須在AI領(lǐng)域取得領(lǐng)先優(yōu)勢。” (騰訊科技審校/金鹿)