隨著人工智能應(yīng)用的日益普及，對(duì)人工智能所涉及到的法律、社會(huì)、倫理和道理問題也正在成為一個(gè)越來越值得關(guān)注的話題。近日，電氣和電子工程師協(xié)會(huì)（IEEE）發(fā)布了世界首個(gè)人工智能道德準(zhǔn)則設(shè)計(jì)草案《Ethically Aligned Design》。該草案目前仍在意見征求中。
專業(yè)技術(shù)協(xié)會(huì) IEEE 認(rèn)為，有道德標(biāo)準(zhǔn)設(shè)計(jì)的人工智能系統(tǒng)能夠造福全人類并且避免算法偏差，但是技術(shù)行業(yè)缺乏對(duì)道德的歸屬感和責(zé)任感已經(jīng)成為阻礙它發(fā)展的一個(gè)因素。
近日，IEEE 發(fā)布了第一個(gè)框架文件版本，希望它能引導(dǎo)行業(yè)走向光明，并幫助技術(shù)人員建立和睦有益的自治系統(tǒng)，而不是認(rèn)為道德與他們沒有關(guān)系。
該文件稱為「道德準(zhǔn)則設(shè)計(jì)（Ethically Aligned Design）」，它基于 100 多名在人工智能、法律、倫理、哲學(xué)和政策領(lǐng)域工作的學(xué)術(shù)界、科學(xué)界、政府和企業(yè)部門的「思想領(lǐng)袖」，包括了一系列詳細(xì)的建議。
IEEE 希望它能成為人工智能/自治系統(tǒng)（AS）技術(shù)專家的重要參考文件，因?yàn)樽灾渭夹g(shù)在未來幾年內(nèi)會(huì)進(jìn)入越來越多的系統(tǒng)。它也邀請(qǐng)了有關(guān)各方面對(duì)該文件做了反饋——IEEE 全球倡議網(wǎng)站（The IEEE Global Initiative』s website）有標(biāo)準(zhǔn)的提交指南模板。網(wǎng)站聲明所有的反饋意見都將公開發(fā)布，這些反饋應(yīng)不晚于 2017 年 3 月 6 日提交。
該組織更廣泛的希望是能夠通過創(chuàng)造共識(shí)和促進(jìn)開發(fā)實(shí)現(xiàn)道德目標(biāo)，為 IEEE 標(biāo)準(zhǔn)提出基于道德準(zhǔn)則設(shè)計(jì)概念的倡議。
「通過為技術(shù)專家提供同行推動(dòng)的、實(shí)用的建議，以創(chuàng)建符合道德標(biāo)準(zhǔn)的自治和智能的產(chǎn)品、服務(wù)和系統(tǒng)，我們可以超越與這些技術(shù)相關(guān)的恐懼，為人類的現(xiàn)在及將來帶來有價(jià)值的福利，」IEEE 標(biāo)準(zhǔn)協(xié)會(huì)（IEEE Standard Association）常務(wù)董事 Konstantinos Karachalios 在一份聲明中說。
這份 136 頁的文件分為一系列章節(jié)，從一般原則開始——例如需要確保人工智能尊重人權(quán)、運(yùn)作透明，以及人工智能是否為自動(dòng)決策負(fù)責(zé)——然后再轉(zhuǎn)到更具體的領(lǐng)域，例如如何將「人類準(zhǔn)則或價(jià)值觀」融入自治系統(tǒng)，如何解決潛在的偏見，如何達(dá)成信任，以及如何從外部評(píng)估并實(shí)現(xiàn)價(jià)值校正。
另一部分討論指導(dǎo)倫理研究和設(shè)計(jì)的方法論——與其它問題一起（例如工科學(xué)位的常規(guī)課程不包含倫理學(xué)），在這里，技術(shù)行業(yè)缺乏對(duì)道德的所有權(quán)和責(zé)任感被認(rèn)為是一個(gè)問題。IEEE 還指出實(shí)現(xiàn)倫理人工智能的其它問題，例如自治系統(tǒng)缺乏一個(gè)獨(dú)立的審查組織來監(jiān)督算法操作，以及在創(chuàng)建算法時(shí)使用「黑箱組件（black-box component）」。
IEEE 也提到，一個(gè)幫助技術(shù)行業(yè)克服道德盲點(diǎn)的建議是確保那些建立的自治技術(shù)覆蓋「多學(xué)科和多樣化的群體」，以便涵蓋所有潛在的倫理問題。
它還討論了制定「監(jiān)督智能和自治技術(shù)的制造過程」的標(biāo)準(zhǔn)，以確保受眾用戶不被自主行為傷害。
在監(jiān)督產(chǎn)品是否符合道德標(biāo)準(zhǔn)時(shí)，要建立「獨(dú)立的國(guó)際協(xié)調(diào)機(jī)構(gòu)」，并且監(jiān)督應(yīng)該時(shí)刻存在，無論是在產(chǎn)品發(fā)布時(shí)還是在其發(fā)展并與其它產(chǎn)品交互時(shí)。
「當(dāng)構(gòu)建可能影響人類安全或健康的系統(tǒng)時(shí)，僅僅假定系統(tǒng)的工作方式是不夠的。工程師必須確認(rèn)和評(píng)估黑箱軟件所涉及的道德風(fēng)險(xiǎn)，并在可能的情況下實(shí)施應(yīng)急策略，」IEEE 寫道。「技術(shù)專家應(yīng)該能夠通過透明和可追溯的標(biāo)準(zhǔn)來描述他們的算法或系統(tǒng)要做什么。在我們力所能及的范圍內(nèi)，它應(yīng)該是可預(yù)測(cè)的，但考慮到人工智能/自治系統(tǒng)的性質(zhì)，它可能更需要具有追溯性（retrospective）和緩解導(dǎo)向性（mitigation oriented）。」
「類似于航空領(lǐng)域的飛行數(shù)據(jù)記錄儀，這種算法的可追溯性能夠提供導(dǎo)致特定可疑或危險(xiǎn)行為的算法參考。即使這些過程仍然有些不透明，技術(shù)人員也可以尋求間接驗(yàn)證結(jié)果和檢測(cè)危害的方法。」
它的最終結(jié)論是，因?yàn)闆Q策過程的不透明性以及檢查或驗(yàn)證這些結(jié)果具有困難性，工程師「只有在非常謹(jǐn)慎和倫理關(guān)懷」的情形下部署黑箱軟件服務(wù)或組件。
文件中另一部分——有關(guān)通用人工智能的安全性和有益性——也警告說，隨著人工智能系統(tǒng)越來越有能力，人工智能「無法預(yù)期或無意識(shí)的行為會(huì)越來越危險(xiǎn)」，而提高安全性到通用級(jí)別會(huì)使未來的人工智能系統(tǒng)面臨困境。
「在開發(fā)和部署日益自主和強(qiáng)大的人工智能系統(tǒng)時(shí)，研究人員和開發(fā)人員將面臨越來越復(fù)雜的倫理和技術(shù)安全問題，」文件指出。
該文件還涉及到對(duì)由個(gè)人數(shù)據(jù)支持的人工智能系統(tǒng)固有的不對(duì)稱性——從這個(gè)角度講，該技術(shù)獲得的收益不是平均分配的。
「人工智能和自治系統(tǒng)（AI/AS）驅(qū)動(dòng)了算法經(jīng)濟(jì)，它們可以廣泛訪問我們的數(shù)據(jù)，但我們?nèi)匀慌c這個(gè)來源于生活發(fā)現(xiàn)的收益相脫離，」它提到。
「為了解決這種不對(duì)稱性，人們有必要定義、訪問和管理他們的個(gè)人數(shù)據(jù)，作為他們個(gè)人身份信息的管理人。關(guān)于收集個(gè)人信息的類型，還需要定義新參數(shù)加以規(guī)范。未來應(yīng)建立對(duì)有限具體數(shù)據(jù)交換的知情權(quán)和同意權(quán)機(jī)制，而不是長(zhǎng)期犧牲信息資產(chǎn)�！�
