美國(guó)的AI刷臉是不是該管管了？

過去一年，硅谷一直在因?yàn)槿绾翁幚頂?shù)據(jù)、選舉和言論而應(yīng)接不暇?，F(xiàn)在，他們又有了新的擔(dān)憂：人臉識(shí)別。

就在過去幾個(gè)星期，批評(píng)人士指責(zé)亞馬遜將人臉識(shí)別技術(shù)賣給地方警察局，還對(duì)Facebook獲取歐洲居民許可，以便在其照片中識(shí)別其身份的方式提出質(zhì)疑。

微軟最近同樣遭遇批評(píng)，原因是該公司員工抗議美國(guó)移民和海關(guān)執(zhí)法局與之簽訂的云計(jì)算服務(wù)使用協(xié)議。

微軟表示，那份合同并不涉及人臉識(shí)別。在人臉識(shí)別領(lǐng)域，提供給其他公司使用的微軟服務(wù)識(shí)別白人男性的準(zhǔn)確率，遠(yuǎn)高于女性或有色人種。

但是，為了幫助社會(huì)各界適應(yīng)科技的快速發(fā)展，微軟總裁布拉德·史密斯（Brad Smith）今天發(fā)表一篇博文，呼吁政府對(duì)人臉識(shí)別進(jìn)行監(jiān)管。

史密斯并未闡述具體原則，而是建議政府創(chuàng)建一個(gè)“兩黨和專家委員會(huì)”對(duì)該問題展開研究，并給出建議。

史密斯提出，該委員會(huì)應(yīng)該考慮的一系列問題，包括在執(zhí)法部門或國(guó)家安全部門使用這項(xiàng)技術(shù)時(shí)可能對(duì)其進(jìn)行的約束；通過各種標(biāo)準(zhǔn)避免種族歧視；在使用這項(xiàng)技術(shù)之前獲得人們的許可，尤其是在公共領(lǐng)域；對(duì)于可能被錯(cuò)認(rèn)的人給予法律保護(hù)。但他沒有詳細(xì)闡述微軟在這些問題上的觀點(diǎn)。

“在一個(gè)民主共和社會(huì)里，在設(shè)計(jì)需要平衡公共安全和民主自由的問題上，什么也不能取代民選代表的決策?！笔访芩拐f，“面部識(shí)別需要公共和私有領(lǐng)域共同組織，共同行動(dòng)?！?/p>

與很多科技一樣，人臉識(shí)別既有用，也有害。

網(wǎng)民使用谷歌、Facebook等公司提供的服務(wù)來識(shí)別照片中的人。蘋果允許用戶利用人臉解鎖iPhone X。微軟則通過Windows Hello提供類似的PC解鎖服務(wù)。Uber也借助微軟的人臉識(shí)別技術(shù)來識(shí)別駕駛員的身份。人臉分析也可以用于在辦公室、機(jī)場(chǎng)和酒店驗(yàn)證身份。

但對(duì)于刷臉，并沒有出臺(tái)多少監(jiān)管規(guī)定。

史密斯表示，政府?dāng)?shù)據(jù)庫或許可以用于監(jiān)控參加政治集會(huì)的人，甚至監(jiān)控你所瀏覽的信息，甚至你不感興趣的內(nèi)容?？紤]到華盛頓目前的政治僵局，提議組建專家委員會(huì)是一種比較保險(xiǎn)的方式，可以避免政府真的限制微軟或其他科技公司使用人臉識(shí)別技術(shù)。但微軟總裁稱，這種委員會(huì)過去10年曾經(jīng)出現(xiàn)過28次，而且取得了一些成功。例如，9-11期間的委員會(huì)以及隨后對(duì)國(guó)家安全機(jī)構(gòu)的調(diào)整。

廣泛使用人臉識(shí)別，好處顯而易見，可以在公共場(chǎng)所識(shí)別犯罪分子。

當(dāng)然，除了利用技術(shù)幫助政府監(jiān)管外，微軟總裁還表示，微軟及其他科技公司應(yīng)該在使用這種技術(shù)時(shí)肩負(fù)更多責(zé)任。

包括增強(qiáng)透明度、減少偏見、緩慢而謹(jǐn)慎地推進(jìn)技術(shù)?！叭绻覀冞^快地推進(jìn)人臉識(shí)別，可能會(huì)發(fā)現(xiàn)人們的基本權(quán)利遭到侵犯”，史密斯還表示，微軟正在努力減少人臉識(shí)別軟件中的種族差異。

關(guān)于科技使用過程中的道德問題并不新穎。但隨著人工智能逐漸具備識(shí)別人臉、駕駛汽車、預(yù)測(cè)犯罪等功能，相關(guān)的研究機(jī)構(gòu)、工業(yè)團(tuán)體和慈善項(xiàng)目相繼出現(xiàn)。微軟2016年創(chuàng)辦了內(nèi)部顧問委員會(huì)對(duì)廣泛使用人工智能展開研究。

史密斯還在博文中表示，當(dāng)他們認(rèn)為可能構(gòu)成較大人權(quán)風(fēng)險(xiǎn)的時(shí)候，會(huì)對(duì)客戶的要求加以拒絕。但微軟拒絕披露具體案例。

微軟的模式贏得了斯坦福大學(xué)民主、發(fā)展和法制中心客座教授艾琳·多納霍（Eileen Donahoe）的贊賞。“微軟在認(rèn)真思考他們開發(fā)的技術(shù)所產(chǎn)生的道德影響和人權(quán)影響時(shí)走在前列。”她說。多納霍表示，他預(yù)計(jì)這篇博文將引發(fā)其他科技公司參與討論。

有的批評(píng)者建議科技公司暫停人臉識(shí)別等人工智能技術(shù)的研究。但多納霍表示，這并不現(xiàn)實(shí)，因?yàn)槠渌I(lǐng)域也在開發(fā)這項(xiàng)技術(shù)。

“我更愿意讓這些參與者跟他們的員工、用戶和美國(guó)政府互動(dòng)，共同思考科技的潛在使用方式，以及使用科技的過程中可能所帶來的風(fēng)險(xiǎn)?！?/p>

紐約大學(xué)斯登商業(yè)和人權(quán)中心主任邁克爾·珀斯納（Michael Posner）表示，他歡迎微軟的表態(tài)。

但珀斯納也警告稱，政府本身也有可能濫用人臉識(shí)別技術(shù)，并呼吁科技公司確?！斑@些科技系統(tǒng)的開發(fā)者與其服務(wù)對(duì)象保持同等程度的多元化?！?/p>

他還呼吁企業(yè)針對(duì)科技使用方式開發(fā)“明確的行業(yè)標(biāo)準(zhǔn)和指標(biāo)”。