微軟呼籲對Ai人臉識別軟件進行監管

微軟公司 (Microsoft Corp.) 受到了美國的抨擊。

據說涉及面部識別軟件的政府合同表示,它將更全面地考慮這一領域的合同,並敦促立法者規範此類人工智能的使用,以防止濫用。 該公司是能夠識別個人面孔的軟件的主要製造商之一,該公司表示,它將採取措施使這些系統不容易出現偏見; 開發新的公共原則來管理該技術; 並將movemore故意出售其在該領域的軟件和專業知識。 雖然微軟指出科技行業對其產品負有責任,但該公司認為政府也需要採取行動。

微軟總裁兼首席法律官布拉德·史密斯 (Brad smithis) 周五在博客中說,管理政府使用技術的唯一有效方法是讓政府主動管理這種使用。 如果有人擔心一項技術將如何在社會上更廣泛地部署,那麼規範這種廣泛使用的唯一方法就是政府這樣做。 實際上,這是我們認為今天需要的一項政府倡議,以規範面部識別技術的正確使用,首先由兩黨和專家委員會提供信息。

微軟 (Microsoft) 、Alphabet inc. (Alphabet inc.) 等公司。 谷歌 (Google inc.)。 因向美國出售人工智能軟件 (尤其是面部識別軟件) 而受到公民自由組織及其員工的抨擊。

S. 政府和地方警察。 科技公司呼籲對自己的產品進行更嚴格的監管,這有點不尋常,但史密斯和微軟AI負責人哈里·舒姆 (Harry Shum) 今年早些時候發表了一篇論文,稱AI的進步將需要新的法律。

史密斯寫道,雖然我們讚賞今天有人呼籲科技公司做出這些決定,我們認識到我們自己行使責任的明確必要性,但我們認為這不足以替代公眾及其代表在民主共和國的決策。 面部識別系統通常具有嚴重的缺陷,並且在膚色較深的人群中識別和區分能力特別差。 Microsofts研究人員之一Timnit Gebru和麻省理工學院媒體實驗室的joy Buolamwini的2月論文顯示,對膚色較深的女性進行分類的系統的錯誤率高達35%。

此後,microsofts研究部門一直致力於糾正研究人員在其面部識別軟件中發現的問題。 隨著技術的快速發展,微軟一直在倡導直接考慮雲計算和人工智能等新興領域的新法律。 該公司與美國進行了鬥爭。

S. 政府對隱私的擔憂微軟所說的是政府將過時的通信法應用於雲計算,然後支持妥協立法,直接解決了雲計算時代的數據隱私和搜索問題。 微軟的觀點與亞馬遜呼籲停止向警察部門和其他政府機構出售其面部識別軟件的反應有些不同。

在6月的博客文章中,amazonsAI總經理Matt Wood回復了當時提出的擔憂,他寫道,新技術功能一直存在並且將永遠存在風險。 每個選擇使用技術的組織都必須採取負責任的行動,否則將面臨法律處罰和公眾譴責的風險。 AWS認真對待自己的責任。

但是我們認為,禁止有前途的新技術是錯誤的做法,因為不良行為者將來可能會將其用於邪惡目的。 史密斯寫道,政府監管應考慮的問題之一是,警察對面部識別軟件的使用是否需要監督和控製,以及零售商是否必須在公共場所使用此類軟件時發布可見的通知。 其他需要考慮的領域包括在收集人員圖像之前是否應要求公司獲得同意,以及哪些合法權利適用於認為自己被面部識別系統錯誤識別的人員。

負責警務項目的紐約大學法學教授巴里·弗里德曼 (Barry Friedman) 說,執法部門在沒有製定規則的情況下使用該技術引起了人們對種族差異和隱私的擔憂,該項目致力於制定執法規則和準則。 他說,最高法院裁定,如果沒有逮捕令或可能的原因,警察就不能長期訪問手機數據,並且對他們使用面部識別技術也應施加類似的限制。 弗里德曼說,這項技術真的很快就衝向我們。

如果我們不提前,我們就不能把牙膏放回管子裡。 微軟上個月在其網站上短暫刪除了其與美國簽訂的合同的引用。

在網上投訴該軟件製造商向一家涉及有爭議的移民做法的機構出售產品後,移民和海關執法局將父母和孩子越過美墨邊境。

博客文章後來被恢復。 雖然微軟後來表示,它與移民執法機構的合同是將較舊的電子郵件和員工協作系統放在雲中,但博客文章提到了該機構使用公司面部識別工具的可能性。 數百名微軟員工簽署了一份請願書,要求微軟停止向該機構出售產品。

亞馬遜因將其Rekognition AI軟件出售給當地警察部門而受到抨擊,美國公民自由聯盟要求該公司停止讓政府使用該技術。 在Google,員工對公司在ProjectMaven上的工作感到反感,projectMaven是國防部將AI工具應用於無人機鏡頭的一項計劃。 上個月,首席執行官桑達爾·皮查伊 (sundar Pichai) 發布了一系列原則,承諾不將其強大的人工智能用於武器,非法監視和造成整體傷害的技術。

該公司表示仍將與軍方合作。 ACLU的立法顧問Neema Singh Guliani同意微軟的觀點,即立法者需要參與分析面部識別軟件的使用。 國會應立即採取行動,暫停執法使用該技術,直到可以對其對社區的嚴重威脅進行充分辯論為止。

然而,與此同時,像微軟、亞馬遜和其他公司應該聽從公眾、員工和股東的呼籲,停止向執法部門出售面部監控技術。 "微軟已經創建了一個人工智能道德委員會來研究這類問題,並表示拒絕了一些向某些客戶出售某些軟件的合同,但拒絕提供細節。 史密斯說,新的AIboard敦促採用更低級,更慎重的方法來銷售該軟件。

在斯賓塞·索珀的協助下