마이크로소프트, AI 얼굴 인식 소프트웨어 규제 촉구

미국에서 비난을 받고 있는 마이크로소프트.

안면인식 소프트웨어와 관련된 것으로 알려진 정부의 계약은 이 분야의 계약을 보다 신중하게 검토하겠다고 밝혔고, 국회의원들에게 이러한 인공지능의 남용을 방지하기 위해 사용을 규제할 것을 촉구했다. 개인의 얼굴을 인식할 수 있는 소프트웨어의 주요 제조업체 중 하나인 이 회사는 이러한 시스템이 편향되지 않도록 조치를 취하고 기술을 관리하기 위한 새로운 공개 원칙을 개발하고, 그리고 그 지역에서 자사의 소프트웨어와 전문성을 판매하기 위해 더 신중하게 움직일 것입니다. 마이크로소프트는 기술 산업이 자사 제품에 대한 책임을 지고 있다고 언급했지만, 정부의 조치도 필요하다고 주장했다.

정부의 기술 사용을 관리하는 유일한 효과적인 방법은 정부가 이러한 사용을 사전에 관리하는 것뿐이라고 Microsoft 사장 겸 최고 법률 책임자인 Brad Smith는 금요일 블로그 게시물에서 말했습니다. 그리고 기술이 배포되는 방식에 대한 우려가 있는 경우 더 광범위하게 사회 전반에 걸쳐 이러한 광범위한 사용을 규제하는 유일한 방법은 정부가 그렇게 하는 것입니다. 이것이 사실 우리가 오늘날 안면 인식 기술의 적절한 사용을 규제하기 위한 정부 이니셔티브가 필요하다고 생각하는 것입니다. 먼저 초당파 및 전문가 위원회에서 정보를 제공합니다.

마이크로소프트(Microsoft), 알파벳(Alphabet Inc.)의 구글(Google Inc.)과 같은 회사는 특히 안면 인식을 위한 AI 소프트웨어를 미국에 판매한 것에 대해 시민 자유 단체와 직원들로부터 비난을 받고 있습니다.

S. 정부 및 지방 경찰. 기술 회사가 자체 제품에 대한 규제를 강화해야 한다고 주장하는 것은 다소 이례적인 일이지만 올해 초 Smith와 Microsoft AI 책임자인 Harry Shum은 AI 발전에는 새로운 법률이 필요하다는 논문을 작성했습니다.

우리는 오늘날 일부 사람들이 기술 회사가 이러한 결정을 내리도록 요구하고 있다는 점과 우리 자신의 책임 행사가 분명히 필요하다는 점을 인정하지만 이것이 민주 공화국에서 대중과 그 대표자의 의사 결정에 대한 부적절한 대안이라고 생각합니다. 썼다. 얼굴 인식 시스템은 종종 심각한 결점이 있으며 특히 어두운 피부를 가진 사람들을 인식하고 구별하는 데 서툴다. Microsoft 연구원 중 한 명인 Timnit Gebru와 Massachusetts Institute for Technology Media Lab의 Joy Buolamwini의 2월 논문에 따르면 피부가 어두운 여성을 분류하는 시스템의 경우 35%입니다.

Microsoft의 연구 부서는 이후 연구원들이 안면 인식 소프트웨어에서 식별한 문제를 수정하기 위해 노력했습니다. 기술이 빠르게 발전함에 따라 Microsoft는 클라우드 컴퓨팅 및 AI와 같은 신흥 영역을 직접 고려하는 새로운 법률을 옹호해 왔습니다. 회사는 미국과 싸웠습니다.

S. Microsoft는 정부가 클라우드 컴퓨팅에 구식 통신법을 적용한 다음 클라우드 시대의 데이터 개인 정보 보호 및 검색을 직접 다루는 타협 법안을 지지했다고 Microsoft가 말한 것에 대한 개인 정보 보호 문제에 대한 정부의 입장을 밝혔습니다. 마이크로소프트의 견해는 경찰서 및 기타 정부 기관에 얼굴 인식 소프트웨어 판매를 중단해야 한다는 아마존의 대응과는 다소 다른 어조를 띤다.

당시 제기된 우려에 대한 6월 블로그 게시물에서 AmazonsAI의 총괄 책임자인 Matt Wood는 새로운 기술 기능에는 항상 위험이 있어왔고 앞으로도 그럴 것이라고 썼습니다. 기술을 채택하기로 선택한 각 조직은 책임감 있게 행동하지 않으면 법적 처벌과 대중의 비난을 받아야 합니다. AWS는 책임을 진지하게 생각합니다.

그러나 미래에 악의적인 행위자가 악의적인 목적으로 사용할 수 있기 때문에 유망한 신기술을 금지하는 것은 잘못된 접근이라고 생각합니다. Smith는 정부 규제가 고려해야 할 문제 중 하나는 얼굴 인식 소프트웨어의 경찰 사용에 인간의 감독과 통제가 필요한지 여부와 소매업체가 공공 장소에서 그러한 소프트웨어를 사용하는 경우 눈에 띄는 통지를 게시해야 하는지 여부라고 썼습니다. 고려해야 할 다른 영역에는 기업이 인물 이미지를 수집하기 전에 동의를 얻어야 하는지 여부와 안면 인식 시스템으로 자신을 잘못 식별했다고 생각하는 사람들에게 적용되는 법적 권리가 포함됩니다.

법 집행 기관에서 규칙 없이 이 기술을 사용하는 것은 인종 차별과 개인 정보 보호에 대한 우려를 불러일으킨다고 법 집행을 위한 규칙과 지침을 설정하기 위해 노력하는 The Policing Project를 운영하는 NYU 법학 교수인 Barry Friedman이 말했습니다. 대법원은 경찰이 영장이나 정당한 이유 없이 휴대전화 데이터에 장기간 접근할 수 없다고 판결했으며, 안면 인식 기술 사용에도 유사한 제한이 적용되어야 한다고 말했습니다. 프리드먼은 이 기술이 우리에게 정말 빠르게 다가오고 있다고 말했습니다.

앞서지 않으면 치약을 다시 튜브에 넣을 수 없습니다. 마이크로소프트는 지난달 웹사이트에서 미국과 체결한 계약에 대한 언급을 잠시 삭제했다.

미국-멕시코 국경을 넘어 부모와 자녀를 분리시키는 논란의 여지가 있는 이민 관행에 연루된 기관에 소프트웨어를 판매하는 소프트웨어 제조업체에 대한 온라인 불만 후 이민 및 세관 집행부.

블로그 게시물은 나중에 복원되었습니다. Microsoft는 나중에 이민 집행 기관과의 계약이 클라우드에 구형 이메일 및 작업자 협업 시스템을 배치하기 위한 것이라고 밝혔지만 블로그 게시물은 이민 집행 기관이 회사의 안면 인식 도구를 사용할 가능성에 대해 언급했습니다. 수백명의 마이크로소프트 직원들이 마이크로소프트가 에이전시에 판매를 중단할 것을 요구하는 청원서에 서명했다.

Amazon은 이 작업을 위한 Rekognition AI 소프트웨어를 지역 경찰서에 판매한 것에 대해 비난을 받았으며, 미국 시민 자유 연합(American Civil Liberties Union)은 회사가 정부에서 이 기술을 사용하는 것을 중단할 것을 요구했습니다. 구글 직원들은 드론 영상에 AI 도구를 적용하려는 국방부 이니셔티브인 프로젝트 메이븐(Project Maven)에 대한 회사의 작업에 반발했다. 지난달 최고 경영자(CEO)순다르 피차이(Sundar Pichai)는 무기, 불법 감시 및 전반적인 피해를 유발하는 기술에 강력한 인공 지능을 사용하지 않겠다고 약속한 일련의 원칙을 발표했습니다.

회사는 여전히 군대와 함께 일할 것이라고 말했다. ACLU의 법률 고문인 Neema Singh Guliani는 입법자들이 안면 인식 소프트웨어의 사용 분석에 참여해야 한다는 점에 Microsoft와 동의했습니다. 그녀는 의회가 커뮤니티에 대한 심각한 위협이 완전히 논의될 때까지 이 기술의 법 집행 유예 조치를 취하기 위해 즉각적인 조치를 취해야 한다고 말했습니다.

그러나 그동안 Microsoft, Amazon 및 기타 회사와 같은 회사는 법 집행 기관에 얼굴 감시 기술을 판매하는 것을 중단하라는 대중, 직원 및 주주의 요구에 주의를 기울여야 합니다." Microsoft는 이러한 종류의 문제를 조사하기 위해 AI 윤리 위원회를 만들었습니다. 일부 소프트웨어를 특정 고객에게 판매하기 위한 일부 계약을 거절했다고 밝혔지만 자세한 내용은 제공하지 않았습니다. 새로운 AIboard는 소프트웨어 판매에 대해 더 느리고 더 신중한 접근을 촉구했다고 Smith는 말했습니다.

스펜서 소퍼의 도움으로