Microsoft pede regulamentação do software de reconhecimento facial Ai

Microsoft Corp., que foi criticada por um dos EUA.

contrato do governo que dizia envolver software de reconhecimento facial, disse que consideraria com mais cuidado os contratos nessa área e instou os legisladores a regular o uso de tal inteligência artificial para evitar abusos. A empresa, uma das principais fabricantes de software capaz de reconhecer rostos individuais, disse que tomará medidas para tornar esses sistemas menos propensos a vieses; desenvolver novos princípios públicos para governar a tecnologia; e se moverá mais deliberadamente para vender seu software e experiência na área. Embora a Microsoft tenha observado que a indústria de tecnologia é responsável por seus produtos, a empresa argumentou que a ação do governo também é necessária.

A única maneira eficaz de gerenciar o uso de tecnologia por um governo é que o próprio governo gerencie proativamente esse uso, disse o presidente e diretor jurídico da Microsoft, Brad Smith, na sexta-feira, em um post no blog. de forma mais ampla em toda a sociedade, a única maneira de regular esse amplo uso é o governo fazê-lo. Isso, de fato, é o que acreditamos ser necessário hoje, uma iniciativa do governo para regular o uso adequado da tecnologia de reconhecimento facial, informada primeiro por uma comissão bipartidária e especializada.

Empresas como Microsoft, Alphabet Inc.s Google Inc. foram criticadas por grupos de liberdades civis e seus próprios funcionários por vender software de IA, principalmente para reconhecimento facial, para os EUA.

S. Governo e polícia local. É um tanto incomum que as empresas de tecnologia peçam que seus próprios produtos sejam mais fortemente regulamentados, mas Smith e o chefe de IA da Microsoft, Harry Shum, no início deste ano, escreveram um tratado dizendo que os avanços da IA ​​exigiriam novas leis.

Embora saibamos que algumas pessoas hoje estão pedindo que as empresas de tecnologia tomem essas decisões e reconheçamos uma clara necessidade de nosso próprio exercício de responsabilidade, acreditamos que isso é um substituto inadequado para a tomada de decisões pelo público e seus representantes em uma república democrática, Smith escreveu. Os sistemas de reconhecimento facial geralmente apresentam deficiências sérias e são particularmente pobres em reconhecer e diferenciar entre pessoas com pele mais escura. as35 por cento para sistemas que classificam mulheres de pele mais escura.

Desde então, o braço de pesquisa da Microsoft trabalhou para corrigir os problemas identificados em seu software de reconhecimento facial pelos pesquisadores. À medida que a tecnologia evolui rapidamente, a Microsoft tem defendido novas leis que considerem diretamente áreas emergentes como computação em nuvem e IA. A empresa lutou contra os EUA

S. governo sobre preocupações de privacidade para o que a Microsoft disse ser a aplicação do governo de uma lei de comunicações desatualizada à computação em nuvem, então apoiou a legislação de comprometimento que abordava diretamente a privacidade de dados e pesquisas na era da nuvem. A visão da Microsoft tem um tom um pouco diferente da resposta da Amazon aos pedidos para que ela pare de vender seu software de reconhecimento facial para departamentos de polícia e outras agências governamentais.

Em uma postagem no blog de junho, respondendo às preocupações levantadas na época, o gerente geral da AmazonsAI, Matt Wood, escreveu que sempre houve e sempre haverá riscos com novos recursos de tecnologia. Cada organização que optar por empregar a tecnologia deve agir com responsabilidade ou correr o risco de penalidades legais e condenação pública. A AWS leva suas responsabilidades a sério.

Mas acreditamos que é uma abordagem errada impor a proibição de novas tecnologias promissoras porque elas podem ser usadas por maus atores para fins nefastos no futuro. Entre as questões que a regulamentação do governo deve considerar, escreveu Smith, está se o uso de software de reconhecimento facial pela polícia precisa de supervisão e controles humanos e se os varejistas devem publicar um aviso visível se usarem esse software em áreas públicas. Outras áreas a serem consideradas incluem se as empresas devem ser obrigadas a obter consentimento antes de coletar as imagens de uma pessoa e quais direitos legais se aplicam a pessoas que acreditam ter sido identificadas erroneamente por um sistema de reconhecimento facial.

O uso da tecnologia pela aplicação da lei sem regras em vigor levanta preocupações sobre disparidade racial e privacidade, disse Barry Friedman, professor de direito da NYU que administra o The Policing Project, que trabalha para definir regras e diretrizes para a aplicação da lei. A Suprema Corte decidiu que a polícia não pode ter acesso de longo prazo a dados de telefones celulares sem um mandado ou causa provável, e restrições semelhantes devem ser aplicadas ao uso de tecnologia de reconhecimento facial, disse ele. Essa tecnologia está nos atacando muito rápido, disse Friedman.

Se não nos adiantarmos, não poderemos colocar a pasta de dente de volta no tubo. No mês passado, a Microsoft removeu brevemente referências em seu site a um contrato que havia firmado com os EUA.

Immigration and Customs Enforcement após reclamações online sobre o fabricante de software vender para uma agência envolvida em controversas práticas de imigração que separam pais e filhos que cruzam a fronteira EUA-México.

A postagem do blog foi restaurada posteriormente. Embora a Microsoft tenha dito mais tarde que seu contrato com a agência de imigração era para colocar e-mail mais antigo e sistemas de colaboração de trabalhadores na nuvem, a postagem do blog mencionou a possibilidade de a agência usar as ferramentas de reconhecimento facial da empresa. Centenas de funcionários da Microsoft assinaram uma petição exigindo que a Microsoft parasse de vender para a agência.

A Amazon foi criticada por vender seu software Rekognition AI para essa tarefa para departamentos de polícia locais, com a União Americana das Liberdades Civis exigindo que a empresa pare de permitir que os governos usem a tecnologia. No Google, os funcionários se revoltaram com o trabalho da empresa no Project Maven, uma iniciativa do Departamento de Defesa para aplicar ferramentas de IA a imagens de drones. No mês passado, o CEO Sundar Pichai divulgou um conjunto de princípios que se comprometem a não usar sua poderosa inteligência artificial para armas, vigilância ilegal e tecnologias que causam danos gerais.

A empresa disse que ainda trabalhará com os militares. Neema Singh Guliani, consultora legislativa da ACLU, concordou com a Microsoft que os legisladores precisam se envolver na análise do uso de software de reconhecimento facial. O Congresso deve tomar medidas imediatas para decretar uma moratória sobre o uso dessa tecnologia pela aplicação da lei até que suas graves ameaças às comunidades possam ser totalmente debatidas, disse ela.

No entanto, enquanto isso, empresas como Microsoft, Amazon e outras devem atender aos apelos do público, funcionários e acionistas para parar de vender tecnologia de vigilância facial para as autoridades.” A Microsoft criou um conselho de ética em IA para examinar esses tipos de questões. e disse que recusou alguns contratos para vender alguns softwares para certos clientes, mas se recusou a fornecer detalhes. O novo AIboard pediu uma abordagem mais lenta e deliberada para vender o software, disse Smith.

Com assistência de Spencer Soper