Microsoft demande une réglementation des logiciels de reconnaissance faciale Ai

Microsoft Corp., qui a essuyé des critiques pour un compte américain.

contrat gouvernemental qui impliquerait un logiciel de reconnaissance faciale, a déclaré qu'il examinerait plus attentivement les contrats dans ce domaine et a exhorté les législateurs à réglementer l'utilisation de cette intelligence artificielle pour prévenir les abus. La société, l'un des principaux fabricants de logiciels capables de reconnaître les visages individuels, a déclaré qu'elle prendrait des mesures pour rendre ces systèmes moins sujets aux biais ; développer de nouveaux principes publics pour régir la technologie ; et se déplacera plus délibérément pour vendre ses logiciels et son expertise dans le domaine. Bien que Microsoft ait noté que l'industrie technologique porte la responsabilité de ses produits, la société a fait valoir qu'une action gouvernementale était également nécessaire.

Le seul moyen efficace de gérer l'utilisation de la technologie par un gouvernement est que le gouvernement gère lui-même cette utilisation de manière proactive, a déclaré vendredi le président et directeur juridique de Microsoft, Brad Smith, dans un billet de blog. Et s'il y a des inquiétudes quant à la manière dont une technologie sera déployée plus largement dans la société, la seule façon de réglementer cette large utilisation est que le gouvernement le fasse. C'est en fait ce dont nous pensons qu'il faut aujourd'hui une initiative gouvernementale pour réglementer le bon usage de la technologie de reconnaissance faciale, éclairée d'abord par une commission bipartite et experte.

Des entreprises comme Microsoft, Google Inc. d'Alphabet Inc. ont été critiquées par des groupes de défense des libertés civiles et leurs propres employés pour avoir vendu des logiciels d'IA, en particulier pour la reconnaissance faciale, aux États-Unis.

S. Gouvernement et police locale. Il est quelque peu inhabituel pour les entreprises technologiques de demander que leurs propres produits soient plus fortement réglementés, mais Smith et le chef de l'IA de Microsoft, Harry Shum, ont rédigé plus tôt cette année un traité disant que les progrès de l'IA nécessiteraient de nouvelles lois.

Bien que nous apprécions que certaines personnes demandent aujourd'hui aux entreprises technologiques de prendre ces décisions et que nous reconnaissons un besoin clair de notre propre exercice de la responsabilité, nous pensons que c'est un substitut inadéquat à la prise de décision par le public et ses représentants dans une république démocratique, Smith a écrit. Les systèmes de reconnaissance faciale présentent souvent de graves lacunes et sont particulièrement médiocres pour reconnaître et différencier les personnes à la peau plus foncée. Un article de février d'un des chercheurs de Microsoft, Timnit Gebru, et Joy Buolamwini du Massachusetts Institute for Technology Media Lab, a montré des taux d'erreur aussi comme 35 % pour les systèmes classant les femmes à la peau plus foncée.

La branche de recherche de Microsoft a depuis travaillé pour corriger les problèmes identifiés dans son logiciel de reconnaissance faciale par les chercheurs. Alors que la technologie évolue rapidement, Microsoft a plaidé pour de nouvelles lois qui tiennent directement compte des domaines émergents comme le cloud computing et l'IA. L'entreprise a combattu l'U.

S. gouvernement sur les problèmes de confidentialité pour ce que Microsoft a déclaré être l'application par les gouvernements d'une loi obsolète sur les communications au cloud computing, puis a soutenu une législation de compromis qui traitait directement de la confidentialité des données et des recherches à l'ère du cloud. Le point de vue de Microsoft prend un ton quelque peu différent de la réponse d'Amazon aux appels pour qu'il cesse de vendre son logiciel de reconnaissance faciale aux services de police et à d'autres agences gouvernementales.

Dans un article de blog de juin répondant aux préoccupations soulevées à l'époque, le directeur général d'AmazonsAI, Matt Wood, a écrit Il y a toujours eu et il y aura toujours des risques avec les nouvelles capacités technologiques. Chaque organisation qui choisit d'utiliser la technologie doit agir de manière responsable ou risquer des sanctions légales et la condamnation publique. AWS prend ses responsabilités au sérieux.

Mais nous pensons que ce n'est pas la bonne approche d'interdire les nouvelles technologies prometteuses, car elles pourraient être utilisées par de mauvais acteurs à des fins néfastes à l'avenir. Parmi les questions que la réglementation gouvernementale devrait prendre en compte, a écrit Smith, est de savoir si l'utilisation par la police des logiciels de reconnaissance faciale nécessite une surveillance et des contrôles humains et si les détaillants doivent afficher un avis visible s'ils utilisent ces logiciels dans les espaces publics. D'autres domaines à considérer incluent la question de savoir si les entreprises devraient être tenues d'obtenir le consentement avant de collecter des images d'une personne et quels droits légaux s'appliquent aux personnes qui pensent avoir été mal identifiées par un système de reconnaissance faciale.

L'utilisation de la technologie par les forces de l'ordre sans règles en place soulève des inquiétudes quant à la disparité raciale et à la vie privée, a déclaré Barry Friedman, un professeur de droit de la NYU qui dirige The Policing Project, qui travaille à établir des règles et des lignes directrices pour l'application de la loi. La Cour suprême a statué que la police ne pouvait pas avoir accès à long terme aux données des téléphones portables sans mandat ou cause probable, et des restrictions similaires devraient être appliquées à leur utilisation de la technologie de reconnaissance faciale, a-t-il déclaré. Cette technologie se précipite sur nous très rapidement, a déclaré Friedman.

Si on ne prend pas les devants, on ne pourra pas remettre le dentifrice dans le tube. Le mois dernier, Microsoft a brièvement supprimé les références sur son site Web à un contrat qu'il avait conclu avec les États-Unis.

Immigration and Customs Enforcement après des plaintes en ligne concernant le fabricant de logiciels vendant à une agence impliquée dans des pratiques d'immigration controversées séparant les parents et les enfants traversant la frontière américano-mexicaine.

Le billet de blog a ensuite été restauré. Alors que Microsoft a déclaré plus tard que son contrat avec l'agence d'application de la loi sur l'immigration portait sur la mise en place d'anciens systèmes de messagerie électronique et de collaboration des travailleurs dans le cloud, le billet de blog mentionnait la possibilité que l'agence utilise les outils de reconnaissance faciale de l'entreprise. Des centaines d'employés de Microsoft ont signé une pétition exigeant que Microsoft cesse de vendre à l'agence.

Amazon a été critiqué pour avoir vendu son logiciel Rekognition AI pour cette tâche aux services de police locaux, l'American Civil Liberties Union exigeant que l'entreprise cesse de laisser les gouvernements utiliser la technologie. Chez Google, les employés se sont révoltés contre le travail de l'entreprise sur le projet Maven, une initiative du ministère de la Défense visant à appliquer des outils d'intelligence artificielle aux images de drones. Le mois dernier, le PDG Sundar Pichai a publié un ensemble de principes qui s'engageaient à ne pas utiliser sa puissante intelligence artificielle pour les armes, la surveillance illégale et les technologies qui causent un préjudice global.

La société a déclaré qu'elle continuerait de travailler avec l'armée. Neema Singh Guliani, conseillère législative de l'ACLU, a convenu avec Microsoft que les législateurs doivent s'impliquer dans l'analyse de l'utilisation des logiciels de reconnaissance faciale. Le Congrès devrait prendre des mesures immédiates pour décréter un moratoire sur l'utilisation de cette technologie par les forces de l'ordre jusqu'à ce que ses graves menaces pour les communautés puissent être pleinement débattues, a-t-elle déclaré.

Cependant, dans l'intervalle, des entreprises comme Microsoft, Amazon et d'autres devraient tenir compte des appels du public, des employés et des actionnaires à cesser de vendre la technologie de surveillance faciale aux forces de l'ordre." Microsoft a créé un comité d'éthique de l'IA pour examiner ce genre de problèmes. et a déclaré avoir refusé certains contrats de vente de logiciels à certains clients, mais a refusé de fournir des détails. Le nouveau AIboard a encouragé une approche plus lente et plus délibérée de la vente du logiciel, a déclaré Smith.

Avec l'aide de Spencer Soper