Microsoft chiede il regolamento sul software di riconoscimento facciale Ai

Microsoft Corp., che è stata presa di mira per un U.S.

contratto governativo che avrebbe coinvolto software di riconoscimento facciale, ha affermato che prenderà in considerazione più attentamente i contratti in quest'area e ha esortato i legislatori a regolamentare l'uso di tale intelligenza artificiale per prevenire gli abusi. L'azienda, uno dei principali produttori di software in grado di riconoscere i volti individuali, ha affermato che adotterà misure per rendere quei sistemi meno inclini a pregiudizi; svilupperà nuovi principi pubblici per governare la tecnologia; e si muoverà più deliberatamente per vendere il suo software e la sua esperienza nell'area. Mentre Microsoft ha notato che l'industria tecnologica è responsabile dei suoi prodotti, la società ha affermato che è necessaria anche l'azione del governo.

L'unico modo efficace per gestire l'uso della tecnologia da parte di un governo è che il governo gestisca in modo proattivo questo uso stesso, ha dichiarato venerdì il presidente di Microsoft e Chief Legal Officer Brad Smith in un post sul blog. E se ci sono dubbi su come verrà implementata una tecnologia più in generale in tutta la società, l'unico modo per regolamentare questo ampio uso è che lo faccia il governo. Questo infatti è ciò che riteniamo sia necessaria oggi un'iniziativa del governo per regolamentare il corretto utilizzo della tecnologia di riconoscimento facciale, informata prima da una commissione bipartisan e di esperti.

Aziende come Microsoft, Alphabet Inc.s Google Inc. sono state prese di mira da gruppi per le libertà civili e dai propri dipendenti per aver venduto software di intelligenza artificiale, in particolare per il riconoscimento facciale, negli Stati Uniti.

S. Governo e polizia locale. È alquanto insolito per le aziende tecnologiche chiedere una regolamentazione più rigida dei propri prodotti, ma all'inizio di quest'anno Smith e il capo dell'IA di Microsoft Harry Shum hanno scritto un trattato in cui si afferma che i progressi dell'IA richiederebbero nuove leggi.

Sebbene apprezziamo che alcune persone oggi richiedano alle aziende tecnologiche di prendere queste decisioni e riconosciamo la chiara necessità del nostro esercizio di responsabilità, riteniamo che questo sia un sostituto inadeguato del processo decisionale del pubblico e dei suoi rappresentanti in una repubblica democratica, Smith ha scritto. I sistemi di riconoscimento facciale presentano spesso gravi carenze e sono particolarmente scarsi nel riconoscere e differenziare tra le persone con la pelle più scura. Un documento di febbraio di uno dei ricercatori Microsoft, Timnit Gebru, e Joy Buolamwini del Massachusetts Institute for Technology Media Lab, ha mostrato tassi di errore di altrettanti as35 per cento per i sistemi che classificano le donne dalla pelle più scura.

Da allora il braccio di ricerca di Microsoft ha lavorato per correggere i problemi identificati dai ricercatori nel suo software di riconoscimento facciale. Con la rapida evoluzione della tecnologia, Microsoft ha sostenuto nuove leggi che prendono direttamente in considerazione aree emergenti come il cloud computing e l'IA. L'azienda ha combattuto contro l' U.

S. governo sulle preoccupazioni sulla privacy per ciò che Microsoft ha affermato essere l'applicazione da parte del governo di una legge sulle comunicazioni obsoleta al cloud computing, quindi ha sostenuto una legislazione di compromissione che ha affrontato direttamente la privacy dei dati e le ricerche nell'era del cloud. Il punto di vista di Microsoft ha un tono leggermente diverso rispetto alla risposta di Amazon alla richiesta di interrompere la vendita del suo software di riconoscimento facciale ai dipartimenti di polizia e ad altre agenzie governative.

In un post sul blog di giugno in risposta alle preoccupazioni sollevate allora, il direttore generale di AmazonsAI, Matt Wood, ha scritto che ci sono sempre stati e ci saranno sempre dei rischi con le nuove capacità tecnologiche. Ogni organizzazione che sceglie di utilizzare la tecnologia deve agire in modo responsabile o rischiare sanzioni legali e condanna pubblica. AWS prende sul serio le proprie responsabilità.

Ma riteniamo che sia l'approccio sbagliato imporre un divieto alle nuove tecnologie promettenti perché potrebbero essere utilizzate da cattivi attori per scopi nefasti in futuro. Tra le questioni che la regolamentazione del governo dovrebbe considerare, ha scritto Smith, c'è se l'uso da parte della polizia del software di riconoscimento facciale necessita di supervisione e controlli umani e se i rivenditori devono pubblicare un avviso visibile se utilizzano tale software in aree pubbliche. Altre aree da considerare includono se alle aziende dovrebbe essere richiesto di ottenere il consenso prima di raccogliere le immagini di una persona e quali diritti legali si applicano alle persone che credono di essere state identificate erroneamente da un sistema di riconoscimento facciale.

L'uso della tecnologia da parte delle forze dell'ordine senza regole in atto solleva preoccupazioni sulla disparità razziale e sulla privacy, ha affermato Barry Friedman, un professore di legge della New York University che gestisce The Policing Project, che lavora per stabilire regole e linee guida per le forze dell'ordine. La Corte Suprema ha stabilito che la polizia non può avere accesso a lungo termine ai dati del telefono cellulare senza un mandato o una causa probabile e restrizioni simili dovrebbero essere applicate al loro uso della tecnologia di riconoscimento facciale, ha affermato. Questa tecnologia si sta precipitando su di noi molto velocemente, ha detto Friedman.

Se non andiamo avanti, non saremo in grado di rimettere il dentifricio nel tubetto. Il mese scorso Microsoft ha rimosso brevemente i riferimenti sul suo sito Web a un contratto che si era assicurato con gli Stati Uniti.

Immigrazione e forze dell'ordine dopo i reclami online sul produttore di software che vende a un'agenzia coinvolta in controverse pratiche di immigrazione che separano genitori e figli che attraversano il confine tra Stati Uniti e Messico.

Il post del blog è stato successivamente ripristinato. Mentre Microsoft in seguito ha affermato che il suo contratto con l'agenzia per l'immigrazione era per mettere nel cloud i vecchi sistemi di posta elettronica e di collaborazione dei lavoratori, il post sul blog menzionava la possibilità che l'agenzia utilizzasse gli strumenti di riconoscimento facciale dell'azienda. Centinaia di dipendenti Microsoft hanno firmato una petizione chiedendo a Microsoft di smettere di vendere all'agenzia.

Amazon è stata criticata per aver venduto il suo software Rekognition AI per questo compito ai dipartimenti di polizia locali, con l'American Civil Liberties Union che ha chiesto alla società di smettere di consentire ai governi di utilizzare la tecnologia. In Google, i dipendenti si sono ribellati per il lavoro dell'azienda su Project Maven, un'iniziativa del Dipartimento della Difesa per applicare gli strumenti di intelligenza artificiale alle riprese dei droni. Il mese scorso l'amministratore delegato Sundar Pichai ha rilasciato una serie di principi che si impegnavano a non utilizzare la sua potente intelligenza artificiale per armi, sorveglianza illegale e tecnologie che causano danni complessivi.

La società ha detto che lavorerà ancora con i militari. Neema Singh Guliani, consulente legislativo dell'ACLU, ha concordato con Microsoft che i legislatori devono essere coinvolti nell'analisi dell'uso del software di riconoscimento facciale. Il Congresso dovrebbe intraprendere un'azione immediata per emanare una moratoria sull'uso di questa tecnologia da parte delle forze dell'ordine fino a quando le sue gravi minacce per le comunità non saranno completamente discusse, ha affermato.

Tuttavia, nel frattempo, aziende come Microsoft, Amazon e altre dovrebbero prestare attenzione alle richieste del pubblico, dei dipendenti e degli azionisti di interrompere la vendita di tecnologia di sorveglianza facciale alle forze dell'ordine". Microsoft ha creato un comitato etico dell'IA per esaminare questo tipo di problemi e ha affermato di aver rifiutato alcuni contratti per la vendita di software a determinati clienti, ma ha rifiutato di fornire dettagli. Il nuovo AIboard ha sollecitato un approccio più lento e più deliberato alla vendita del software, ha affermato Smith.

Con l'assistenza di Spencer Soper