Microsoft fordert Regulierung von Ai-Gesichtserkennungssoftware

Microsoft Corp., die wegen eines US-Angriffs unter Beschuss geraten ist

Regierungsvertrag, der Gesichtserkennungssoftware beinhalten soll, sagte, er werde Verträge in diesem Bereich sorgfältiger prüfen und forderte den Gesetzgeber auf, die Verwendung solcher künstlicher Intelligenz zu regulieren, um Missbrauch zu verhindern. Das Unternehmen, einer der wichtigsten Hersteller von Software, die in der Lage ist, individuelle Gesichter zu erkennen, sagte, es werde Schritte unternehmen, um diese Systeme weniger anfällig für Voreingenommenheit zu machen; neue öffentliche Prinzipien entwickeln, um die Technologie zu steuern; und wird seine Software und sein Know-how in diesem Bereich gezielter verkaufen. Während Microsoft feststellte, dass die Tech-Industrie die Verantwortung für ihre Produkte trägt, argumentierte das Unternehmen, dass auch staatliche Maßnahmen erforderlich seien.

Der einzige effektive Weg, die Nutzung von Technologie durch eine Regierung zu steuern, besteht darin, dass die Regierung diese Nutzung proaktiv selbst verwaltet, sagte Brad Smith, President und Chief Legal Officer von Microsoft, am Freitag in einem Blogbeitrag Auf breiterer Ebene in der Gesellschaft besteht die einzige Möglichkeit, diese breite Verwendung zu regulieren, darin, dass die Regierung dies tut. Dies ist in der Tat das, was wir heute für eine Regierungsinitiative brauchen, um die ordnungsgemäße Verwendung der Gesichtserkennungstechnologie zu regulieren, die zuerst von einer überparteilichen und Expertenkommission informiert wird.

Unternehmen wie Microsoft, Google Inc. von Alphabet Inc. wurden von Bürgerrechtsgruppen und ihren eigenen Mitarbeitern unter Beschuss genommen, weil sie KI-Software, insbesondere zur Gesichtserkennung, an die USA verkauft hatten.

S. Regierung und örtliche Polizei. Es ist etwas ungewöhnlich, dass Technologieunternehmen eine stärkere Regulierung ihrer eigenen Produkte fordern, aber Smith und Microsofts KI-Chef Harry Shum haben Anfang dieses Jahres eine Abhandlung verfasst, in der es heißt, dass Fortschritte bei der KI neue Gesetze erfordern würden.

Obwohl wir zu schätzen wissen, dass einige Menschen heute von Technologieunternehmen verlangen, diese Entscheidungen zu treffen, und wir die klare Notwendigkeit unserer eigenen Verantwortung erkennen, glauben wir, dass dies ein unzureichender Ersatz für die Entscheidungsfindung durch die Öffentlichkeit und ihre Vertreter in einer demokratischen Republik ist, Smith schrieb. Gesichtserkennungssysteme weisen oft schwerwiegende Mängel auf und sind besonders schlecht darin, Menschen mit dunklerer Haut zu erkennen und zu unterscheiden. Eine Februar-Studie von Timnit Gebru, einem der Microsoft-Forscher, und Joy Buolamwini vom Massachusetts Institute for Technology Media Lab, zeigte ähnlich hohe Fehlerquoten as35 Prozent für Systeme, die dunkelhäutige Frauen klassifizieren.

Der Forschungszweig von Microsoft hat seitdem daran gearbeitet, die von den Forschern in seiner Gesichtserkennungssoftware identifizierten Probleme zu beheben. Da sich die Technologie schnell weiterentwickelt, hat sich Microsoft für neue Gesetze eingesetzt, die neu entstehende Bereiche wie Cloud Computing und KI direkt berücksichtigen. Das Unternehmen kämpfte gegen die U.

S. Regierung über Datenschutzbedenken für das, was Microsoft sagte, war die Anwendung eines veralteten Kommunikationsgesetzes auf Cloud Computing durch die Regierung, und unterstützte dann Kompromissgesetze, die sich direkt mit Datenschutz und Suchen im Zeitalter der Cloud befassten. Die Sicht von Microsoft schlägt einen etwas anderen Ton an als die Antwort von Amazon auf die Aufforderung, den Verkauf seiner Gesichtserkennungssoftware an Polizeidienststellen und andere Regierungsbehörden einzustellen.

In einem Blog-Beitrag vom Juni, in dem er auf die damals geäußerten Bedenken antwortete, schrieb Matt Wood, General Manager von AmazonsAI, dass es immer Risiken mit neuen technologischen Fähigkeiten gegeben habe und es immer geben werde. Jede Organisation, die sich für den Einsatz von Technologie entscheidet, muss verantwortungsvoll handeln oder riskiert rechtliche Sanktionen und öffentliche Verurteilung. AWS nimmt seine Verantwortung ernst.

Aber wir glauben, dass es der falsche Ansatz ist, vielversprechende neue Technologien zu verbieten, weil sie in Zukunft von schlechten Akteuren für schändliche Zwecke verwendet werden könnten. Zu den Fragen, die die staatliche Regulierung berücksichtigen sollte, schrieb Smith, sei, ob die Verwendung von Gesichtserkennungssoftware durch die Polizei menschliche Aufsicht und Kontrolle erfordere und ob Einzelhändler sichtbare Hinweise anbringen müssen, wenn sie solche Software in öffentlichen Bereichen verwenden. Zu den weiteren zu berücksichtigenden Bereichen gehört, ob Unternehmen verpflichtet werden sollten, vor dem Sammeln von Personenbildern eine Einwilligung einzuholen, und welche gesetzlichen Rechte für Personen gelten, die glauben, dass sie von einem Gesichtserkennungssystem falsch identifiziert wurden.

Die Nutzung der Technologie durch die Strafverfolgungsbehörden ohne geltende Regeln wirft Bedenken hinsichtlich der Rassenunterschiede und der Privatsphäre auf, sagte Barry Friedman, ein Juraprofessor an der NYU, der The Policing Project leitet, das daran arbeitet, Regeln und Richtlinien für die Strafverfolgung festzulegen. Der Oberste Gerichtshof entschied, dass die Polizei ohne Haftbefehl oder wahrscheinlichen Grund keinen langfristigen Zugriff auf Handydaten haben kann, und ähnliche Einschränkungen sollten für die Verwendung von Gesichtserkennungstechnologie gelten, sagte er. Diese Technologie stürmt nur sehr schnell auf uns zu, sagte Friedman.

Wenn wir nicht vorankommen, können wir die Zahnpasta nicht wieder in die Tube füllen. Microsoft entfernte letzten Monat kurzzeitig Verweise auf seiner Website auf einen Vertrag, den es mit den USA abgeschlossen hatte.

Einwanderungs- und Zollbehörden nach Online-Beschwerden über den Verkauf des Softwareherstellers an eine Agentur, die an umstrittenen Einwanderungspraktiken beteiligt war, die Eltern und Kinder beim Überqueren der US-mexikanischen Grenze trennten.

Der Blogbeitrag wurde später wiederhergestellt. Während Microsoft später sagte, sein Vertrag mit der Einwanderungsbehörde bestehe darin, ältere E-Mail- und Mitarbeiterkollaborationssysteme in die Cloud zu stellen, erwähnte der Blogbeitrag die Möglichkeit, dass die Behörde die Gesichtserkennungstools des Unternehmens verwendet. Hunderte von Microsoft-Mitarbeitern haben eine Petition unterzeichnet, in der Microsoft aufgefordert wird, den Verkauf an die Agentur einzustellen.

Amazon ist unter Beschuss geraten, weil es seine KI-Software Rekognition für diese Aufgabe an lokale Polizeidienststellen verkauft hat, wobei die American Civil Liberties Union das Unternehmen auffordert, die Nutzung der Technologie durch Regierungen einzustellen. Bei Google empörten sich Mitarbeiter über die Arbeit des Unternehmens an Project Maven, einer Initiative des Verteidigungsministeriums zur Anwendung von KI-Tools auf Drohnenaufnahmen. Im vergangenen Monat veröffentlichte Chief Executive Officer Sundar Pichai eine Reihe von Grundsätzen, die sich verpflichteten, seine leistungsstarke künstliche Intelligenz nicht für Waffen, illegale Überwachung und Technologien zu verwenden, die allgemeinen Schaden anrichten.

Das Unternehmen sagte, es werde weiterhin mit dem Militär zusammenarbeiten. Neema Singh Guliani, Rechtsberaterin der ACLU, stimmte Microsoft zu, dass sich der Gesetzgeber an der Analyse der Verwendung von Gesichtserkennungssoftware beteiligen muss. Der Kongress sollte sofort Maßnahmen ergreifen, um ein Moratorium für die Nutzung dieser Technologie durch die Strafverfolgungsbehörden zu erlassen, bis ihre schwerwiegenden Bedrohungen für die Gemeinschaften vollständig diskutiert werden können, sagte sie.

In der Zwischenzeit sollten Unternehmen wie Microsoft, Amazon und andere jedoch die Aufrufe der Öffentlichkeit, Mitarbeiter und Aktionäre beherzigen, den Verkauf von Gesichtsüberwachungstechnologie an die Strafverfolgungsbehörden einzustellen.“ Microsoft hat einen KI-Ethikausschuss eingerichtet, um diese Art von Fragen zu untersuchen und hat gesagt, dass es einige Verträge zum Verkauf von Software an bestimmte Kunden abgelehnt hat, sich aber geweigert hat, Einzelheiten anzugeben. Das neue AIboard hat einen langsameren, bewussteren Ansatz für den Verkauf der Software gefordert, sagte Smith.

Mit Unterstützung von Spencer Soper