Microsoft Calls for Ai Face Recognition Quy định về phần mềm nhận dạng khuôn mặt

Microsoft Corp., đã bị sa thải vì một Hoa Kỳ.

hợp đồng của chính phủ được cho là liên quan đến phần mềm nhận dạng khuôn mặt, cho biết họ sẽ xem xét cẩn thận hơn các hợp đồng trong lĩnh vực này và thúc giục luật pháp quy định việc sử dụng trí thông minh nhân tạo như vậy để ngăn chặn lạm dụng. Công ty, một trong những nhà sản xuất phần mềm quan trọng có khả năng nhận dạng khuôn mặt cá nhân, cho biết họ sẽ thực hiện các bước để làm cho các hệ thống đó ít bị sai lệch hơn; phát triển các nguyên tắc công cộng mới để chi phối công nghệ; và sẽ cố tình chuyển sang bán phần mềm và kiến ​​thức chuyên môn của mình trong lĩnh vực này. Trong khi Microsoft lưu ý rằng ngành công nghiệp công nghệ phải chịu trách nhiệm về các sản phẩm của mình, công ty lập luận rằng hành động của chính phủ cũng cần thiết.

Cách hiệu quả duy nhất để quản lý việc sử dụng công nghệ của chính phủ là chính phủ chủ động tự quản lý việc sử dụng này, Chủ tịch kiêm Giám đốc pháp lý của Microsoft, Brad Smithsaid Friday trong một bài đăng trên blog. rộng hơn trong toàn xã hội, cách duy nhất để điều chỉnh việc sử dụng rộng rãi này là chính phủ phải làm như vậy. Trên thực tế, đây là điều mà chúng tôi tin rằng ngày nay cần có một sáng kiến ​​của chính phủ để điều chỉnh việc sử dụng hợp lý công nghệ nhận dạng khuôn mặt, được thông báo trước bởi một ủy ban lưỡng đảng và chuyên gia.

Các công ty như Microsoft, Alphabet Inc., Google Inc. đã bị các nhóm tự do dân sự và nhân viên của chính họ chỉ trích vì bán phần mềm AI, đặc biệt là nhận dạng khuôn mặt, cho Hoa Kỳ.

S. Chính phủ và địa phương cảnh sát. Hơi bất thường khi các công ty công nghệ kêu gọi các sản phẩm của họ phải được quản lý chặt chẽ hơn, nhưng Smith và Giám đốc AI của Microsoft, Harry Shum hồi đầu năm nay đã viết một luận thuyết nói rằng những tiến bộ của AI sẽ yêu cầu luật mới.

Mặc dù chúng tôi đánh giá cao rằng một số người ngày nay đang kêu gọi các công ty công nghệ đưa ra những quyết định này và chúng tôi nhận thấy nhu cầu rõ ràng về việc thực thi trách nhiệm của chính mình, chúng tôi tin rằng đây là sự thay thế không đầy đủ cho việc ra quyết định của công chúng và các đại diện của nó ở một nước cộng hòa dân chủ, Smith đã viết. Các hệ thống nhận dạng khuôn mặt thường có những thiếu sót nghiêm trọng và đặc biệt kém trong việc nhận biết và phân biệt giữa những người có làn da sẫm màu. as35 phần trăm cho hệ thống phân loại phụ nữ da sẫm màu.

Nhóm nghiên cứu của Microsoft kể từ đó đã làm việc để khắc phục các vấn đề được các nhà nghiên cứu xác định trong phần mềm nhận dạng khuôn mặt của mình. Khi công nghệ phát triển nhanh chóng, Microsoft đã ủng hộ các luật mới xem xét trực tiếp các lĩnh vực mới nổi như điện toán đám mây và AI. Các công ty đã chiến đấu các U.

S. Chính phủ về những lo ngại về quyền riêng tư đối với những gì Microsoft nói là chính phủ áp dụng luật truyền thông lỗi thời vào điện toán đám mây, sau đó ủng hộ luật thỏa hiệp đề cập trực tiếp đến quyền riêng tư của dữ liệu và các tìm kiếm trong kỷ nguyên của đám mây. Quan điểm của Microsoft có phần khác với phản ứng của Amazon trước việc kêu gọi họ ngừng bán phần mềm nhận dạng khuôn mặt của mình cho các sở cảnh sát và các cơ quan chính phủ khác.

Trong một bài đăng trên blog vào tháng 6 để trả lời những lo ngại được nêu ra sau đó, Matt Wood, tổng giám đốc của AmazonsAI, đã viết Luôn luôn có và sẽ luôn có những rủi ro với các khả năng công nghệ mới. Mỗi tổ chức lựa chọn sử dụng công nghệ phải hành động có trách nhiệm hoặc phải chịu các hình phạt pháp lý và sự lên án của công chúng. AWS coi trọng trách nhiệm của mình.

Nhưng chúng tôi tin rằng đó là cách tiếp cận sai lầm khi áp đặt lệnh cấm đối với các công nghệ mới đầy hứa hẹn vì chúng có thể bị những kẻ xấu sử dụng cho các mục đích bất chính trong tương lai. Trong số các vấn đề mà quy định của chính phủ nên xem xét, Smith viết, là việc sử dụng phần mềm nhận dạng khuôn mặt của chính phủ có cần sự giám sát và kiểm soát của con người hay không và liệu các nhà bán lẻ có phải đăng thông báo rõ ràng nếu họ sử dụng phần mềm đó ở các khu vực công cộng hay không. Các lĩnh vực khác cần xem xét bao gồm liệu các công ty có nên được yêu cầu phải có sự đồng ý trước khi thu thập hình ảnh của một người hay không và những quyền hợp pháp nào áp dụng cho những người tin rằng họ đã bị hệ thống nhận dạng khuôn mặt nhận dạng sai.

Barry Friedman, giáo sư luật NYU, người điều hành Dự án Chính sách, cho biết việc sử dụng công nghệ của cơ quan thực thi pháp luật mà không có quy tắc làm dấy lên lo ngại về sự khác biệt chủng tộc và quyền riêng tư. Tòa án tối cao phán quyết cảnh sát không thể có quyền truy cập lâu dài vào dữ liệu điện thoại di động mà không có lệnh hoặc nguyên nhân có thể xảy ra và các hạn chế tương tự nên được áp dụng đối với việc sử dụng công nghệ nhận dạng khuôn mặt của họ, ông nói. Friedman nói rằng công nghệ này đang lao vào chúng ta rất nhanh.

Nếu chúng ta không đi trước, chúng ta sẽ không thể cho kem đánh răng trở lại vào ống. Tháng trước, Microsoft đã nhanh chóng xóa các tham chiếu trên trang web của mình tới một hợp đồng mà họ đã bảo đảm với U.S.

Cơ quan Thực thi Nhập cư và Hải quan sau khi có khiếu nại trực tuyến về việc nhà sản xuất phần mềm bán cho một cơ quan liên quan đến các hoạt động nhập cư gây tranh cãi chia cắt cha mẹ và con cái qua biên giới Mỹ-Mexico.

Bài đăng trên blog sau đó đã được khôi phục. Trong khi Microsoft sau đó cho biết hợp đồng của họ với cơ quan thực thi di trú là để đưa email và hệ thống cộng tác của nhân viên lên đám mây, bài đăng trên blog đã đề cập đến khả năng cơ quan này sử dụng các công cụ nhận dạng khuôn mặt của công ty. Hàng trăm nhân viên của Microsoft đã ký đơn yêu cầu Microsoft ngừng bán hàng cho cơ quan này.

Amazon đã bị chỉ trích vì bán phần mềm Rekognition AI của mình cho nhiệm vụ này cho các sở cảnh sát địa phương, với Liên minh Quyền tự do Dân sự Hoa Kỳ yêu cầu công ty ngừng cho phép các chính phủ sử dụng công nghệ này. Tại Google, các nhân viên đã tranh luận về công việc của công ty trong Dự án Maven, một sáng kiến ​​của Bộ Quốc phòng nhằm áp dụng các công cụ AI vào cảnh quay bằng máy bay không người lái. Tháng trước, Giám đốc điều hành Sundar Pichai đã đưa ra một bộ nguyên tắc cam kết không sử dụng trí thông minh nhân tạo mạnh mẽ của mình để làm vũ khí, giám sát bất hợp pháp và các công nghệ gây tổn hại tổng thể.

Công ty cho biết họ vẫn sẽ làm việc với quân đội. Neema Singh Guliani, cố vấn lập pháp của ACLU, đồng ý với Microsoft rằng các nhà lập pháp cần tham gia vào việc phân tích việc sử dụng phần mềm nhận dạng khuôn mặt. Quốc hội nên hành động ngay lập tức để ban hành lệnh cấm thực thi pháp luật đối với việc sử dụng công nghệ này cho đến khi các mối đe dọa nghiêm trọng của nó đối với cộng đồng có thể được tranh luận đầy đủ, bà nói.

Tuy nhiên, trong thời gian chờ đợi, các công ty như Microsoft, Amazon và những công ty khác nên chú ý đến lời kêu gọi từ công chúng, nhân viên và cổ đông ngừng bán công nghệ giám sát khuôn mặt cho cơ quan thực thi pháp luật. " và đã nói rằng họ đã từ chối một số hợp đồng bán một số phần mềm cho một số khách hàng nhất định, nhưng đã từ chối cung cấp thông tin chi tiết. Smith cho biết, AIboard mới đã thúc giục cách tiếp cận nhanh hơn, có chủ ý hơn để bán phần mềm.

Với sự hỗ trợ của Spencer Soper