Microsoft เรียกร้องให้ใช้ระเบียบซอฟต์แวร์ Ai Face Recognition

Microsoft Corp. ซึ่งถูกวิพากษ์วิจารณ์ในสหรัฐอเมริกา

สัญญาของรัฐบาลที่กล่าวว่าเกี่ยวข้องกับซอฟต์แวร์จดจำใบหน้า กล่าวว่า จะพิจารณาสัญญาในพื้นที่นี้อย่างรอบคอบมากขึ้น และเรียกร้องให้ฝ่ายนิติบัญญัติควบคุมการใช้ปัญญาประดิษฐ์ดังกล่าวเพื่อป้องกันการละเมิด บริษัท ซึ่งเป็นหนึ่งในผู้ผลิตซอฟต์แวร์รายสำคัญที่สามารถจดจำใบหน้าได้กล่าวว่าจะดำเนินการตามขั้นตอนเพื่อทำให้ระบบเหล่านี้มีแนวโน้มที่จะมีอคติน้อยลง พัฒนาหลักการสาธารณะใหม่เพื่อควบคุมเทคโนโลยี และจะเดินหน้าขายซอฟต์แวร์และความเชี่ยวชาญในด้านนี้อย่างจงใจมากขึ้น ในขณะที่ Microsoft ตั้งข้อสังเกตว่าอุตสาหกรรมเทคโนโลยีต้องรับผิดชอบต่อผลิตภัณฑ์ของตน บริษัท แย้งว่าจำเป็นต้องมีการดำเนินการของรัฐบาลด้วย

วิธีเดียวที่มีประสิทธิภาพในการจัดการการใช้เทคโนโลยีโดยรัฐบาลคือให้รัฐบาลจัดการการใช้งานนี้ในเชิงรุก แบรด สมิธประธานและประธานเจ้าหน้าที่ฝ่ายกฎหมายของ Microsoft กล่าวในบล็อกโพสต์เมื่อวันศุกร์ และหากมีข้อกังวลว่าเทคโนโลยีจะถูกนำไปใช้อย่างไร ในวงกว้างมากขึ้นในสังคม วิธีเดียวที่จะควบคุมการใช้ในวงกว้างนี้คือให้รัฐบาลทำเช่นนั้น อันที่จริงนี่คือสิ่งที่เราเชื่อว่าจำเป็นในปัจจุบันที่รัฐบาลต้องริเริ่มเพื่อควบคุมการใช้เทคโนโลยีการจดจำใบหน้าอย่างเหมาะสม โดยได้รับแจ้งจากคณะกรรมการสองฝ่ายและผู้เชี่ยวชาญก่อน

บริษัทต่างๆ เช่น Microsoft, บริษัท Google Inc. ของ Alphabet Inc. ถูกกลุ่มเสรีภาพพลเมืองและพนักงานของตนเองขายซอฟต์แวร์ AI โดยเฉพาะอย่างยิ่งสำหรับการจดจำใบหน้าไปยังสหรัฐอเมริกา

S. รัฐบาลและตำรวจท้องถิ่น ค่อนข้างผิดปกติสำหรับบริษัทเทคโนโลยีที่จะเรียกร้องให้มีการควบคุมผลิตภัณฑ์ของตนเองอย่างเข้มงวดมากขึ้น แต่ Harry Shum หัวหน้าของ Smith และ Microsoft AI เมื่อต้นปีนี้ ได้เขียนบทความที่ว่าความก้าวหน้าของ AI จะต้องมีกฎหมายใหม่

ในขณะที่เราชื่นชมที่บางคนในวันนี้เรียกร้องให้บริษัทเทคโนโลยีทำการตัดสินใจเหล่านี้ และเราตระหนักดีถึงความจำเป็นที่ชัดเจนสำหรับการใช้ความรับผิดชอบของเราเอง เราเชื่อว่าสิ่งนี้ไม่เพียงพอสำหรับการตัดสินใจของประชาชนและตัวแทนในสาธารณรัฐประชาธิปไตย Smith เขียน. ระบบจดจำใบหน้ามักมีข้อบกพร่องร้ายแรง และโดยเฉพาะอย่างยิ่งในการแยกแยะและแยกแยะระหว่างผู้ที่มีผิวคล้ำ เอกสารฉบับเดือนกุมภาพันธ์จากหนึ่งในนักวิจัยของ Microsoft คือ Timnit Gebru และJoy Buolamwini จากสถาบันแมสซาชูเซตส์สำหรับเทคโนโลยีมีเดียแล็บ พบว่ามีอัตราข้อผิดพลาดมากพอ 35 เปอร์เซ็นต์สำหรับระบบจำแนกผู้หญิงผิวคล้ำ

ฝ่ายวิจัยของ Microsoft ได้ทำงานเพื่อแก้ไขปัญหาที่ระบุในซอฟต์แวร์จดจำใบหน้าโดยนักวิจัย ในขณะที่เทคโนโลยีมีการพัฒนาอย่างรวดเร็ว Microsoft ได้สนับสนุนกฎหมายใหม่ที่พิจารณาถึงขอบเขตที่เกิดขึ้นใหม่โดยตรง เช่น คลาวด์คอมพิวติ้งและ AI บริษัทต่อสู้กับ U.

S. รัฐบาลเกี่ยวกับความกังวลเรื่องความเป็นส่วนตัวสำหรับสิ่งที่ Microsoft กล่าวว่าเป็นการนำกฎหมายการสื่อสารที่ล้าสมัยไปใช้กับการประมวลผลแบบคลาวด์ของรัฐบาล จากนั้นจึงสนับสนุนกฎหมายประนีประนอมที่กล่าวถึงความเป็นส่วนตัวของข้อมูลโดยตรงและการค้นหาในยุคของคลาวด์ มุมมองของ Microsoft แตกต่างไปจากการตอบสนองของ Amazon ที่เรียกร้องให้หยุดขายซอฟต์แวร์จดจำใบหน้าให้กับหน่วยงานตำรวจและหน่วยงานภาครัฐอื่นๆ

ในบล็อกโพสต์เมื่อเดือนมิถุนายนที่ตอบกลับข้อกังวลที่เกิดขึ้น Matt Wood ผู้จัดการทั่วไปของ AmazonsAI เขียนว่า มีและมักจะมีความเสี่ยงกับความสามารถด้านเทคโนโลยีใหม่ ๆ แต่ละองค์กรที่เลือกใช้เทคโนโลยีต้องดำเนินการอย่างรับผิดชอบหรือเสี่ยงต่อบทลงโทษทางกฎหมายและการประณามสาธารณะ AWS มีความรับผิดชอบอย่างจริงจัง

แต่เราเชื่อว่าเป็นแนวทางที่ไม่ถูกต้องในการสั่งห้ามเทคโนโลยีใหม่ที่มีแนวโน้มว่าจะถูกนำมาใช้โดยผู้ไม่หวังดีเพื่อจุดประสงค์ที่ชั่วร้ายในอนาคต ในบรรดาประเด็นที่กฎระเบียบของรัฐบาลควรพิจารณา สมิ ธ เขียนว่าการใช้ซอฟต์แวร์จดจำใบหน้าของตำรวจจำเป็นต้องมีการกำกับดูแลและการควบคุมโดยมนุษย์หรือไม่ และร้านค้าปลีกต้องโพสต์ประกาศที่มองเห็นได้หรือไม่หากพวกเขาใช้ซอฟต์แวร์ดังกล่าวในที่สาธารณะ ประเด็นอื่นๆ ที่ต้องพิจารณา ได้แก่ ว่าบริษัทต่างๆ ควรต้องได้รับความยินยอมก่อนที่จะรวบรวมภาพบุคคลหรือไม่ และสิทธิ์ตามกฎหมายใดที่บังคับใช้กับผู้ที่เชื่อว่าระบบจดจำใบหน้าระบุตัวตนผิดพลาด

แบร์รี ฟรีดแมน ศาสตราจารย์ด้านกฎหมายของนิวยอร์ค ผู้ดำเนินโครงการ The Policing Project ซึ่งทำงานเพื่อกำหนดกฎเกณฑ์และแนวทางปฏิบัติสำหรับการบังคับใช้กฎหมาย ศาลฎีกาวินิจฉัยว่าตำรวจไม่สามารถเข้าถึงข้อมูลโทรศัพท์มือถือในระยะยาวได้หากไม่มีหมายค้นหรือสาเหตุที่เป็นไปได้ และควรใช้ข้อจำกัดที่คล้ายกันในการใช้เทคโนโลยีจดจำใบหน้า เทคโนโลยีนี้กำลังวิ่งมาหาเราอย่างรวดเร็วจริงๆ Friedman กล่าว

ถ้าเราไม่ก้าวไปข้างหน้า เราจะไม่สามารถใส่ยาสีฟันกลับเข้าไปในหลอดได้ เมื่อเดือนที่แล้ว Microsoft ได้ลบการอ้างอิงบนเว็บไซต์ถึงสัญญาที่ทำไว้กับสหรัฐฯ

การตรวจคนเข้าเมืองและการบังคับใช้ศุลกากรหลังจากการร้องเรียนออนไลน์เกี่ยวกับผู้ผลิตซอฟต์แวร์ที่ขายให้กับหน่วยงานที่เกี่ยวข้องกับแนวปฏิบัติด้านการย้ายถิ่นฐานที่เป็นข้อขัดแย้งระหว่างผู้ปกครองและเด็กที่ข้ามพรมแดนสหรัฐฯ-เม็กซิโก

โพสต์บล็อกได้รับการกู้คืนในภายหลัง ในขณะที่ Microsoft กล่าวในภายหลังว่าสัญญากับหน่วยงานบังคับใช้กฎหมายตรวจคนเข้าเมืองมีไว้สำหรับอีเมลและระบบการทำงานร่วมกันของพนักงานในคลาวด์ โพสต์บนบล็อกกล่าวถึงความเป็นไปได้ของหน่วยงานที่ใช้เครื่องมือจดจำใบหน้าของบริษัท พนักงาน Microsoft หลายร้อยคนลงนามในคำร้องเรียกร้องให้ Microsoft หยุดการขายให้กับหน่วยงาน

Amazon ถูกวิพากษ์วิจารณ์จากการขายซอฟต์แวร์ Rekognition AI สำหรับงานนี้ให้กับหน่วยงานตำรวจในท้องที่ โดยสหภาพเสรีภาพพลเรือนอเมริกันเรียกร้องให้บริษัทหยุดปล่อยให้รัฐบาลใช้เทคโนโลยีดังกล่าว ที่ Google พนักงานไม่เห็นด้วยกับงานของบริษัทใน Project Maven ซึ่งเป็นโครงการริเริ่มของกระทรวงกลาโหมในการใช้เครื่องมือ AI กับวิดีโอโดรน เมื่อเดือนที่แล้ว สุนทร พิชัย ประธานเจ้าหน้าที่บริหาร ได้เปิดเผยหลักการที่สัญญาว่าจะไม่ใช้ปัญญาประดิษฐ์อันทรงพลังสำหรับอาวุธ การเฝ้าระวังที่ผิดกฎหมาย และเทคโนโลยีที่ก่อให้เกิดอันตรายโดยรวม

บริษัทกล่าวว่าจะยังคงทำงานร่วมกับกองทัพ Neema Singh Guliani ที่ปรึกษากฎหมายของ ACLU เห็นด้วยกับ Microsoft ว่าฝ่ายนิติบัญญัติจำเป็นต้องมีส่วนร่วมในการวิเคราะห์การใช้ซอฟต์แวร์จดจำใบหน้า สภาคองเกรสควรดำเนินการในทันทีเพื่อประกาศพักชำระหนี้เกี่ยวกับการบังคับใช้กฎหมายของเทคโนโลยีนี้ จนกว่าจะสามารถอภิปรายถึงภัยคุกคามร้ายแรงต่อชุมชนได้อย่างเต็มที่ เธอกล่าว

อย่างไรก็ตาม ในระหว่างนี้ บริษัทต่างๆ เช่น Microsoft, Amazon และอื่นๆ ควรเอาใจใส่ต่อเสียงเรียกร้องจากสาธารณชน พนักงาน และผู้ถือหุ้นให้หยุดขายเทคโนโลยีการเฝ้าระวังใบหน้าให้กับหน่วยงานบังคับใช้กฎหมาย" Microsoft ได้จัดตั้งคณะกรรมการจริยธรรม AI เพื่อตรวจสอบปัญหาประเภทนี้ และได้กล่าวว่าได้ปฏิเสธสัญญาการขายซอฟต์แวร์บางส่วนให้กับลูกค้าบางราย แต่ปฏิเสธที่จะให้รายละเอียด AIboard ใหม่ได้เรียกร้องให้มีแนวทางการขายซอฟต์แวร์ที่ช้าลงและมีเจตนามากขึ้น Smith กล่าว

ด้วยความช่วยเหลือจาก Spencer Soper