تدعو Microsoft إلى تنظيم برنامج Ai للتعرف على الوجوه

مايكروسوفت كورب ، التي تعرضت لانتقادات شديدة من قبل الولايات المتحدة.

العقد الحكومي الذي قيل أنه يتضمن برنامج التعرف على الوجه ، قال إنها ستدرس بعناية العقود في هذا المجال وحثت المشرعين على تنظيم استخدام مثل هذا الذكاء الاصطناعي لمنع إساءة الاستخدام. وقالت الشركة ، وهي إحدى الشركات المصنعة الرئيسية للبرمجيات القادرة على التعرف على الوجوه الفردية ، إنها ستتخذ خطوات لجعل هذه الأنظمة أقل عرضة للانحياز ؛ وتطوير مبادئ عامة جديدة للتحكم في التكنولوجيا ؛ وسوف تتحرك أكثر عمدا لبيع برامجها وخبراتها في المنطقة. بينما لاحظت Microsoft أن صناعة التكنولوجيا تتحمل مسؤولية منتجاتها ، جادلت الشركة بأن هناك حاجة أيضًا إلى اتخاذ إجراء حكومي.

الطريقة الوحيدة الفعالة لإدارة استخدام التكنولوجيا من قبل الحكومة هي أن تدير الحكومة هذا الاستخدام بشكل استباقي ، قال رئيس Microsoft والمسؤول القانوني الأول براد سميث يوم الجمعة في منشور بالمدونة. وإذا كانت هناك مخاوف بشأن كيفية نشر التكنولوجيا. على نطاق أوسع عبر المجتمع ، فإن الطريقة الوحيدة لتنظيم هذا الاستخدام الواسع هي أن تفعل الحكومة ذلك. هذا في الواقع هو ما نعتقد أنه ضروري اليوم مبادرة حكومية لتنظيم الاستخدام السليم لتقنية التعرف على الوجه ، مستنيرة أولاً من قبل لجنة من الحزبين والخبراء.

تعرضت شركات مثل Microsoft و Alphabet Incs Google Inc. لانتقادات من مجموعات الحريات المدنية وموظفيها لبيع برامج الذكاء الاصطناعي ، وخاصة للتعرف على الوجه ، إلى الولايات المتحدة.

S. الحكومة والشرطة المحلية. من غير المعتاد إلى حد ما أن تطالب شركات التكنولوجيا بمزيد من التنظيم الصارم لمنتجاتها ، لكن سميث ورئيس مايكروسوفت للذكاء الاصطناعي هاري شوم قام في وقت سابق من هذا العام بتأليف مقالة تقول إن التقدم في مجال الذكاء الاصطناعي سيتطلب قوانين جديدة.

بينما نقدر أن بعض الأشخاص اليوم يطالبون شركات التكنولوجيا باتخاذ هذه القرارات ، ونحن ندرك الحاجة الواضحة لممارسة مسؤوليتنا الخاصة ، نعتقد أن هذا بديل غير مناسب لاتخاذ القرار من قبل الجمهور وممثليه في جمهورية ديمقراطية ، سميث كتب. غالبًا ما تحتوي أنظمة التعرف على الوجه على عيوب خطيرة ، كما أنها ضعيفة بشكل خاص في التعرف والتمييز بين الأشخاص ذوي البشرة الداكنة ، وقد أظهرت ورقة بحثية في شهر فبراير من أحد باحثي شركة Microsoft ، Timnit Gebru ، وجوي Buolamwini من معهد ماساتشوستس لتكنولوجيا وسائل الإعلام ، معدلات أخطاء كبيرة. 35 في المائة للأنظمة التي تصنف النساء ذوات البشرة الداكنة.

منذ ذلك الحين ، عمل ذراع أبحاث Microsoft على تصحيح المشكلات التي تم تحديدها في برنامج التعرف على الوجه من قبل الباحثين. مع التطور السريع للتكنولوجيا ، دعت Microsoft إلى سن قوانين جديدة تأخذ بعين الاعتبار بشكل مباشر المجالات الناشئة مثل الحوسبة السحابية والذكاء الاصطناعي. قاتلت الشركة U.

S. الحكومة بشأن مخاوف الخصوصية لما وصفته Microsoft بأنه تطبيق الحكومات لقانون اتصالات عفا عليه الزمن على الحوسبة السحابية ، ثم دعمت تشريعات التسوية التي عالجت بشكل مباشر خصوصية البيانات وعمليات البحث في عصر السحابة. تضرب وجهة نظر Microsoft نغمة مختلفة إلى حد ما عن استجابة أمازون لدعواتها للتوقف عن بيع برامج التعرف على الوجه الخاصة بها لإدارات الشرطة والوكالات الحكومية الأخرى.

في منشور مدونة لشهر يونيو للرد على المخاوف التي أثيرت في ذلك الوقت ، كتب المدير العام لشركة AmazonsAI ، مات وود ، أنه كانت هناك دائمًا وستظل دائمًا مخاطر مع القدرات التكنولوجية الجديدة. يجب على كل منظمة تختار استخدام التكنولوجيا أن تتصرف بمسؤولية أو تخاطر بالعقوبات القانونية والإدانة العلنية. تأخذ AWS مسؤولياتها على محمل الجد.

لكننا نعتقد أنه نهج خاطئ لفرض حظر على التقنيات الجديدة الواعدة لأنها قد تستخدم من قبل جهات فاعلة سيئة لأغراض شائنة في المستقبل. كتب سميث أن من بين القضايا التي يجب أن تأخذها اللوائح الحكومية في الاعتبار ما إذا كان استخدام الشرطة لبرمجيات التعرف على الوجه يحتاج إلى إشراف وضوابط بشرية وما إذا كان يتعين على تجار التجزئة نشر إشعار مرئي إذا كانوا يستخدمون مثل هذه البرامج في الأماكن العامة. تشمل المجالات الأخرى التي يجب مراعاتها ما إذا كان يجب مطالبة الشركات بالحصول على موافقة قبل جمع صور الأشخاص وما هي الحقوق القانونية التي تنطبق على الأشخاص الذين يعتقدون أنه تم التعرف عليهم بشكل خاطئ بواسطة نظام التعرف على الوجه.

قال باري فريدمان ، أستاذ القانون في جامعة نيويورك والذي يدير مشروع الشرطة ، الذي يعمل على وضع القواعد والمبادئ التوجيهية لتطبيق القانون ، إن استخدام التكنولوجيا من قبل جهات إنفاذ القانون دون وجود قواعد ، يثير مخاوف بشأن التباين العرقي والخصوصية. قال إن المحكمة العليا قضت بأن الشرطة لا يمكنها الوصول طويل الأمد إلى بيانات الهاتف المحمول دون أمر قضائي أو سبب محتمل ، ويجب تطبيق قيود مماثلة على استخدامهم لتقنية التعرف على الوجه. قال فريدمان إن هذه التكنولوجيا تندفع علينا بسرعة كبيرة.

إذا لم نتقدم على ذلك ، فلن نتمكن من إعادة معجون الأسنان إلى الأنبوب. قامت Microsoft الشهر الماضي بإزالة الإشارات على موقعها على الويب لفترة وجيزة إلى عقد أبرمته مع الولايات المتحدة.

الهجرة والجمارك بعد شكاوى عبر الإنترنت بشأن بيع صانع البرمجيات لوكالة متورطة في ممارسات الهجرة المثيرة للجدل التي تفصل بين الآباء والأطفال الذين يعبرون الحدود الأمريكية المكسيكية.

تمت استعادة مشاركة المدونة لاحقًا. بينما قالت Microsoft لاحقًا إن عقدها مع وكالة إنفاذ الهجرة كان لوضع البريد الإلكتروني وأنظمة تعاون العمال في السحابة ، أشار منشور المدونة إلى إمكانية استخدام الوكالة لأدوات التعرف على الوجه الخاصة بالشركة. وقع المئات من موظفي Microsoft عريضة تطالب Microsoft بوقف البيع للوكالة.

تعرضت أمازون لانتقادات شديدة لبيعها برنامج Rekognition AI لهذه المهمة لإدارات الشرطة المحلية ، حيث طالب الاتحاد الأمريكي للحريات المدنية الشركة بالتوقف عن السماح للحكومات باستخدام التكنولوجيا. في Google ، ثار الموظفون على عمل الشركة في مشروع Maven ، وهي مبادرة لوزارة الدفاع لتطبيق أدوات الذكاء الاصطناعي على لقطات الطائرات بدون طيار. أصدر الرئيس التنفيذي سوندر بيتشاي الشهر الماضي مجموعة من المبادئ التي تعهدت بعدم استخدام الذكاء الاصطناعي القوي للأسلحة والمراقبة غير القانونية والتقنيات التي تسبب ضررًا عامًا.

وقالت الشركة إنها ستواصل العمل مع الجيش. اتفقت نيما سينغ جولياني ، المستشار التشريعي لاتحاد الحريات المدنية الأمريكي ، مع شركة مايكروسوفت في أن المشرعين بحاجة إلى المشاركة في تحليل استخدام برامج التعرف على الوجه. وقالت إنه يتعين على الكونجرس اتخاذ إجراءات فورية لسن وقف استخدام إنفاذ القانون لهذه التكنولوجيا حتى يمكن مناقشة التهديدات الخطيرة للمجتمعات بشكل كامل.

ومع ذلك ، في غضون ذلك ، يجب على شركات مثل Microsoft و Amazon وغيرها أن تستجيب لنداءات الجمهور والموظفين والمساهمين للتوقف عن بيع تكنولوجيا مراقبة الوجه لتطبيق القانون. " وقالت إنها رفضت بعض العقود لبيع بعض البرامج لعملاء معينين ، لكنها رفضت الإدلاء بتفاصيل. قال سميث إن لوحة AIboard الجديدة حثت على اتباع نهج أقل وعزمًا لبيع البرنامج.

بمساعدة سبنسر سوبر