مائیکروسافٹ نے Ai فیس ریکگنیشن سافٹ ویئر ریگولیشن کا مطالبہ کیا۔

مائیکروسافٹ کارپوریشن، جو امریکہ کے لیے آگ کی زد میں ہے۔

حکومتی معاہدہ جس میں چہرے کی شناخت کے سافٹ ویئر کو شامل کرنے کے بارے میں کہا گیا تھا، نے کہا کہ وہ اس علاقے میں معاہدوں پر زیادہ احتیاط سے غور کرے گا اور قانون سازوں پر زور دیا کہ وہ غلط استعمال کو روکنے کے لیے ایسی مصنوعی ذہانت کے استعمال کو ریگولیٹ کریں۔ کمپنی، انفرادی چہروں کو پہچاننے کے قابل سافٹ ویئر بنانے والوں میں سے ایک، نے کہا کہ وہ ان نظاموں کو تعصب کا شکار بنانے کے لیے اقدامات کرے گی؛ ٹیکنالوجی پر حکومت کرنے کے لیے نئے عوامی اصول تیار کرے گی؛ اور علاقے میں اپنا سافٹ ویئر اور مہارت بیچنے کے لیے جان بوجھ کر آگے بڑھے گا۔ جبکہ مائیکروسافٹ نے نوٹ کیا کہ ٹیک انڈسٹری اپنی مصنوعات کی ذمہ داری لیتی ہے، کمپنی نے دلیل دی کہ حکومتی کارروائی کی بھی ضرورت ہے۔

مائیکروسافٹ کے صدر اور چیف لیگل آفیسر بریڈ سمتھ نے جمعہ کو ایک بلاگ پوسٹ میں کہا کہ حکومت کی طرف سے ٹیکنالوجی کے استعمال کو منظم کرنے کا واحد مؤثر طریقہ حکومت کے لیے یہ ہے کہ وہ خود اس استعمال کو منظم کرے اور اگر اس بارے میں خدشات ہیں کہ ٹیکنالوجی کو کیسے تعینات کیا جائے زیادہ وسیع پیمانے پر پورے معاشرے میں، اس وسیع استعمال کو منظم کرنے کا واحد طریقہ حکومت کے لیے ایسا کرنا ہے۔ درحقیقت یہ وہی ہے جو ہم سمجھتے ہیں کہ آج چہرے کی شناخت کرنے والی ٹیکنالوجی کے صحیح استعمال کو منظم کرنے کے لیے حکومتی اقدام کی ضرورت ہے، جس کی اطلاع سب سے پہلے ایک دو طرفہ اور ماہر کمیشن نے دی تھی۔

Microsoft، Alphabet Inc.s Google Inc. جیسی کمپنیاں شہری آزادیوں کے گروپس اور ان کے اپنے ملازمین کی جانب سے AI سافٹ ویئر، خاص طور پر چہرے کی شناخت کے لیے، U کو فروخت کرنے پر تنقید کی زد میں ہیں۔

S. ▁ا گ ل ڈ کو ل ک ▁پر ی س. ٹیک کمپنیوں کے لیے یہ کسی حد تک غیر معمولی بات ہے کہ وہ اپنی مصنوعات کو زیادہ سے زیادہ ریگولیٹ کرنے کا مطالبہ کریں، لیکن اسمتھ اور مائیکروسافٹ AI کے سربراہ ہیری شم نے اس سال کے شروع میں ایک مقالہ لکھا جس میں کہا گیا تھا کہ AI کی ترقی کے لیے نئے قوانین کی ضرورت ہوگی۔

جب کہ ہم اس بات کی تعریف کرتے ہیں کہ آج کچھ لوگ ٹیک کمپنیوں سے یہ فیصلے کرنے کا مطالبہ کر رہے ہیں اور ہم اپنی ذمہ داری کے عمل کی واضح ضرورت کو تسلیم کرتے ہیں، ہمیں یقین ہے کہ یہ ایک جمہوری جمہوریہ میں عوام اور اس کے نمائندوں کی طرف سے فیصلہ سازی کے لیے ایک ناکافی متبادل ہے، سمتھ لکھا چہرے کی شناخت کے نظام میں اکثر سنگین کوتاہیاں ہوتی ہیں اور یہ خاص طور پر سیاہ جلد والے لوگوں کو پہچاننے اور ان میں فرق کرنے میں ناقص ہوتے ہیں۔ مائیکروسافٹ کے محققین میں سے ایک، ٹمنیٹ گیبرو، اور میساچوسٹس انسٹی ٹیوٹ فار ٹیکنالوجی میڈیا لیب کے جوئے بولاموینی کے فروری کے ایک مقالے میں غلطی کی شرحیں اتنی زیادہ دکھائی گئیں۔ سیاہ جلد والی خواتین کی درجہ بندی کرنے والے نظاموں کے لیے 35 فیصد۔

مائیکروسافٹ ریسرچ بازو نے اس کے بعد سے محققین کی طرف سے چہرے کی شناخت کے سافٹ ویئر میں نشاندہی کی گئی مسائل کو درست کرنے کے لیے کام کیا ہے۔ جیسے جیسے ٹیکنالوجی تیزی سے ترقی کر رہی ہے، مائیکروسافٹ نئے قوانین کی وکالت کر رہا ہے جو براہ راست ابھرتے ہوئے شعبوں جیسے کلاؤڈ کمپیوٹنگ اور AI پر غور کرتے ہیں۔ ▁The ompany ▁Pra ught the u.

S. پرائیویسی کے خدشات پر حکومت جو مائیکروسافٹ نے کہا کہ حکومتوں کا کلاؤڈ کمپیوٹنگ پر فرسودہ مواصلاتی قانون کا اطلاق تھا، پھر سمجھوتہ کرنے والے قانون سازی کی حمایت کی گئی جس نے کلاؤڈ کے دور میں ڈیٹا کی رازداری اور تلاشوں کو براہ راست حل کیا۔ مائیکروسافٹ کا نظریہ ایمیزون کے ردعمل سے کچھ مختلف لہجہ رکھتا ہے جس سے اسے پولیس محکموں اور دیگر سرکاری ایجنسیوں کو چہرے کی شناخت کرنے والے سافٹ ویئر کی فروخت بند کرنے کا مطالبہ کیا گیا ہے۔

اس وقت پیدا ہونے والے خدشات کا جواب دیتے ہوئے جون کی ایک بلاگ پوسٹ میں، AmazonsAI کے جنرل منیجر، Matt Wood نے لکھا کہ نئی ٹیکنالوجی کی صلاحیتوں کے ساتھ خطرات ہمیشہ رہے ہیں اور رہیں گے۔ ٹیکنالوجی کو ملازمت دینے کا انتخاب کرنے والی ہر تنظیم کو ذمہ داری سے کام کرنا چاہیے یا قانونی سزاؤں اور عوامی مذمت کا خطرہ مول لینا چاہیے۔ AWS اپنی ذمہ داریوں کو سنجیدگی سے لیتا ہے۔

لیکن ہم سمجھتے ہیں کہ امید افزا نئی ٹکنالوجیوں پر پابندی عائد کرنا غلط طریقہ ہے کیونکہ انہیں مستقبل میں برے عناصر مذموم مقاصد کے لیے استعمال کر سکتے ہیں۔ اسمتھ نے لکھا کہ جن مسائل پر حکومتی ضابطے کو غور کرنا چاہیے، ان میں سے ایک یہ ہے کہ کیا چہرے کی شناخت کرنے والے سافٹ ویئر کے پولیس کے استعمال کو انسانی نگرانی اور کنٹرول کی ضرورت ہے اور کیا خوردہ فروش عوامی علاقوں میں ایسے سافٹ ویئر کا استعمال کرتے ہیں تو انہیں مرئی نوٹس پوسٹ کرنا چاہیے۔ غور کے لیے دیگر شعبوں میں یہ شامل ہے کہ آیا کمپنیوں کو کسی شخص کی تصاویر جمع کرنے سے پہلے رضامندی حاصل کرنے کی ضرورت ہے اور ان لوگوں پر کون سے قانونی حقوق لاگو ہوتے ہیں جو یہ سمجھتے ہیں کہ چہرے کی شناخت کے نظام کے ذریعے ان کی غلط شناخت کی گئی ہے۔

قانون نافذ کرنے والے اداروں کی جانب سے قوانین کے بغیر ٹیکنالوجی کا استعمال نسلی تفاوت اور رازداری کے بارے میں خدشات کو جنم دیتا ہے، بیری فریڈمین نے کہا، NYU کے قانون کے پروفیسر جو پولیسنگ پروجیکٹ چلاتے ہیں، جو قانون کے نفاذ کے لیے اصول اور رہنما اصول طے کرنے کے لیے کام کرتا ہے۔ انہوں نے کہا کہ سپریم کورٹ نے حکم دیا کہ پولیس وارنٹ یا ممکنہ وجہ کے بغیر سیل فون ڈیٹا تک طویل مدتی رسائی حاصل نہیں کر سکتی، اور اسی طرح کی پابندیاں ان کے چہرے کی شناخت کی ٹیکنالوجی کے استعمال پر لاگو کی جانی چاہئیں۔ فریڈمین نے کہا کہ یہ ٹیکنالوجی ہم پر واقعی تیزی سے دوڑ رہی ہے۔

اگر ہم اس سے آگے نہیں بڑھتے ہیں، تو ہم ٹوتھ پیسٹ کو ٹیوب میں واپس نہیں ڈال سکیں گے۔ مائیکروسافٹ نے گزشتہ ماہ اپنی ویب سائٹ سے ایک معاہدے کے حوالہ جات کو مختصراً ہٹا دیا تھا جو اس نے امریکہ کے ساتھ حاصل کیا تھا۔

امیگریشن اور کسٹمز انفورسمنٹ سافٹ ویئر بنانے والی کمپنی کے بارے میں آن لائن شکایات کے بعد امیگریشن کے متنازعہ طریقوں میں ملوث ایک ایجنسی کو فروخت کر رہی ہے جو والدین اور امریکی میکسیکو کی سرحد عبور کرنے والے بچوں کو الگ کرتی ہے۔

بلاگ پوسٹ کو بعد میں بحال کر دیا گیا۔ جب کہ مائیکروسافٹ نے بعد میں کہا کہ امیگریشن انفورسمنٹ ایجنسی کے ساتھ اس کا معاہدہ پرانا ای میل اور ورکرز کے تعاون کے نظام کو کلاؤڈ میں ڈالنے کے لیے تھا، بلاگ پوسٹ میں کمپنی کے چہرے کی شناخت کے ٹولز استعمال کرنے والی ایجنسی کے امکان کا ذکر کیا گیا۔ مائیکروسافٹ کے سینکڑوں ملازمین نے ایک پٹیشن پر دستخط کیے جس میں مائیکروسافٹ سے ایجنسی کو فروخت بند کرنے کا مطالبہ کیا گیا۔

Amazon اس کام کے لیے اپنا Recognition AI سافٹ ویئر مقامی پولیس محکموں کو فروخت کرنے کی وجہ سے تنقید کی زد میں آ گیا ہے، امریکن سول لبرٹیز یونین نے کمپنی سے مطالبہ کیا ہے کہ وہ حکومتوں کو اس ٹیکنالوجی کو استعمال کرنے سے روکے۔ گوگل میں، ملازمین نے پراجیکٹ ماون پر کمپنی کے کام پر بغاوت کر دی، جو ڈرون فوٹیج پر اے آئی ٹولز کو لاگو کرنے کے لیے محکمہ دفاع کا ایک اقدام ہے۔ پچھلے مہینے چیف ایگزیکٹیو آفیسر سندر پچائی نے اصولوں کا ایک سیٹ جاری کیا جس میں ہتھیاروں، غیر قانونی نگرانی اور مجموعی طور پر نقصان پہنچانے والی ٹیکنالوجیز کے لیے اپنی طاقتور مصنوعی ذہانت کا استعمال نہ کرنے کا عہد کیا گیا۔

کمپنی نے کہا کہ وہ اب بھی فوج کے ساتھ کام کرے گی۔ ACLU کے قانون ساز وکیل، نیما سنگھ گلیانی نے مائیکرو سافٹ سے اتفاق کیا کہ قانون سازوں کو چہرے کی شناخت کرنے والے سافٹ ویئر کے استعمال کے تجزیہ میں شامل ہونے کی ضرورت ہے۔ انہوں نے کہا کہ کانگریس کو اس ٹیکنالوجی کے قانون نافذ کرنے والے استعمال پر روک لگانے کے لیے فوری کارروائی کرنی چاہیے جب تک کہ کمیونٹیز کو درپیش اس کے سنگین خطرات پر مکمل بحث نہ ہو جائے۔

تاہم، اس دوران، مائیکروسافٹ، ایمیزون اور دیگر جیسی کمپنیوں کو عوام، ملازمین اور شیئر ہولڈرز کی طرف سے قانون نافذ کرنے والے اداروں کو چہرے کی نگرانی کرنے والی ٹیکنالوجی کی فروخت بند کرنے کی کالوں پر دھیان دینا چاہیے۔" Microsoft نے اس قسم کے مسائل کی جانچ کرنے کے لیے ایک AI اخلاقیات بورڈ تشکیل دیا ہے۔ اور کہا ہے کہ اس نے کچھ مخصوص صارفین کو کچھ سافٹ ویئر فروخت کرنے کے کچھ معاہدوں کو ٹھکرا دیا ہے، لیکن تفصیلات فراہم کرنے سے انکار کر دیا ہے۔ اسمتھ نے کہا کہ نئے اے آئی بورڈ نے سافٹ ویئر کو فروخت کرنے کے لیے آہستہ، زیادہ دانستہ انداز اختیار کرنے پر زور دیا ہے۔

اسپینسر سوپر کی مدد سے