Microsoft призывает к регулированию программного обеспечения для распознавания лиц с использованием искусственного интеллекта

Корпорация Microsoft, подвергшаяся критике из-за американского

Государственный контракт, который, как утверждается, включает программное обеспечение для распознавания лиц, заявил, что будет более тщательно рассматривать контракты в этой области, и призвал законодателей регулировать использование такого искусственного интеллекта для предотвращения злоупотреблений. Компания, один из ключевых производителей программного обеспечения, способного распознавать лица, заявила, что предпримет шаги, чтобы сделать эти системы менее предвзятыми; разработает новые общедоступные принципы управления технологией; и будет более целенаправленно продавать свое программное обеспечение и опыт в этой области. В то время как Microsoft отметила, что технологическая отрасль несет ответственность за свои продукты, компания утверждала, что также необходимы действия правительства.

Единственный эффективный способ управления использованием технологии правительством — это активное управление правительством самим этим использованием, заявил в пятницу президент Microsoft и главный юридический директор Брэд Смит в своем блоге. И если есть опасения по поводу того, как технология будет развернута в более широком смысле в обществе единственный способ регулировать это широкое использование - это сделать это правительство. На самом деле это то, что, по нашему мнению, необходимо сегодня: правительственная инициатива по регулированию надлежащего использования технологии распознавания лиц, о которой сначала сообщается двухпартийной и экспертной комиссией.

Такие компании, как Microsoft, Alphabet Inc. и Google Inc., подверглись резкой критике со стороны групп по защите гражданских свобод и их собственных сотрудников за продажу программного обеспечения ИИ, особенно для распознавания лиц, в США.

S. Правительство и местная полиция. Для технологических компаний несколько необычно призывать к более строгому регулированию своих продуктов, но Смит и глава Microsoft по искусственному интеллекту Гарри Шам ранее в этом году написали трактат, в котором говорилось, что для развития искусственного интеллекта потребуются новые законы.

Хотя мы понимаем, что некоторые люди сегодня призывают технологические компании к принятию этих решений, и мы признаем явную необходимость в том, чтобы мы сами брали на себя ответственность, мы считаем, что это неадекватная замена принятию решений общественностью и ее представителями в демократической республике, Смит. написал. Системы распознавания лиц часто имеют серьезные недостатки и особенно плохо распознают и различают людей с более темной кожей. как 35 процентов для систем, классифицирующих темнокожих женщин.

С тех пор исследовательское подразделение Microsoft работало над исправлением проблем, выявленных исследователями в программном обеспечении для распознавания лиц. Поскольку технологии развиваются быстро, Microsoft выступает за новые законы, которые напрямую касаются новых областей, таких как облачные вычисления и искусственный интеллект. Компания боролась с U.

S. правительство из-за беспокойства о конфиденциальности того, что, по словам Microsoft, было применением правительством устаревшего закона о коммуникациях к облачным вычислениям, а затем поддержало компромиссное законодательство, которое напрямую касалось конфиденциальности данных и поиска в эпоху облачных вычислений. Мнение Microsoft звучит несколько иначе, чем ответ Amazon на призывы прекратить продажу программного обеспечения для распознавания лиц полицейским управлениям и другим государственным учреждениям.

В июньском сообщении в блоге, отвечая на высказанные тогда опасения, генеральный менеджер AmazonsAI Мэтт Вуд написал, что всегда были и всегда будут риски, связанные с новыми технологическими возможностями. Каждая организация, решившая использовать технологию, должна действовать ответственно, иначе она рискует подвергнуться юридическим санкциям и публичному осуждению. AWS серьезно относится к своим обязанностям.

Но мы считаем, что налагать запрет на многообещающие новые технологии — это неправильный подход, потому что они могут быть использованы злоумышленниками в гнусных целях в будущем. По словам Смита, среди вопросов, которые должны учитываться в государственном регулировании, есть вопрос о том, нуждается ли полиция в человеческом надзоре и контроле за использованием программного обеспечения для распознавания лиц и должны ли розничные продавцы размещать видимые уведомления, если они используют такое программное обеспечение в общественных местах. Другие области для рассмотрения включают в себя необходимость получения согласия компаний перед сбором изображений людей и какие юридические права применяются к людям, которые считают, что они были ошибочно идентифицированы системой распознавания лиц.

Использование технологии правоохранительными органами без установленных правил вызывает обеспокоенность по поводу расового неравенства и конфиденциальности, сказал Барри Фридман, профессор права Нью-Йоркского университета, который руководит проектом Policing Project, который работает над установлением правил и руководящих принципов для правоохранительных органов. По его словам, Верховный суд постановил, что полиция не может иметь долгосрочный доступ к данным мобильных телефонов без ордера или вероятной причины, и аналогичные ограничения должны применяться к использованию ими технологии распознавания лиц. «Эта технология очень быстро надвигается на нас», — сказал Фридман.

Если мы не опередим его, мы не сможем положить зубную пасту обратно в тюбик. В прошлом месяце Microsoft ненадолго удалила со своего веб-сайта ссылки на контракт, заключенный с США.

Иммиграционная и таможенная служба после онлайн-жалоб на то, что производитель программного обеспечения продал агентство, участвующее в спорных иммиграционных практиках, разделяющих родителей и детей при пересечении американо-мексиканской границы.

Сообщение в блоге было позже восстановлено. Хотя позже Microsoft заявила, что ее контракт с иммиграционным агентством заключался в размещении старых систем электронной почты и совместной работы в облаке, в сообщении в блоге упоминалась возможность использования агентством инструментов распознавания лиц компании. Сотни сотрудников Microsoft подписали петицию с требованием прекратить продажи агентству.

Amazon подверглась критике за то, что продала свое программное обеспечение Rekognition AI для этой задачи местным полицейским управлениям, а Американский союз гражданских свобод потребовал, чтобы компания прекратила позволять правительствам использовать эту технологию. В Google сотрудники возмутились работой компании над проектом Maven, инициативой министерства обороны по применению инструментов искусственного интеллекта к съемкам с дронов. В прошлом месяце главный исполнительный директор Сундар Пичаи обнародовал ряд принципов, в которых обязался не использовать его мощный искусственный интеллект для оружия, незаконного наблюдения и технологий, наносящих общий вред.

Компания заявила, что по-прежнему будет работать с военными. Нима Сингх Гулиани, советник ACLU по законодательным вопросам, согласилась с Microsoft в том, что законодателям необходимо участвовать в анализе использования программного обеспечения для распознавания лиц. По ее словам, Конгресс должен принять немедленные меры по введению моратория на использование этой технологии правоохранительными органами до тех пор, пока не будут полностью обсуждены ее серьезные угрозы для общества.

Однако тем временем такие компании, как Microsoft, Amazon и другие, должны прислушиваться к призывам общественности, сотрудников и акционеров прекратить продажу правоохранительным органам технологии слежения за лицами». и заявила, что отклонила некоторые контракты на продажу некоторого программного обеспечения определенным клиентам, но отказалась предоставить подробности. По словам Смита, новый AIboard призывает к более медленному и взвешенному подходу к продаже программного обеспечения.

При содействии Спенсера Сопера