(Источник: Education News Network) До недавнего времени большая часть ИИ находилась в центре обработки данных, и большая часть из них была обучением. Все быстро меняется. Ожидается, что к середине 2020 года продажи искусственного интеллекта быстро вырастут до 10 миллиардов долларов, большая часть которых будет приходиться на аргументы Edge AI. Где сегодня рынок краевых рассуждений для приложений Edge рассуждений? Давайте посмотрим на рынок от самой высокой пропускной способности до самой низкой пропускной способности. Edge server недавно, NVIDIA объявила, что рассуждения продажи превысили обучение в первый раз. Большинство из них, возможно, были доставлены в центр обработки данных, но есть много приложений за пределами центра обработки данных, часто называемых «краями». Это означает, что продажи рассуждающих досок PCIe для краевых приложений для аргументации могут достичь 100 миллионов долларов США. Один год и быстро растет.

Он имеет широкий спектр применений: наблюдение, распознавание лиц, розничный анализ, секвенирование генома/генов и т. Д. Поскольку обучение проводится числам с плавающей запятой, а квантование требует больших навыков/инвестиций, большинство граничных серверов делают вывод, что это может быть сделано в 16-битных числах с плавающей запятой, в то время как только максимальное количество приложений выполняется в int8. Доска вывода PCIe варьируется от 75 Вт (NVIDIA Tesla T4) до 200 Вт (Habana Goya).

Автопилот год назад производители и поставщики автомобилей говорили об использовании своих пользовательских чипов для достижения полного автоматического вождения. Сегодняшние планы скромнее: использование готовых решений (мы часто слышим Xavier AgX и NX) на 2020 модельный год, обнаружение объектов и коррекция мегапиксельных изображений в качестве дополнения водителя для повышения безопасности. В настоящее время его количество достигло десятков тысяч привлекательных инструментов для тестирования, таких как Google waymo с большой камерой, привлекательным лидаром и электронным багажом. В течение 5 лет объем продаж высокоинтегрированного массового рынка 2 уровня обнаружения и коррекции объектов может достигнуть миллионов.

Основными игроками здесь являются NVIDIA Terson (nano, TX2, Xavier AgX и Xavier NX) в 5-30w и Intel movidius в бесчисленных однозначных ваттах, но ~ ежедневная пропускная способность 10 января. Здесь есть широкий спектр применений: камеры наблюдения, секвенирование генов, домашние дверные звонки, медицинские системы (такие как ультразвук), фотоника, зрение робота, и CNN используется в большинстве случаев, но различные модели, отличные от изображения CNN, также могут быть использованы, Поклонники недопустимы на этом рынке. Клиенты, с которыми мы разговаривали, жаждут пропускной способности. Они ищут решения, которые могут обеспечить более высокую пропускную способность и больший размер изображения при той же мощности/цене, что и мощность/цена, используемая сегодня: когда они получат решение, их решение будет более точным/надежным, принятым и расширенным рынком. Поэтому, хотя сегодняшние приложения имеют тысячи единиц, поскольку доступность рассуждений будет быстро расти, рассуждение обеспечит все большую и большую пропускную способность/доллар и пропускную способность/ватт. Благодаря широкому спектру приложений этот сегмент рынка со временем должен стать крупнейшим сегментом рынка. Image CNN требует отправки миллионов компьютеров Mac в секунду. Только с распознаванием ключевых слов обработка речи может достигать миллиардов MACS / s или даже ниже. Эти приложения (такие как Amazon echo) уже важны по внедрению и количеству, но цена $/чип намного ниже. Участники этого рынка совершенно не такие, как вышеуказанные рынки.

Это задержка. Система краев определяет скорость изображения со скоростью 60 кадров в секунду. Например, в автомобилях, очевидно, важно обнаруживать такие объекты, как люди, велосипеды и автомобили, и играть роль в кратчайшие сроки. Во всех краевых приложениях задержка-#1, что означает, что размер партии почти всегда равен 1.