(Source: Education News Network) Jusqu'à récemment, la plupart de l'IA se trouvait dans le centre de données, et la majeure partie était de la formation. Les choses changent rapidement. On s'attend à ce que d'ici la mi-2020, les ventes d'intelligence artificielle augmenteront rapidement pour atteindre 10 milliards de dollars, dont la plupart proviendront d'un raisonnement de pointe en matière d'IA. Où est le marché actuel du raisonnement de pointe pour les applications de raisonnement de pointe? Regardons le marché du débit le plus élevé au débit le plus bas. Serveur Edge récemment, NVIDIA a annoncé que les ventes de raisonnement ont dépassé la formation pour la première fois. La plupart d'entre eux ont peut-être été livrés au centre de données, mais il existe de nombreuses applications en dehors du centre de données, souvent appelées «bords». Cela signifie que les ventes de tableaux de raisonnement PCIe pour les applications de raisonnement de pointe peuvent atteindre 100 millions de dollars américains. Un an et en croissance rapide.

Il a un large éventail d'applications: surveillance, reconnaissance faciale, analyse de vente au détail, séquençage du génome/gène, etc. Étant donné que la formation se fait en nombres à virgule flottante et que la quantification nécessite beaucoup de compétences/investissements, la plupart des serveurs de bord en déduisent que cela peut être fait en nombres à virgule flottante 16 bits, alors que seul le nombre maximum d'applications est effectué en int8. La carte d'inférence PCIe va de 75W (NVIDIA Tesla T4) à 200W (Habana Goya).

Pilote automatique il y a un an, les constructeurs automobiles et les fournisseurs parlaient d'utiliser leurs puces personnalisées pour obtenir une conduite entièrement automatique. Les plans d'aujourd'hui sont plus modestes, utilisant des solutions standard (on entend souvent Xavier AgX et NX) pour l'année modèle 2020, la détection d'objets et la correction d'images mégapixels comme supplément conducteur pour améliorer la sécurité. À l'heure actuelle, son nombre a atteint des dizaines de milliers d'outils de test accrocheurs, tels que Google waymo avec grand appareil photo, lidar accrocheur et bagages électroniques. Dans les 5 ans, le volume des ventes de détection et de correction d'objets de niveau 2 sur le marché de masse hautement intégré peut atteindre des millions.

Les principaux acteurs ici sont Terson de NVIDIA (nano, TX2, Xavier AgX et Xavier NX) en 5-30w et Intel movidius en d'innombrables watts à un chiffre, mais ~ débit quotidien le 10 janvier. Il existe un large éventail d'applications ici: les caméras de surveillance, le séquençage de gènes, les sonnettes à la maison, les systèmes médicaux (tels que les ultrasons), la photonique, la vision de robot et CNN est utilisé dans la plupart des cas, mais divers modèles différents de l'image CNN peuvent également être utilisés. Les fans sont inacceptables sur ce marché. Les clients à qui nous avons parlé sont avides de débit. Ils recherchent des solutions qui peuvent fournir un débit plus élevé et une plus grande taille d'image au même prix/puissance que la puissance/prix utilisé aujourd'hui: quand ils obtiennent la solution, leur solution sera plus précise/fiable, adoptée et élargie par le marché. Par conséquent, bien que les applications actuelles comportent des milliers d'unités, car la disponibilité du raisonnement augmentera rapidement, le raisonnement fournira de plus en plus de débit/dollar et débit/watt. En raison de la large gamme d'applications, ce segment de marché devrait devenir le plus grand segment de marché au fil du temps. Image CNN nécessite l'envoi de millions de Mac par seconde. Avec la seule reconnaissance de mots clés, le traitement de la parole peut atteindre des milliards de MACS / s ou même plus bas. Ces applications (comme l'écho d'Amazon) sont déjà importantes dans l'adoption et la quantité, mais le prix de $/puce est beaucoup plus bas. Les participants à ce marché sont complètement différents des marchés ci-dessus.

C'est un retard. Le système de bord détermine la vitesse de l'image à 60 images par seconde. Par exemple, dans les voitures, il est évidemment important de détecter des objets tels que des personnes, des vélos et des voitures et de jouer un rôle dans les plus brefs délais. Dans toutes les applications de bord, la latence est #1, ce qui signifie que la taille du lot est presque toujours 1.