(Quelle: Education News Network) Bis vor kurzem befand sich der größte Teil der KI im Rechen zentrum und das meiste davon war Training. Die Dinge ändern sich rasant. Es wird erwartet, dass der Umsatz mit künstlicher Intelligenz bis Mitte 2020 schnell auf 10 Milliarden US-Dollar steigen wird, von denen der größte Teil aus Edge-KI-Überlegungen stammen wird. Wo ist der heutige Markt für Edge-Argumentation anwendungen? Schauen wir uns den Markt vom höchsten Durchsatz bis zum niedrigsten Durchsatz an. Vor kurzem gab der Edge-Server NVIDIA bekannt, dass der Umsatz mit Argumenten zum ersten Mal das Training übers tieg. Die meisten von ihnen wurden möglicher weise ins Rechen zentrum geliefert, aber es gibt viele Anwendungen außerhalb des Rechen zentrums, die oft als "Kanten" bezeichnet werden. Dies bedeutet, dass der Umsatz von PCIe-Argumentation gremien für Edge-Argumentation anwendungen 100 Millionen US-Dollar erreichen kann. Ein Jahr und schnell wachsen.

Es hat eine breite Palette von Anwendungen: Überwachung, Gesichts erkennung, Einzelhandel analyze, Genom-/Gen sequenz ierung usw. Da das Training in Gleit komma zahlen durchgeführt wird und die Quantisierung viele Fähigkeiten/Investitionen erfordert, schließen die meisten Edge-Server daraus, dass dies in 16-Bit-Gleit komma zahlen erfolgen kann, während nur die maximale Anzahl von Anwendungen in int8 ausgeführt wird. Die PCIe-Inferenz platine reicht von 75W (NVIDIA Tesla T4) bis 200W (Habana Goya).

Autopilot vor einem Jahr sprachen Auto hersteller und Zulieferer über die Verwendung ihrer benutzer definierten Chips, um ein voll automatisches Fahren zu erreichen. Die heutigen Pläne sind bescheidener und verwenden Standard lösungen (wir hören oft Xavier AgX und NX) für das Modelljahr 2020, Objekter kennung und Korrektur von Megapixel-Bildern als Treiber ergänzung, um die Sicherheit zu verbessern. Derzeit hat seine Zahl Zehntausende von auffälligen Test werkzeugen erreicht, wie Google Waymo mit großer Kamera, auffälligem Lidar und elektronischem Gepäck. Innerhalb von 5 Jahren kann das Verkaufs volumen der hoch integrierten Erkennung und Korrektur von Objekten auf Massenmarkt ebene 2 Millionen erreichen.

Die Haupt akteure hier sind Terson von NVIDIA (nano, TX2, Xavier AgX und Xavier NX) in 5-30W und Intel movidius in unzähligen einstelligen Watt, aber ~ täglicher Durchsatz am 10. Januar. Hier gibt es eine breite Palette von Anwendungen: Überwachungs kameras, Gen sequenz ierung, Haus türklingeln, medizinische Systeme (wie Ultraschall), Photonik, Roboter vision, und CNN wird in den meisten Fällen verwendet, aber auch verschiedene Modelle, die sich vom Bild CNN unterscheiden, können verwendet werden. Fans sind in diesem Markt nicht akzeptabel. Die Kunden, mit denen wir gesprochen haben, sind gespannt auf den Durchsatz. Sie suchen nach Lösungen, die einen höheren Durchsatz und eine größere Bildgröße bei der gleichen Leistung/Preis wie die heute verwendete Leistung/Preis bieten können: Wenn sie die Lösung erhalten, wird ihre Lösung genauer/zuverlässiger, vom Markt übernommen und erweitert. Obwohl die heutigen Anwendungen Tausende von Einheiten haben, da die Verfügbar keit von Argumenten schnell zunehmen wird, wird das Denken immer mehr Durchsatz/Dollar und Durchsatz/Watt liefern. Aufgrund der breiten Palette von Anwendungen sollte dieses Marktsegment im Laufe der Zeit zum größten Marktsegment werden. Für Bild CNN müssen Millionen von Macs pro Sekunde gesendet werden. Allein mit der Keyword-Erkennung kann die Sprachverarbeitung Milliarden von MACS / s oder sogar weniger erreichen. Diese Anwendungen (wie Amazon Echo) sind bereits wichtig für die Annahme und Menge, aber der Preis von $/Chip ist viel niedriger. Die Teilnehmer an diesem Markt unterscheiden sich völlig von den oben genannten Märkten.

Es ist eine Verzögerung. Das Kantens ystem bestimmt die Geschwindigkeit des Bildes mit 60 Bildern pro Sekunde. Zum Beispiel ist es in Autos offen sichtlich wichtig, Objekte wie Menschen, Fahrräder und Autos zu erkennen und in kürzester Zeit eine Rolle zu spielen. In allen Edge-Anwendungen ist die Latenz #1, was bedeutet, dass die Batch-Größe fast immer 1 ist.