NVIDIA Jetson: architectuur, werken en zijn toepassingen

Probeer Ons Instrument Voor Het Oplossen Van Problemen





Het leidende platform ter wereld zoals NVIDIA Jetson is een opeenvolging van ingebedde computerborden die voornamelijk wordt gebruikt in autonome machines en andere ingebedde toepassingen . Dit bord bevat voornamelijk Jetson-modules, dit zijn krachtige computers. Jetson is zeer geschikt voor vergelijkbare AI-software en een cloud-native workflow die wordt gebruikt op andere NVIDIA-platforms en biedt energiezuinige prestaties voor klanten om op software gebaseerde autonome machines te bouwen. NVIDIA Jetson wordt gebruikt voor computer vision-toepassingen. Dus, dit artikel bespreekt een overzicht van NVIDIA Jetson - werken en zijn toepassingen.


Wat is NVIDIA Jetson?

NVIDIA Jetson is een geavanceerd inbedding systeem bord dat wordt gebruikt om innovatieve AI-producten te creëren in verschillende industrieën. NVIDIA Jetson is een van de toonaangevende hardwareplatforms die erg handig is voor tech-enthousiastelingen en ook studenten om praktijkervaring op te doen door middel van een reeks innovatieve AI-projecten. Dit bord is een zeer efficiënt bord voor AI dat modulaire, small-form-factor en krachtige edge-computers omvat. Daarnaast bevat dit bord ook JetPack SDK die wordt gebruikt voor softwareversnelling, evenals een compleet ecosysteem om te helpen bij het versnellen van de ontwikkelingsprocedure van aangepaste AI-projecten.



  NVIDIA Jetson-module
NVIDIA Jetson-module

NVIDIA Jetson-architectuur

We weten dat de Nvidia Jetson-module van Nvidia een reeks embedded computerborden is. Alle modellen van Jetson TX1, TX2 en TK1 hebben een SoC- of Tegra-processor van Nvidia met een ARM-architectuur-CPU. Hier is Jetson een energiezuinig systeem dat voornamelijk is ontworpen om machine learning-toepassingen te versnellen.

De NVIDIA Jetson Xavier NX-architectuur wordt hieronder weergegeven. Het is de meest geavanceerde en kleine AI-supercomputer die ook wordt gebruikt voor edge computing-apparaten autonome robotica . Deze module heeft de capaciteit om prestaties van serverklasse te implementeren binnen een solide vormfactor van 70 x 45 mm en biedt ook tot 21 TOPS rekenkracht onder 15 W vermogen, anders tot 14 TOPS rekenkracht onder 10 W.



  NVIDIA Jetson Xavier NX-architectuur
NVIDIA Jetson Xavier NX-architectuur

Het bovenstaande diagram bevat een ingebouwde 384-core NVIDIA Volta GPU inclusief een 6-core NVIDIA Carmel ARMv8.2 64-bit CPU, 48 Tensor Cores, 8GB 128-bit LPDDR4x, 4K-video-encoders en -decoders, dubbele NVDLA-motoren (NVIDIA Deep Learning Accelerator), camera voor maximaal zes onmiddellijke hoge resolutie sensorstreams, dubbele DisplayPort- of HDMI 4K-schermen, PCIe Generation 3-uitbreiding, USB 3.1 & GPIO's met I2C, SPI, I2S, UART & CAN-bus.

De specificaties van NVIDIA Jetson omvatten het volgende.

  PCBWay
  • Vermogen is 10W of 15W modi en 5V input.
  • CPU is 6-core NVIDIA Carmel 64-bit ARMv 8.2 op 1400 MHz.
  • GPU is 384-core NVIDIA Volta op 1100 MHz via 48 Tensor Cores.
  • DL is Dual NVDLA-motoren.
  • Het geheugen is 8 GB 128-bits LPDDR4x op 1600 MHz.
  • 16 GB eMMC 5.1-opslag.
  • Camera is 12x MIPI CSI-2 banen | 3×4 of 6×2 camera’s.
  • Tot 6 camera's (36 via virtuele kanalen).
  • Thermiek van -25°C tot 90°C.
  • Het scherm is DP 1.4 of eDP 1.4 of HDMI 2.0 a/b bij 4Kp60.
  • Ethernet is 10 of 100 of 1000 BASE-T Ethernet.
  • USB 3.1 en USB 2.0.

Deze module wordt ondersteund door de volledige CUDA-X-softwarestack van NVIDIA en ook JetPack SDK voor AI-ontwikkeling. Het voert zeer populaire machine learning-frameworks en moeilijke DNN's uit op verschillende sensorstreams met hoge resolutie tegelijk, naast real-time computervisie, grafische afbeeldingen en multimediatoepassingen binnen een complete Linux-desktopomgeving.

Momenteel zijn ontwikkelaars begonnen met het ontwerpen van AI-applicaties voor Jetson Xavier NX met behulp van de Jetson AGX Xavier Developer Kit. Door een apparaatpatroonpatch in de buurt van JetPack toe te passen, zal het apparaat werken als een Jetson Xavier NX. Dit zal het aantal GPU- en CPU-kernen wijzigen dat via software kan worden verkregen en de klokfrequenties en spanningen van kernen in het hele systeem instellen.

De patch is volledig omkeerbaar en wordt gebruikt om de Jetson Xavier NX-prestaties te benaderen. Deze module classificeert standaard vermogensmodi van 10W en 15W en bereikt tussen 14 en 21 TOPS-piekprestaties op basis van de actieve modus. De nvpmodel-tool wordt gebruikt om vermogensprofielen te verwerken om de hoogste CLK-frequenties aan te passen voor de GPU, CPU, diverse SoC-klokken en geheugencontroller, samen met de verschillende CPU-clusters.

Op basis van de werkbelasting balanceert de DVFS-regelaar (Dynamic Voltage & Frequency Scaling) de frequenties tijdens runtime tot aan hun hoogste limieten zoals beschreven door het actieve nvp-model, waardoor het stroomverbruik wordt verminderd bij inactiviteit en op basis van de werking van de processor. De nvpmodel-tool helpt bij het maken en wijzigen van nieuwe energiemodi op basis van TDP en toepassingsvereisten.

De NVIDIA Jetson-module brengt de prestaties van de supercomputer naar de rand binnen een kleine vormfactor SOM (system-on-module). Gelijk aan 21 TOPS versneld computergebruik stuurt het vermogen om huidige neurale netwerken parallel te laten lopen en gegevens van verschillende sensoren met hoge resolutie te verwerken. Deze module is ideaal voor op hoge prestaties gebaseerde AI-systemen zoals medische instrumenten, commerciële robots, AIoT embedded systemen, slimme camera's, geautomatiseerde optische inspectie, sensoren met hoge resolutie, slimme fabrieken, enz.

Software

De NVIDIA Jetson-module wordt eenvoudig ondersteund door gecombineerde software-architecturen, zodat softwareontwikkelaars veel gemakkelijker kunnen werken. Deze gecombineerde aanpak bespaart ontwikkelaars simpelweg het gedoe van repetitieve codering terwijl ze hun formaties op andere Jetson-modules verbeteren.

De NVIDIA JetPack SDK is beschikbaar met een Linux-besturingssysteem, CUDA-X-versnelde bibliotheken en API's voor verschillende machine learning-gebieden zoals computervisie, diep leren, enz. Het ondersteunt ook machine learning-frameworks zoals Caffe, TensorFlow, Keras en OpenCV computervisie bibliotheken.
NVIDIA Jetson biedt verschillende softwaretools voor zijn modules die hieronder worden besproken.

NVIDIA JetPack-SDK

Jetson-platformsoftwarebundels zoals TensorRT, CUDA Toolkit, cuDNN, GStreamer, OpenCV en Visionworks worden allemaal bovenop L4T geassembleerd via de LTS Linux-kernel.

NVIDIA Jetson Linux-stuurprogrammapakket

Het biedt de Linux-kernel, NVIDIA-stuurprogramma's, bootloader, voorbeeldbestandssysteem, knipperende hulpprogramma's en nog veel meer voor het platform Jetson.

NVIDIA DeepStream-SDK

Het is een set API's en bibliotheken om ontwikkelaars te helpen bij het ontwerpen en regelen van sterke IVA-oplossingen (intelligente video-analyse) op het Jetson-platform. Het wordt gebruikt om complexe toepassingen te bouwen, zoals codering, beeldopname, decodering, inferentie met TensorRT, enz.

NVIDIA Isaac-SDK

Het is een reeks bibliotheken, API's, stuurprogramma's en andere tools die AI zullen toevoegen aan robots van de volgende generatie voor navigatie, perceptie en manipulatie. Het helpt dus bij het creëren en implementeren van AI-aangedreven robotica.

NVIDIA Jetson-typen

De NVIDIA Jetson-module wordt geleverd met geheugen, GPU, CPU, snelle interfaces, energiebeheer, enz. Deze modules zijn beschikbaar in verschillende uitvoeringen, energie-efficiëntie en variaties van vormfactoren om ze in verschillende industrieën te kunnen gebruiken. Er zijn verschillende NVIDIA Jetson-apparaten beschikbaar die hieronder worden besproken.

NVIDIA Jetson Nano

De NVIDIA Jetson Nano-module is geschikt voor ontwikkelaars of studenten en ook voor beginners omdat deze voornamelijk is ontworpen voor hands-on leren en onderwijzen. De grootte van deze module is klein, maar de energie-efficiëntie en prestaties zijn hoog, waardoor het perfect is om meerdere parallelle neurale netwerken, AI-workloads en gegevensverwerking van sensoren met hoge resolutie in één keer uit te voeren. De Jetson Nano-module is dus een zeer populair edge-apparaat dat wordt gebruikt om embedded AI-producten en -oplossingen te maken.

  NVIDIA Jetson Nano
NVIDIA Jetson Nano

Deze module is perfect voor op AI gebaseerde computervisietoepassingen en voert AI-visietaken uit, zoals objectdetectie, beeldsegmentatie, beeldclassificatie, enz. Deze module is zeer compatibel met open-source computervisiesoftware en OpenCV machine learning-bibliotheken.

NVIDIA Jetson TX2-serie

De module uit de NVIDIA Jetson TX2-serie is ontworpen in creditcardformaat. De kenmerken van deze module omvatten voornamelijk een NVIDIA Pascal GPU, tot 8 GB geheugen, 59,7 GB/s geheugenbandbreedte en standaard hardware-interfaces. Deze module levert prestaties tot 2,5 keer in vergelijking met de NVIDIA Jetson Nano-module.

Deze module voert zeer efficiënt diepe neurale netwerken uit op edge-apparaten om een ​​hogere nauwkeurigheid te bereiken. De modules die beschikbaar zijn in de serie omvatten voornamelijk de Jetson TX2 4GB, Jetson TX2i, Jetson TX2 en Jetson TX2 NX. De NVIDIA Jetson TX2 NX-module deelt simpelweg pin- en vormfactorcompatibiliteit via de Jetson Xavier NX en Jetson Nano.

  NVIDIA Jetson TX2-serie
NVIDIA Jetson TX2-serie

De overige drie modules zullen de vormfactor van de originele Jetson TX2-module delen. Het gebruik van de TX2-serie varieert eenvoudigweg in verschillende industrieën, zoals landbouw, productie, biowetenschappen, detailhandel, enz. De Jetson TX2i-module van de overige modules is het meest geschikt voor krachtige AI-apparaten zoals medische apparatuur, machine vision-camera's en industriële robots omdat van zijn sterke ontwerp.

Deze module is een zeer snel ingebed AI-computerapparaat dat een hoge energie-efficiëntie biedt, zoals 7,5 W, supercomputermogelijkheden, voornamelijk voor edge AI-apparaten, en ook verschillende hardware-interfaces om eenvoudig in verschillende producten en vormfactoren te integreren.

NVIDIA Jetson Xavier NX

De NVIDIA Jetson Xavier NX-module is erg klein in vergelijking met een creditcard met hoge prestaties en energiezuinigheid. Dit staat ook wel bekend als de kleinste AI-supercomputer voor edge & embedded systemen ter wereld. Deze module helpt vooral bij het draaien van complete AI-systemen.

  Xavier NX
Xavier NX

De functies van Jetson Xavier NX ondersteunen ook cloud-native technologieën, dus het is gemakkelijk voor ontwikkelaars om AI-producten te upgraden en te beheren. Deze module ondersteunt alle populaire AI-modellen & frameworks. Deze module is dus volledig geschikt voor krachtige AI-systemen zoals slimme camera's, AI-aangedreven visiesystemen met hoge resolutie, drones, commerciële robots of medische apparatuur.

De NVIDIA Jetson Xavier NX-module levert 21 Tera Operations per Second of TOPS om een ​​huidige AI-workload uit te voeren door 10 W stroom te verbruiken. De vormfactor van deze module is compacter in vergelijking met een creditcard. De Xavier NX-module voert verschillende neurale netwerken tegelijk uit en verwerkt gegevens van verschillende sensoren met hoge resolutie. Dit type module wordt gebruikt om toepassingen te ontwerpen voor embedded en edge computing-apparaten die hoge prestaties nodig hebben, hoewel ze aanzienlijke gewichts-, grootte- en stroombeperkingen hebben.

NVIDIA Jetson AGX Xavier-serie

De NVIDIA Jetson AGX Xavier Series-module is voornamelijk ontwikkeld voor autonome intelligente machines van de volgende generatie. Deze module levert tot 32 TOPS- of Tera-bewerkingen per seconde aan AI-prestaties bij een verbruik van slechts 10 watt. De softwareontwikkelaar mag gewoon snel neurale netwerken inrichten met een set AI-softwaretools van NVIDIA.

  AGX Xavier-serie
AGX Xavier-serie

Deze module biedt verschillende specificaties en functionele beveiligingsmogelijkheden, zodat ontwikkelaars veiligheids- of industrieel gecertificeerde producten kunnen maken. De hoge prestaties van deze module kunnen ze geschikt maken voor tal van autonome machines zoals logistieke en industriële robots, fabriekssystemen en grote drones.

Jetson Xavier NX ontwikkelaarskit

De jetson xavier nx ontwikkelaarskit bevat een solide, energiezuinige Xavier NX-module die wordt gebruikt voor AI-aangedreven edge-apparaten. Deze module heeft enkele functies, zoals cloud-native ondersteuning en versnelt de stapel NVIDIA-software in slechts 10 W met meer dan 10 keer de prestaties van de Jetson TX2. Deze ontwikkelaarskit wordt gebruikt door fabrikanten van intelligente machines, AI-startups en applicatieontwikkelaars om moderne producten te ontwerpen met compacte, zeer nauwkeurige AI-inferentie en energiezuinige vormfactor.

  NX-ontwikkelaarskit
NX-ontwikkelaarskit

Jetson AGX Xavier Industrieel

De Jetson AGX Xavier Industrial module maakt deel uit van de AGX Xavier serie. Het ontwerp van deze module is een pin-compatibele vormfactor die de meest actuele AI-modellen bestuurt in veeleisende toepassingen. Deze module biedt uitgebreide trillings-, schok-, temperatuurspecificaties, geavanceerde beveiligingsfuncties, tot 4 keer zoveel geheugen en 20 keer betere prestaties dan de TX2i-module.

  Xavier Industrieel
Xavier Industrieel

Deze module is zeer nuttig voor ontwerpers om automatisering, robotica en andere intelligente producten te ontwerpen. Daarnaast ontwerpt het ook veiligheidsgecertificeerde en robuuste producten voor het leveren van hoge prestaties voor industriële, AI-ingebedde functionele en beveiligingstoepassingen in een ontwerp van zowel robuuste als energiezuinige vormfactor.

Voordelen

De voordelen van NVIDIA Jetson omvatten het volgende.

  • NVIDIA Jetson is geschikt voor studenten, individuele ontwikkelaars en verschillende organisaties.
  • Het Jetson-platform is erg populair omdat het verschillende voordelen biedt, zoals modulaire flexibiliteit, uniforme software en ondersteuning voor cloud-native technologieën.
  • Dit bord biedt een reeks modules die zeer nuttig zijn voor alles, van eenvoudige AI-toepassingen tot zeer complexe AI-aangedreven apparaten.
  • Dit bord wordt aangedreven door een uniforme softwarearchitectuur die de ontwikkelaars helpt bij repetitieve codering. Zodra ze AI/ML-capaciteit nodig hebben, kunnen ze een gerelateerde Jetson-module aan het apparaat toevoegen en zorgt deze voor het zware werk.
  • Het NVIDIA Jetson-platform ondersteunt gewoon cloud-native technologieën en workflows zoals orkestratie en containerisatie, waardoor ontwikkelaars snel AI-producten kunnen ontwikkelen en uitbreiden.
  • De NVIDIA JetPack SDK is beschikbaar met een Linux-besturingssysteem, API's en CUDA-X-versnellingsbibliotheken voor verschillende machine learning-domeinen, zoals computervisie en deep learning. Het biedt ook ondersteuning voor machine learning-frameworks zoals Caffe en Keras, TensorFlow & OpenCV-bibliotheken van computervisie.

Nadelen

Het heeft zeer weinig nadelen, rekening houdend met de prijs

  • De NVIDIA Jetson nano-module is niet beschikbaar met wifi erin.
  • NVIDIA Jetson nano-module bevat slechts twee PWM-pinnen op het bord.

toepassingen

De toepassingen van NVIDIA Jetson omvatten het volgende.

  • De NVIDIA Jetson-module biedt superieure inbeddingssystemen die worden gebruikt om AI-producten te maken voor verschillende scenario's. Dit is een energiezuinige module die wordt gebruikt voor AI en die krachtige, modulaire en small-form-factor edge-computers omvat.
  • Nvidia Jetson-borden zijn voornamelijk ontworpen voor gebruik in ingebedde systemen zoals drones, robots en andere apparaten die krachtige verwerking nodig hebben binnen een kleine vormfactor. De gebruikelijke toepassingen van Jetson-borden omvatten voornamelijk medische apparaten, autonome voertuigen, digital signage, AR/VR-headsets, smart city-toepassingen, enz.
  • Deze module ondersteunt uniforme software-architecturen om het werk van de softwareontwikkelaars veel eenvoudiger te maken.
    De NVIDIA Jetson-modules en -apparaten zijn geoptimaliseerde edge-apparaten die worden gebruikt om Edge AI-systemen te ontwikkelen.
  • NVIDIA Jetson Nano Developer Kit is een zeer krachtige en kleine computer die verschillende neurale netwerken parallel uitvoert voor verschillende toepassingen zoals objectdetectie, beeldclassificatie, spraakverwerking en segmentatie.
  • De NVIDIA Jetson Nano-module is perfect voor computer vision-toepassingen op basis van AI en voert AI-vision-taken uit, zoals beeldsegmentatie, beeldclassificatie, objectdetectie, enz.
  • De Nano-modules van NVIDIA Jetson bieden ongelooflijke nieuwe mogelijkheden voor duizenden energiezuinige en kleine AI-systemen
  • De NVIDIA Jetson Nano-module is compatibel met OpenCV machine learning-bibliotheken en open-source computer vision-software.

Q). Wat is het stroomverbruik van Jetson-modules?

A). Het stroomverbruik van de Jetson-module varieert afhankelijk van het model en het gebruik. De Jetson Xavier-module heeft bijvoorbeeld een typisch stroomverbruik van ongeveer 15w tot 30w, terwijl de Jetson TX2 tussen de 7w en 15w kan verbruiken.

Q). Kan Jetson worden gebruikt voor real-time objectdetectie en tracking?

A). Ja, Jetson Platforms kan vision-detectie en -tracking aan. Nano-module is een hoogwaardige GPU- met edge computing-platform dat voornamelijk kan worden gebruikt voor detectie, tellen en volgen.

Q). Met welke soorten sensoren kan Jetson communiceren?

A). Vision-sensoren worden gebruikt om Jetson te verbinden met verschillende camera-interfaces zoals USB, MIPI CSI en Ethernet. Ze kunnen ook communiceren met lidar, ultrasone sensor en andere typen, ook met behulp van de verschillende soorten interfaces zoals de I2C, SPI enz.

Q). Wat is het verschil tussen Jetson en Raspberry Pi?

A). Het belangrijkste verschil tussen deze twee borden is; NVIDIA Jetson is ontwikkeld om veeleisende AI- en computervisietaken aan te kunnen, terwijl het Raspberry Pi 4-bord een op laag vermogen gebaseerde multimedia-GPU heeft die wordt gebruikt voor algemeen computergebruik en onderwijs. Jetson kan worden gebruikt voor meer geavanceerde functies, zoals hardwareversnelde videodecodering en -codering met behulp van de krachtige GPU (Graphical Processing Unit) en CPU (Central Processing Unit).

Q). Kan Jetson worden gebruikt voor autonome robottoepassingen?

A). De autonome robotica en industrie van morgen wordt aangedreven door NVIDIA Jetson for Intelligent Machines & Robotics.

Dit is dus een overzicht van NVIDIA Jetson – voordelen en toepassingen. Deze module is wereldwijd het toonaangevende platform dat door ontwikkelaars wordt gebruikt om geavanceerde AI-producten in alle sectoren te maken. Deze modules worden ook gebruikt door studenten en ook enthousiastelingen om praktijkervaring op te doen in AI-leren om geweldige projecten te maken. Het platform van Jetson bestaat voornamelijk uit energiezuinige, kleine developer kits & productiemodules. Hier is een vraag voor u, wat is NVIDIA?