NVIDIA Jetson: architektūra, darbas ir jos programos

Pirmaujanti platforma pasaulyje, tokia kaip NVIDIA Jetson, yra įterptųjų skaičiavimo plokščių seka, kuri daugiausia naudojama autonominėse mašinose ir kitose įterptosios programos . Šioje plokštėje daugiausia yra Jetson modulių, kurie yra didelio našumo kompiuteriai. „Jetson“ puikiai tinka panašiai dirbtinio intelekto programinei įrangai ir debesies darbo eigai, kuri naudojama kitose NVIDIA platformose, ir užtikrina efektyvų energiją klientams kuriant programinės įrangos pagrindu veikiančius autonominius įrenginius. NVIDIA Jetson naudojama kompiuterinio matymo programoms. Taigi, šiame straipsnyje aptariama „NVIDIA Jetson“ darbo ir jo programų apžvalga.

Kas yra NVIDIA Jetson?

NVIDIA Jetson yra pažangi įterpimo sistema plokštė, naudojama kuriant novatoriškus AI produktus keliose pramonės šakose. NVIDIA Jetson yra viena iš pirmaujančių aparatinės įrangos platformų, kuri yra labai naudinga technologijų entuziastams ir studentams, norint įgyti praktinės patirties įgyvendinant įvairius naujoviškus AI projektus. Ši plokštė yra labai efektyvi dirbtinio intelekto plokštė, apimanti modulinius, mažo formato ir didelio našumo krašto kompiuterius. Be to, šioje plokštėje taip pat yra JetPack SDK, naudojamas programinei įrangai pagreitinti, taip pat visa ekosistema, padedanti padidinti pasirinktinių AI projektų kūrimo procedūras.

NVIDIA Jetson architektūra

Žinome, kad Nvidia „Nvidia Jetson“ modulis yra įterptųjų skaičiavimo plokščių seka. Visi Jetson TX1, TX2 ir TK1 modeliai turi Nvidia SoC arba Tegra procesorių, kuriame yra ARM architektūros procesorius. Čia „Jetson“ yra mažos galios sistema, daugiausia skirta mašininio mokymosi programoms paspartinti.

NVIDIA Jetson Xavier NX architektūra parodyta žemiau. Tai pažangiausias ir mažiausias AI superkompiuteris, naudojamas kraštiniams skaičiavimo įrenginiams autonominė robotika . Šis modulis gali įdiegti serverio klasės našumą, esant solidžiam 70 x 45 mm formos koeficientui, taip pat suteikia iki 21 TOPS skaičiavimo, kai galia mažesnė nei 15 W, kitu atveju iki 14 TOPS skaičiavimo, kai galia mažesnė nei 10 W.

Aukščiau pateiktoje diagramoje yra integruota 384 branduolių NVIDIA Volta GPU įskaitant 6 branduolių NVIDIA Carmel ARMv8.2 64 bitų procesorių, 48 tensorinius branduolius, 8 GB 128 bitų LPDDR4x, 4K vaizdo kodavimo įrenginius ir dekoderius, du NVDLA (NVIDIA Deep Learning Accelerator) variklius, kamerą iki šešių momentinių didelės raiškos jutiklių srautai, du ekrano prievadai arba HDMI 4K ekranai, PCIe 3 kartos išplėtimas, USB 3.1 ir GPIO su I2C, SPI, I2S, UART ir CAN magistrale.

NVIDIA Jetson specifikacijose yra šios.

• Galia yra 10 W arba 15 W režimai ir 5 V įvestis.
• CPU yra 6 branduolių NVIDIA Carmel 64 bitų ARMv 8.2, esant 1400 MHz.
• GPU yra 384 branduolių NVIDIA Volta, 1100 MHz iki 48 tensorių branduolių.
• DL yra dvigubi NVDLA varikliai.
• Atmintis yra 8 GB 128 bitų LPDDR4x, esant 1600 MHz.
• 16 GB eMMC 5.1 saugykla.
• Kamera yra 12x MIPI CSI-2 juostų | 3×4 arba 6×2 kameros.
• Iki 6 kamerų (36 per virtualius kanalus).
• Temperatūra nuo -25°C iki 90°C.
• Ekranas yra DP 1.4 arba eDP 1.4 arba HDMI 2.0 a/b esant 4Kp60.
• Ethernet yra 10 arba 100 arba 1000 BASE-T eternetas.
• USB 3.1 ir USB 2.0.

Šį modulį palaiko visas CUDA-X programinės įrangos paketas NVIDIA ir JetPack SDK, skirtas dirbtiniam intelektui kurti. Jis paleidžia labai populiarias mašininio mokymosi sistemas ir sudėtingus DNN keliuose didelės raiškos jutiklių srautuose vienu metu, be realiojo laiko kompiuterinės vizijos, grafikos ir daugialypės terpės taikomųjų programų pilnoje darbalaukio Linux aplinkoje.

Šiuo metu kūrėjai pradėjo kurti AI programas Jetson Xavier NX, naudodamiesi Jetson AGX Xavier Developer Kit. Pritaikius įrenginio šablono pataisą šalia „JetPack“, įrenginys veiks kaip „Jetson Xavier NX“. Tai pakeis GPU ir procesoriaus branduolių skaičių, kurį galima gauti naudojant programinę įrangą, ir nustatys laikrodžio dažnius bei branduolių įtampą visoje sistemoje.

Pleistras yra visiškai grįžtamasis, kuris naudojamas apytiksliai Jetson Xavier NX veikimui. Šis modulis klasifikuos numatytuosius 10 W ir 15 W galios režimus, kurių didžiausias našumas yra nuo 14 iki 21 TOPS, atsižvelgiant į aktyvųjį režimą. nvpmodel įrankis naudojamas galios profiliams tvarkyti, kad būtų galima reguliuoti aukščiausius GPU, procesoriaus, įvairių SoC laikrodžių ir atminties valdiklio CLK dažnius kartu su įvairiomis procesoriaus grupėmis.

Atsižvelgdamas į darbo krūvį, DVFS (dinaminės įtampos ir dažnio mastelio keitimas) reguliatorius subalansuoja dažnius veikimo metu iki aukščiausių ribų, kaip aprašyta aktyviame nvp modelyje, todėl energijos suvartojimas sumažėja tuščiąja eiga ir atsižvelgiant į procesoriaus veikimą. „nvpmodel“ įrankis padeda sukurti ir modifikuoti naujus maitinimo režimus pagal TDP ir programos reikalavimus.

NVIDIA Jetson modulis padidina superkompiuterio našumą per mažą formos koeficientą SOM (sistema modulyje). 21 TOPS pagreitintas skaičiavimas siunčia arklio galias lygiagrečiai paleisti dabartinius neuroninius tinklus ir apdoroti duomenis iš įvairių didelės raiškos jutiklių. Šis modulis idealiai tinka didelio našumo AI sistemoms, tokioms kaip medicinos prietaisai, komerciniai robotai, AIoT įterptosios sistemos, išmaniosios kameros, automatizuotas optinis patikrinimas, didelės raiškos jutikliai, išmaniosios gamyklos ir kt.

Programinė įranga

NVIDIA Jetson modulis tiesiog palaikomas naudojant kombinuotas programinės įrangos architektūras, todėl programinės įrangos kūrėjams bus daug lengviau dirbti. Šis kombinuotas požiūris paprasčiausiai padeda kūrėjams išvengti pasikartojančio kodavimo rūpesčių ir tobulinti jų formavimą kituose „Jetson“ moduliuose.

NVIDIA JetPack SDK galimas su Linux OS, CUDA-X pagreitintomis bibliotekomis ir API, skirtomis įvairioms mašininio mokymosi sritims, tokioms kaip kompiuterio vizija, gilus mokymasis ir kt. Jis taip pat palaiko mašininio mokymosi sistemas, tokias kaip Caffe, TensorFlow, Keras ir OpenCV kompiuterio vizija. bibliotekos.
NVIDIA Jetson siūlo skirtingus programinės įrangos įrankius savo moduliams, kurie aptariami toliau.

NVIDIA JetPack SDK

„Jetson“ platformos programinės įrangos paketai, tokie kaip „TensorRT“, „CUDA Toolkit“, „cuDNN“, „GStreamer“, „OpenCV“ ir „Visionworks“, yra surenkami ant L4T per LTS Linux branduolį.

NVIDIA Jetson Linux tvarkyklės paketas

Ji suteikia „Linux“ branduolį, NVIDIA tvarkykles, įkrovos įkroviklį, pavyzdinę failų sistemą, mirksinčias priemones ir daug daugiau platformai „Jetson“.

NVIDIA DeepStream SDK

Tai API ir bibliotekų rinkinys, padedantis kūrėjams kurti ir organizuoti stiprius IVA (išmaniosios vaizdo analizės) sprendimus Jetson platformoje. Jis naudojamas kuriant sudėtingas programas, tokias kaip kodavimas, vaizdo fiksavimas, dekodavimas, išvados su TensorRT ir kt.

NVIDIA Isaac SDK

Tai bibliotekų, API, tvarkyklių ir kitų įrankių rinkinys, kuris papildys dirbtinį intelektą prie naujos kartos robotų, skirtų navigacijai, suvokimui ir manipuliavimui. Taigi tai padeda kurti ir diegti AI varomą robotiką.

NVIDIA Jetson tipai

NVIDIA Jetson modulis yra su atmintimi, GPU, CPU, didelės spartos sąsajomis, maitinimo valdymu ir tt Šie moduliai yra įvairių našumo, energijos vartojimo efektyvumo ir formos faktorių variantų, kad būtų galima juos panaudoti įvairiose pramonės šakose. Yra įvairių NVIDIA Jetson įrenginių, kurie aptariami toliau.

NVIDIA Jetson Nano

NVIDIA Jetson Nano modulis tinka kūrėjams ar studentams, taip pat pradedantiesiems, nes jis daugiausia skirtas praktiniam mokymuisi ir mokymui. Šio modulio dydis yra nedidelis, tačiau jo energijos vartojimo efektyvumas ir našumas yra aukšti, todėl puikiai tinka vienu metu paleisti kelis lygiagrečius neuroninius tinklus, dirbtinio intelekto darbo krūvius ir apdoroti duomenis iš didelės raiškos jutiklių. Taigi Jetson Nano modulis yra labai populiarus krašto įrenginys, naudojamas įterptiesiems AI produktams ir sprendimams gaminti.

Šis modulis puikiai tinka dirbtiniu intelektu pagrįstoms kompiuterinės regos programoms ir atlieka AI vizijos užduotis, tokias kaip objektų aptikimas, vaizdų segmentavimas, vaizdų klasifikavimas ir kt. Šis modulis yra labai suderinamas su atvirojo kodo kompiuterinės vizijos programine įranga ir OpenCV mašininio mokymosi bibliotekomis.

NVIDIA Jetson TX2 serija

NVIDIA Jetson TX2 serijos modulis sukurtas kreditinės kortelės dydžio. Šio modulio funkcijos daugiausia apima NVIDIA Pascal GPU, iki 8 GB atminties, 59,7 GB/s atminties pralaidumą ir standartines aparatinės įrangos sąsajas. Šis modulis veikia iki 2,5 karto, palyginti su NVIDIA Jetson Nano moduliu.

Šis modulis labai efektyviai valdo giluminius neuroninius tinklus kraštiniuose įrenginiuose, kad būtų pasiektas didesnis tikslumas. Moduliai, kuriuos galima įsigyti šioje serijoje, daugiausia apima Jetson TX2 4GB, Jetson TX2i, Jetson TX2 ir Jetson TX2 NX. NVIDIA Jetson TX2 NX modulis tiesiog dalijasi kaiščiu ir formos koeficientu per Jetson Xavier NX ir Jetson Nano.

Likę trys moduliai turės originalų Jetson TX2 modulio formos koeficientą. TX2 serija tiesiog naudojama įvairiose pramonės šakose, pvz., žemės ūkyje, gamyboje, gyvosios gamtos moksluose, mažmeninėje prekyboje ir kt. Jetson TX2i modulis iš likusių modulių labiausiai tinka didelio našumo AI įrenginiams, pvz., medicinos įrangai, mašininio vaizdo kameroms ir pramoniniams robotams, nes savo tvirtu dizainu.

Šis modulis yra labai greitas integruotas dirbtinio intelekto skaičiavimo prietaisas, siūlantis didelį energijos vartojimo efektyvumą, pvz., 7,5 W, superkompiuterio galimybes, daugiausia skirtas kraštiniams AI įrenginiams, taip pat įvairias aparatinės įrangos sąsajas, kurias galima lengvai įtraukti į skirtingus produktus ir formos veiksnius.

NVIDIA Jetson Xavier NX

NVIDIA Jetson Xavier NX modulis yra labai mažas, palyginti su kreditine kortele, pasižyminčia dideliu našumu ir energijos vartojimo efektyvumu. Tai taip pat žinomas kaip mažiausias AI superkompiuteris, skirtas kraštinėms ir įterptoms sistemoms pasaulyje. Šis modulis ypač padeda paleisti visas AI sistemas.

„Jetson Xavier NX“ funkcijos taip pat palaiko debesies technologijas, todėl kūrėjams lengva atnaujinti ir valdyti AI produktus. Šis modulis palaiko visus populiarius AI modelius ir sistemas. Taigi šis modulis visiškai tinka didelio našumo AI sistemoms, tokioms kaip išmaniosios kameros, dirbtinio intelekto varomos didelės raiškos regėjimo sistemos, dronai, komerciniai robotai ar medicinos įranga.

NVIDIA Jetson Xavier NX modulis užtikrina 21 tera operaciją per sekundę arba TOPS, kad būtų galima atlikti esamą AI darbo krūvį, sunaudodamas 10 W energijos. Šio modulio formos koeficientas yra kompaktiškesnis, palyginti su kredito kortele. Xavier NX modulis vienu metu valdo įvairius neuroninius tinklus ir apdoroja duomenis iš skirtingų didelės raiškos jutiklių. Šio tipo modulis naudojamas kuriant programas įterptiesiems ir krašto skaičiavimo įrenginiams, kuriems reikalingas didelis našumas, nors ir didelių svorio, dydžio ir galios apribojimų.

NVIDIA Jetson AGX Xavier serija

NVIDIA Jetson AGX Xavier serijos modulis daugiausia sukurtas naujos kartos autonominėms išmaniosioms mašinoms. Šis modulis užtikrina iki 32 TOPS arba tera operacijų per sekundę AI našumo, kai naudojamas tik 10 vatų. Programinės įrangos kūrėjui tiesiog leidžiama greitai sutvarkyti neuroninius tinklus naudojant NVIDIA AI programinės įrangos įrankių rinkinį.

Šiame modulyje pateikiamos įvairios specifikacijos ir funkcinės saugos galimybės, kad kūrėjai galėtų kurti saugos arba pramoninius sertifikuotus produktus. Dėl didelio šio modulio našumo jie gali būti tinkami daugeliui autonominių mašinų, tokių kaip logistikos ir pramoniniai robotai, gamyklos sistemos ir dideli dronai.

Jetson Xavier NX kūrėjų rinkinys

„Jetson xavier nx“ kūrėjo rinkinyje yra tvirtas energiją taupantis „Xavier NX“ modulis, naudojamas DI maitinamiems krašto įrenginiams. Šis modulis turi tam tikrų funkcijų, pvz., debesies palaikymą ir pagreitina NVIDIA programinės įrangos krūvą tik 10 W, o našumas yra 10 kartų didesnis nei Jetson TX2. Šį kūrėjų rinkinį naudoja išmaniųjų mašinų gamintojai, DI startuoliai ir programų kūrėjai, kad sukurtų modernius produktus su kompaktiška, labai tikslia AI išvada ir energiją taupančia formos faktoriumi.

Jetson AGX Xavier Industrial

Jetson AGX Xavier Industrial modulis yra AGX Xavier serijos dalis. Šio modulio dizainas yra su kaiščiu suderinamas formos faktorius, valdantis naujausius AI modelius sudėtingose ​​​​programose. Šis modulis suteikia išplėstines vibracijos, smūgio, temperatūros specifikacijas, pažangias saugos funkcijas, iki 4 kartų daugiau atminties ir 20 kartų didesnį našumą nei TX2i modulis.

Šis modulis labai naudingas dizaineriams kuriant automatiką, robotiką ir kitus išmaniuosius produktus. Be to, ji taip pat kuria saugos sertifikatus turinčius ir tvirtus gaminius, užtikrinančius aukštą našumą pramoninėms, DI įterptoms funkcinėms ir saugos programoms, tvirtos ir efektyvios energijos formos.

Privalumai

The NVIDIA Jetson pranašumai įtraukti toliau nurodytus dalykus.

• NVIDIA Jetson tinka studentams, individualiems kūrėjams ir įvairioms organizacijoms.
• „Jetson“ platforma yra labai populiari, nes ji turi įvairių privalumų, tokių kaip modulinis lankstumas, vieninga programinė įranga ir debesų technologijų palaikymas.
• Šioje plokštėje yra modulių rinkinys, kuris yra labai naudingas viskam – nuo ​​pagrindinių AI programų iki labai sudėtingų AI maitinamų įrenginių.
• Ši plokštė yra varoma naudojant vieningą programinės įrangos architektūrą, kuri padeda kūrėjams nuo pasikartojančio kodavimo. Kai jiems reikia AI / ML pajėgumų, jie gali įtraukti susijusį Jetson modulį į įrenginį ir jis pasirūpins sunkių daiktų kėlimu.
• NVIDIA Jetson platforma tiesiog palaiko debesies technologijas ir darbo eigas, tokias kaip orkestravimas ir konteinerių sudarymas, todėl kūrėjai gali greitai kurti ir plėsti dirbtinio intelekto produktus.
• NVIDIA JetPack SDK galimas su Linux OS, API ir CUDA-X spartinimo bibliotekomis, skirtomis įvairioms mašininio mokymosi sritims, tokioms kaip kompiuterio vizija ir gilusis mokymasis. Ji taip pat palaiko mašininio mokymosi sistemas, tokias kaip Caffe ir Keras, TensorFlow ir OpenCV kompiuterinės vizijos bibliotekos.

Trūkumai

Jis turi labai nedaug trūkumų, atsižvelgiant į kainą

• NVIDIA Jetson nano modulis nepasiekiamas su „Wi-Fi“ viduje.
• NVIDIA Jetson nano modulyje yra tik du PWM kaiščiai ant plokštės.

Programos

NVIDIA Jetson programos apima šias programas.

• NVIDIA Jetson modulis siūlo puikias įterpimo sistemas, kurios naudojamos įvairiems scenarijams dirbtinio intelekto produktams gaminti. Tai energiją taupantis modulis, naudojamas dirbtiniam intelektui, kuris apima didelio našumo, modulinius ir mažo formato kraštinius kompiuterius.
• „Nvidia Jetson“ plokštės daugiausia skirtos naudoti įterptosiose sistemose, tokiose kaip dronai, robotai ir kiti įrenginiai, kuriems reikalingas galingas apdorojimas nedideliu formatu. Įprastos Jetson plokščių programos apima medicinos prietaisus, autonomines transporto priemones, skaitmeninius ženklus, AR / VR ausines, išmaniojo miesto programas ir kt.
• Šis modulis palaiko suvienodintas programinės įrangos architektūras, kad programinės įrangos kūrėjų darbas būtų labai paprastas.
  NVIDIA Jetson moduliai ir įrenginiai yra optimizuoti kraštiniai įrenginiai, naudojami kuriant Edge AI sistemas.
• NVIDIA Jetson Nano Developer Kit yra labai galingas ir mažas kompiuteris, kuriame lygiagrečiai veikia keli neuroniniai tinklai įvairioms programoms, tokioms kaip objektų aptikimas, vaizdų klasifikavimas, kalbos apdorojimas ir segmentavimas.
• NVIDIA Jetson Nano modulis puikiai tinka dirbtinio intelekto pagrindu sukurtoms kompiuterinės regos programoms ir atlieka AI vizijos užduotis, tokias kaip vaizdo segmentavimas, vaizdų klasifikavimas, objektų aptikimas ir kt.
• NVIDIA Jetson nano moduliai suteikia neįtikėtinų naujų galimybių tūkstančiams energiją taupančių ir mažų AI sistemų.
• NVIDIA Jetson Nano modulis yra suderinamas su OpenCV mašininio mokymosi bibliotekomis ir atvirojo kodo kompiuterinės vizijos programine įranga.

Q). Koks yra Jetson modulių energijos suvartojimas?

A). Jetson modulio energijos suvartojimas skiriasi priklausomai nuo modelio ir naudojimo. Pavyzdžiui, Jetson Xavier modulio energijos suvartojimas yra nuo 15 W iki 30 W, o Jetson TX2 gali sunaudoti nuo 7 W iki 15 W.

Q). Ar Jetson gali būti naudojamas objektų aptikimui ir stebėjimui realiuoju laiku?

A). Taip, „Jetson Platforms“ gali aptikti ir sekti regėjimą. Nano modulis yra didelio našumo GPU su krašto skaičiavimo platforma gali būti daugiausia naudojama aptikimui, skaičiavimui ir stebėjimui.

Q). Su kokio tipo jutikliais gali susieti Jetson?

A). Regėjimo jutikliai naudojami siejant Jetson su įvairiomis kamerų sąsajomis, tokiomis kaip USB, MIPI CSI ir Ethernet. Jie taip pat gali susieti su lidar, ultragarso jutikliu ir kitais tipais, taip pat naudodami įvairių tipų sąsajas, tokias kaip I2C, SPI ir kt.

Q). Kuo skiriasi Jetson ir Raspberry Pi?

A). Pagrindinis skirtumas tarp šių dviejų lentų yra: „NVIDIA Jetson“ buvo sukurta siekiant atlikti daug sudėtingų dirbtinio intelekto ir kompiuterinio matymo užduočių, o „Raspberry Pi 4“ plokštė turi mažai energijos naudojantį daugialypės terpės GPU, naudojamą bendrosios paskirties kompiuteriams ir švietimui. „Jetson“ gali būti naudojamas pažangesnėms funkcijoms, tokioms kaip aparatinės įrangos pagreitintas vaizdo dekodavimas ir kodavimas, naudojant galingą GPU (grafinio apdorojimo bloką) ir procesorių (centrinį apdorojimo įrenginį).

Q). Ar „Jetson“ gali būti naudojamas autonominėms robotikos programoms?

A). Autonominė ateities robotika ir pramonė bus valdoma per NVIDIA Jetson, skirtą pažangiosioms mašinoms ir robotams.

Taigi, tai yra NVIDIA Jetson apžvalga – privalumai ir jų pritaikymas. Šis modulis yra pirmaujanti platforma visame pasaulyje, kurią kūrėjai naudoja kurdami pažangius AI produktus visose pramonės šakose. Šiuos modulius taip pat naudoja studentai ir entuziastai, norėdami įgyti praktinės dirbtinio intelekto mokymosi ir kurti nuostabius projektus. „Jetson“ platformą daugiausia sudaro energiją taupantys maži kūrėjų rinkiniai ir gamybos moduliai. Štai jums klausimas, kas yra NVIDIA?