Print

Pokroky v edge AI jsou mnohem důležitější než to, co přijde s 5G

-- 24.06.2019

Když jsem v roce 2016 navštívil CeBIT konferenci v Hannoveru, byla plná takzvaných chytrých věcí, které mi ale zas až tak chytré nepřišly. Na trendu chytrých věcí se přiživilo mnoho přístrojů, jež byly v podstatě jen připojeny k internetu. Ve většině případů poskytovaly díky své konektivitě nějaký dodatečný, často přímo konkrétně definovaný přínos pro uživatele. 

Několik příkladů si stále pamatuji:

  • potrubní ventil, který umožnil monitorovat svou polohu na dálku (otevřeno/zavřeno);
  • zařízení pro měření průtoku benzínu, jež je tajně instalováno do palivové nádrže a může tak identifikovat krádeže paliva řidiči;
  • elektrická zásuvka, která může být zapínána a vypínána přes wi-fi.

Na veletrhu CeBIT mě však nejvíce zaujala prezentace vývojové laboratoře IBM, která ovlivnila můj pohled na to, jak by mohla být umělá inteligence distribuována. IBM na konferenci představila projekt Synapse – vývoj AI čipu True North, který přinesl výpočetní výkon odpovídající mozku mravence při spotřebě pouhých 73 mW energie. Jediná zřejmá nevýhoda byla, že procesor v té době stál asi 1 milion dolarů.

Tento příklad však ukázal, že bude možný běh algoritmů umělé inteligence na koncových zařízeních (tzv. edge computing). Bylo také zřejmé, že během několika let se díky Moorovu zákonu sníží cena a výpočetní výkon bude dostupnější. Otázkou bylo, jak rychle to bude a kolik dalších podobných řešení se objeví na trhu. Již v té době se Neuron soundware vážně zabýval takovouto strategií. A zahájil vývoj svého IoT řešení optimalizovaného pro běh AI, tedy že by algoritmy pro audio monitoring strojů fungovaly přímo na koncových IoT zařízeních.

Vize budoucnosti edge computingu 

O několik měsíců později jsem vytvořil graf, který ukazuje vztah mezi spotřebou energie a inteligencí v závislosti na výpočetním výkonu, jaký IoT HW zařízení poskytuje.

  • V roce 2016 nebylo možné s několika mW dosáhnout za rozumnou cenu prakticky žádné inteligence.
  • Chytré telefony konzumují několik wattů a poskytují dostatečný výpočetní výkon např. pro základní AI rozpoznávající objekty ze snímků během sekundy.
  • AI vyvinutá pro jasně daný účel, jako je např. schopnost řídit auto, bude potřebovat HW s desítkami či několika stovkami wattů spotřeby elektrické energie. Například analýza vstupů z kamer, cca desetkrát za sekundu, vyžaduje výkon asi 4 TFLOPS (4 triliony floating point operations per second, jedná se o míru výkonu počítače).

Takže přeloženo do toho, co děláme v Neuron soundware: Můžeme použít stejný výpočetní výkon buď k řízení auta, anebo k analýze zvuku stroje s cílem odhalit blížící se mechanickou poruchu. Obojí vyžaduje podobný výpočetní výkon odpovídající mozku mravence. A v IBM mi umožnili vidět tuto sílu v rámci jednoho ultra nízkoenergeticky náročného čipu.

Rozvoj edge computingu 

Oblast edge computingu byla od té doby na vzestupu. Stojí za to představit několik projektů čipů specializovaných na hardwarovou akceleraci umělé inteligence.

V roce 2017 představil Movidius Neural Compute Stick. Uměl za méně než 100 dolarů dodat 0,1 TFLOPS při spotřebě 0,5 W. Je navržen tak, aby vylepšil výkon menších výpočetních desek, jako jsou Raspberry Pi. Zajistí cca desetinásobné zvýšení výpočetního výkonu.

V roce 2018 představil Huawei procesor Kirin 980 s 0,1 W a téměř 0,5 TFLOPS. Také ostatní dodavatelé nezůstali pozadu. Google oznámil existenci své jednotky Edge TPU a Rockchip předvedl čip RK3399 vybavený jednotkou pro zpracování neuronových sítí. Oba poskytují výkon cca 3 TFLOPS za cenu kolem 100 dolarů.

V roce 2019 se specifické mikropočítače s hardwarovými akcelerátory AI technologií (konkrétně neuronových sítí) stávají obecně dostupnými pro použití v komerčních projektech. Všichni klíčoví HW hráči vydali rozhraní optimalizované verze softwarového rozhraní AI, což dále zvyšuje výkonnost. Obecně dostupné AI desky jsou například Edge TPU od Googlu, jež má účelový ASIC čip pro AI. Nvidia Jetson Nano přináší 128 CUDA jader za méně než 100 dolarů. Toy Brick RK3399 Pro je jednou z prvních vývojových desek majících specializovanou jednotku pro zpracování neuronových sítí (NPU) a výkonem mírně předčí i Nvidia Jetson.

Takto rychlý pokrok IoT technologie nám v Neuron soundware dovoluje vyvíjet nBox – specializované zařízení pro nahrávání a zpracování zvuku, které je schopno nejen nahrávat vysoce kvalitní zvuk pomocí až 12 kanálů, ale také lokálně data vyhodnotit AI algoritmy. Díky edge computingu tedy typicky provozujeme jen část spuštěných procesů v cloudu (centrální platformě) a většinu dat zpracujeme AI běžícím v koncovém zařízení.

Význam edge computingu potvrzuje např. společnost Intel svou akvizicí Movidia za odhadovaných 400 milionů dolarů a především pak Mobileye, výrobce čipů pro autonomní vozidla, za více než 15 miliard dolarů. Nadšeně jsem sledoval i on-line prezentaci Tesla Motors představující jejich specializovaný AI počítač s 36 TFLOPS, který je vyvíjen pro jejich samořiditelné automobily. Umožňuje zpracování více než 2000 obrázků s vysokým rozlišením kamer za sekundu a Tesla je přesvědčena, že je to dostatečný výkon pro kompletní autonomii.

Osobně vnímám čtyři klíčové výhody edge computingu:

  1. bezpečnost: všechna zpracovaná data mohou být uložena lokálně a zabezpečena dle potřeby;
  2. rychlost: AI může zpracovávat data v milisekundách, což znamená minimální latenci;
  3. účinnost: výkonné mikropočítače s nízkou spotřebou energie jsou dostupné za přijatelné ceny;
  4. off-line: AI algoritmus může být provozován i v oblastech, kde je omezené připojení k internetu.

Výhody edge computingu oproti 5G

Ptáte se, proč vyvíjet tolik úsilí a používat specializovaný IoT HW? Proč raději nepočkat na sítě 5G a nevyužít v současnosti již velmi rozvinutou infrastrukturu cloudu? Zde je několik důvodů, proč takové „čekání“ nemusí být tou nejlepší IoT strategií.

  • Představte si, že sedíte v samořiditelném automobilu a ten najednou ztratí spojení 5G. Vůz nejen oslepne, ale doslova ztratí svůj mozek i rozhodovací schopnost. Proč riskovat, když výpočetní schopnosti potřebné pro vysokorychlostní komunikaci s nízkou latencí mohou být prakticky za stejnou cenu jako dodatečná neuron processingová jednotka. Navíc celková spotřeba energie by byla při použití speciálního AI hardwaru nižší.
  • Mobilní poskytovatelé internetových sítí chtějí zajistit návratnost investic do rozvoje a využívání sítě 5G. Přestože neomezené datové plány by technicky mohly být možné, nemusejí být v dohledné době komerčně dostupné. Například náš nBox s 12 akustickými senzory může produkovat až 1 TB audio dat měsíčně. Se současnou cenou za přenos GB dat v LTE by přenos takového množství dat do cloudu ekonomicky nedával smysl.
  • A konečně pokrytí sítí 5G bude dostupné především ve městech, přičemž velká část území bude bez 5G. Edge IoT zařízení mohou být nasazena ihned, na jakýchkoli místech a s jasnými vstupními i provozními náklady, které obvykle výrazně nezvýší celkové výdaje v řešeních internetu věcí.

AI edge computing umožní zpracovávat obrovské množství dat v místě nebo v blízkosti jejich vzniku. Dodatečné náklady na hardwarové akcelerátory jsou již nyní marginální. Výpočetní výkon pro neuronové sítě stoupá desetinásobně každý rok. Trend se nezpomaluje, protože údaje mohou být zpracovávány i paralelně, tudíž jsou schopny překonat tradiční design procesorů.

Budoucnost na obzoru

Využití edge computingu v aplikacích, jako jsou samořiditelná auta, rozpoznání obličeje nebo prediktivní údržba, je jen začátek. Brzy budeme mít dostatek výpočetního výkonu na vybudování skutečně autonomně pracujících strojů. Ty budou postupně schopné bezpečně se pohybovat ve městech, v továrnách a stanou se téměř stejně kompetentní v pracovních schopnostech jako člověk. Je až neuvěřitelné, že někdo představil tuto vizi skoro před sto lety. V roce 2020 to bude 100 let, kdy vzniklo slovo ROBOT, které bylo představeno v dramatu R.U.R. Karla Čapka. Jeho vize humanoidních robotů se rychle rozšířila po celém světě. V této divadelní hře se robot stal uvědomělým a získal emoce, jako je například láska. S ohledem na to, jak rychle roste výkon počítačů i další vylepšení internetu věcí, mám dojem, že se Čapkova vize může stát realitou mnohem dříve, než si myslíme.

Autor: Pavel Konečný, CEO of Neuron soundware


Sponzorované odkazy

 
Aktuální vydání
Reklama

Navštivte rovněž

  •   Události  
  •   Katalog  

Události

Moderní technologie ve farmacii
2019-09-24 - 2019-09-24
Místo: Brno
Factory Tour 2019
2019-09-24 - 2019-09-26
Místo: ČR, SK
Moderní technologie v potravinářství
2019-09-25 - 2019-09-25
Místo: Brno
Konference DOCURIDE 2019 „Nejlepší mix pro Váš úspěch"
2019-10-03 - 2019-10-03
Místo: Hotel Park Holiday, Praha
Mezinárodní strojírenský veletrh 2019
2019-10-07 - 2019-10-11
Místo: Výstaviště Brno

Katalog

Panasonic Electric Works Europe AG
Panasonic Electric Works Europe AG
Veveří 3163/111
616 00 Brno
tel. +420 541 217 001

Brady s.r.o
Brady s.r.o
Na Pantoch 18
831 06 Bratislava
tel. +421 2 3300 4862

Schneider Electric CZ, s. r. o.
Schneider Electric CZ, s. r. o.
U Trezorky 921/2
158 00 Praha 5
tel. 00420737266673

ABB s.r.o.
ABB s.r.o.
Vyskočilova 1561/4a
14000 Praha 4
tel. +420739552216

všechny firmy
Reklama



Tematické newslettery






Anketa


Na horách/u moře
Na chalupě/chatě v tuzemsku
Co je to dovolená?

O nás   |   Reklama   |   Mapa stránek   |   Kontakt   |   Užitečné odkazy   |   Bezplatné zasílání   |   RSS   |   Partneři   |   Blogy   |   
Copyright © 2007-2019 Trade Media International s. r. o.
Navštivte naše další stránky
Trade Media International s. r. o. Trade Media International s. r. o. - Remote Marketing Továrna - vše o průmyslu Control Engineering Česko Řízení a údržba průmyslového podniku Inteligentní budovy Almanach produkce – katalog firem a produktů pro průmysl Konference TMI