Co je TensorFlow Lite a jak se jedná o rámec hlubokého učení?

Možná jste narazili na TensorFlow Lite při procházení vývojových desek Edge AI nebo projektů akcelerace AI.

TensorFlow Lite je rámec softwarových balíčků, který umožňuje ML trénovat lokálně na hardwaru. Toto zpracování a výpočet na zařízení umožňuje vývojářům spouštět své modely na cíleném hardwaru. Hardware zahrnuje vývojové desky, hardwarové moduly, vestavěná zařízení a zařízení IoT.

Přehled rámce TensorFlow Lite

TensorFlow je populární termín v hlubokém učení, protože mnoho vývojářů ML používá tento rámec pro různé případy použití. Poskytuje snadnou implementaci modely strojového učení a závěry pro aplikace AI.

Ale TensorFlow Lite je rámec hlubokého učení pro místní odvození, konkrétně pro hardware s nízkým výpočtem. Umožňuje strojové učení na zařízení tím, že pomáhá vývojářům při spouštění jejich modelů na kompatibilním hardwaru a zařízeních IoT.

Vývojář musí vybrat vhodný model v závislosti na případu použití. Rámec také poskytuje možnost rekvalifikace stávajícího modelu také na vlastní datovou sadu. Protože model vyrovnávací paměti protokolu TensorFlow přichází s velkou velikostí a vyžaduje pokročilý výpočetní výkon, umožňuje konverzi modelu TensorFlow na model TensorFlow Lite.

Přizpůsobení optimalizačních a kvantizačních parametrů umožňuje zmenšení velikosti a latence modelu.

Kromě výhod latence a velikosti TensorFlow Lite poskytuje rámec zabezpečení dat, protože k tréninku dochází místně na zařízení. Navíc není potřeba připojení k internetu. Nasazení aplikací tedy není omezeno na konkrétní oblasti s připojením.

Tyto faktory v konečném důsledku snižují zátěž spotřeby energie na zařízení tím, že eliminují faktor připojení a zvyšují účinnost odvození hlubokého učení.

Modely rámce TensorFlow Lite existují ve formátu pro různé platformy známém jako FlatBuffers. Jedná se o knihovnu serializace, která ukládá hierarchická data do ploché binární vyrovnávací paměti, takže je možný přímý přístup bez rozbalení. Můžete také pozorovat příponu „.tflite“ pro modely TensorFlow Lite. Tato technika reprezentace umožňuje optimalizaci výpočtů a snižuje požadavky na paměť. Proto je mnohem lepší než modely TensorFlow

TinyML na TensorFlow Lite Micro

Jelikož je TensorFlow Lite kompatibilní s různými platformami pro aplikace Edge AI, byla nutná další konvergence knihovny. Organizace proto přišla s knihovnou podmnožin TensorFlow Lite, známou jako TensorFlow Lite Micro. TensorFlow Lite Micro konkrétně spouští modely strojového učení na mikrokontrolérech lokálně s minimálními nároky na paměť kolem několika kilobajtů.

Základní běh procedury se integruje s 16 kB na Arm Cortex M3 a může pracovat na různých modelech. Rámec nevyžaduje další podporu OS ani jiné knihovny na vysoké úrovni jako závislosti pro spuštění odvození na zařízení.

Vývoj kořenů TensorFlow Lite Micro na C ++ 11, který pro kompatibilitu vyžaduje 32bitovou architekturu. Když už mluvíme více o architekturách, knihovna funguje dobře na robustní řadě procesorů založených na architektuře řady Arm Cortex-M do jiných designové architektury jako ESP32.

Pracovní postup pro případy použití Micro TensorFlow Lite

Výcvikový proces neuronové sítě vyžaduje vysoký výpočetní hardware. Je tedy trénován obecně Model TensorFlow. Výcvik je však vyžadován pouze v případě, že vlastní datová sada zapadá do modelu hlubokého učení, zatímco pro aplikace lze také použít předem vyškolené modely v rámci.

Za předpokladu vlastního případu použití s ​​datovou sadou specifickou pro aplikaci uživatel trénuje model na obecném rámci TensorFlow s vysokou kapacitou zpracování a architekturou. Jakmile školení skončí, ověření modelu pomocí testovacích technik ověří přesnost a spolehlivost modelu. Na proces dále navazuje převod modelu TensorFlow na hardwarově kompatibilní model TensorFlow Lite ve formátu .tflite.

Formát .tflite je plochý soubor vyrovnávací paměti společný pro rámec TensorFlow Lite a kompatibilní hardware. Model lze dále použít pro inferenční trénink na datech v reálném čase přijatých na modelu. Inferenční trénink optimalizoval modely pro robustní případy použití. Proto je pro náskok rozhodující možnost inferenčního tréninku Aplikace AI.

Většina firmwaru mikrokontroléru nepodporuje nativní souborový systém pro přímé vkládání formátu ploché vyrovnávací paměti modelu TensorFlow Lite. Proto je nutný převod souboru .tflite do formátu struktury pole, který je kompatibilní s mikrokontroléry.

Zahrnutí programu do pole C následovaného normální kompilací je snadnou technikou pro takový převod. Výsledný formát funguje jako zdrojový soubor a skládá se z pole znaků kompatibilního s mikrokontroléry.

Zařízení podporující TensorFlow Lite Micro

TensorFlow Lite je vhodný pro výkonná zařízení, ale přichází s nevýhodou většího pracovního zatížení procesoru. Ačkoli má TensorFlow Lite Micro soubory malé velikosti náchylné k nedostatečnému vybavení, optimalizuje velikost souboru zapadá do paměti může výrazně zlepšit výstup pro hardware s nízkým výkonem a nízkým zpracováním, jako je mikrokontroléry.

Zde je seznam vývojových desek z oficiální dokumentace TensorFlow, která podporuje TensorFlow Lite Micro:

• Arduino Nano 33 BLE Sense
• SparkFun Edge
• Sada STM32F746 Discovery
• Adafruit EdgeBadge
• Sada Adafruit TensorFlow Lite pro mikrokontroléry
• Adafruit Circuit Playground Bluefruit
• Espressif ESP32-DevKitC
• Espressif ESP-OČI
• Wio terminál: ATSAMD51
• Himax WE-I Plus EVB Endpoint AI Development Board

TensorFlow Lite Micro je k dispozici také jako knihovna Arduino pro rozšířenou podporu mikrokontrolérů. Může také vytvářet projekty pro vývojová prostředí hardwaru podobná Mbed.

TensorFlow Lite nabízí mnoho

Rámec hlubokého učení TensorFlow Lite otevírá možnosti řadě hraných aplikací AI. Jelikož je rámec otevřeným zdrojem pro nadšence AI, díky komunitní podpoře je pro případy použití strojového učení ještě populárnější. Celková platforma TensorFlow Lite vylepšuje prostředí pro růst okrajových aplikací pro vestavěná zařízení a zařízení IoT

Kromě toho existují různé příklady pro začátečníky, které jim mají pomoci s praktickými případy použití v rámci. Některé z těchto příkladů zahrnují detekci osob v závislosti na datech shromážděných obrazovým snímačem vývojové desky a standardní program hello world pro všechny vývojové desky. Mezi příklady patří také aplikace jako detekce gest a rozpoznávání řeči pro konkrétní vývojové desky.

Pro více informací o TensorFlow Lite a TensorFlow Lite Micro, můžete navštívit stránku s oficiální dokumentací organizace. Existuje mnoho koncepčních i výukových sekcí pro lepší pochopení rámce.

Začněte s rozpoznáváním obrázků pomocí TensorFlow a Raspberry Pi

Chcete se vyrovnat s rozpoznáváním obrazu? Díky Tensorflow a Raspberry Pi můžete začít hned.

Číst dále

O autorovi