Mikä on TensorFlow Lite ja miten se on syvä oppimiskehys?

Olet ehkä törmännyt TensorFlow Lite -ohjelmaan käydessäsi Edgen tekoälykehityslevyjä tai tekoälyn kiihdytysprojekteja.

TensorFlow Lite on ohjelmistopakettien kehys, joka mahdollistaa ML-koulutuksen paikallisesti laitteistolla. Tämän laitteella tapahtuvan käsittelyn ja laskennan avulla kehittäjät voivat käyttää mallejaan kohdennetulla laitteistolla. Laitteisto sisältää kehityskortit, laitteistomoduulit, sulautetut ja IoT-laitteet.

TensorFlow Lite -kehyksen yleiskatsaus

TensorFlow on suosittu syväoppimisen termi, koska monet ML-kehittäjät käyttävät tätä kehystä erilaisiin käyttötapauksiin. Se tarjoaa helpon toteutuksen koneoppimismallit ja päätelmät tekoälysovelluksista.

Mutta TensorFlow Lite on syvä oppimiskehys paikalliseen päättelyyn, erityisesti matalan laskennallisen laitteiston osalta. Se mahdollistaa koneen oppimisen laitteella auttamalla kehittäjiä malliensa käyttämisessä yhteensopivilla laitteistoilla ja IoT-laitteilla.

Kehittäjän on valittava sopiva malli käyttötapauksesta riippuen. Kehys antaa myös mahdollisuuden kouluttaa nykyinen malli uudelleen myös mukautetussa tietojoukossa. Koska TensorFlow'n protokollapuskurimalli on kooltaan suuri ja vaatii edistyksellistä laskentatehoa, se mahdollistaa TensorFlow-mallin muuntamisen TensorFlow Lite -malliksi.

Parametrien optimoinnin ja kvantisoinnin mukauttaminen mahdollistaa mallin koon ja viiveen pienentämisen.

TensorFlow Liten viive- ja kokoetujen lisäksi kehys tarjoaa tietoturvan, kun koulutus tapahtuu paikallisesti laitteella. Lisäksi Internet-yhteyttä ei tarvita. Siten sovellusten käyttöönotto ei ole rajoitettu tietyille alueille, joilla on yhteys.

Nämä tekijät lopulta vähentävät laitteen virrankulutusta poistamalla yhteyskertoimen ja lisäämällä syvällisen oppimispäätelmän tehokkuutta.

TensorFlow Lite -kehyksen mallit ovat alustojen välisessä muodossa, joka tunnetaan nimellä FlatBuffers. Se on sarjakirjasto, joka tallentaa hierarkkiset tiedot litteään binääriseen puskuriin siten, että suora pääsy on mahdollista ilman pakkauksen purkamista. Voit myös tarkkailla TensorFlow Lite -mallien .tflite-laajennusta. Tämä esitystekniikka mahdollistaa optimoinnin laskennassa ja vähentää muistivaatimuksia. Näin ollen se on paljon parempi kuin TensorFlow-mallit

TinyML on TensorFlow Lite Micro

Koska TensorFlow Lite on yhteensopiva eri alustojen kanssa Edge AI -sovelluksissa, kirjaston lähentämisen tarve oli tarpeen. Siksi organisaatio keksi TensorFlow Lite -alaryhmäkirjaston, joka tunnetaan nimellä TensorFlow Lite Micro. TensorFlow Lite Micro käyttää paikallisia mikro-ohjainten koneoppimismalleja, joiden muistin vähimmäisvaatimus on noin muutama kilotavu.

Menettelyn ydinaika integroituu 16KB: een Arm Cortex M3: lla ja voi toimia eri malleissa. Kehys ei vaadi käyttöjärjestelmän lisätukea tai muita korkean tason kielikirjastoja riippuvuuksina päättelyn suorittamiseen laitteessa.

TensorFlow Lite Micro -kehityksen juuret ovat C ++ 11, joka vaatii 32-bittisen arkkitehtuurin yhteensopivuuden takaamiseksi. Arkkitehtuurista puhuen kirjasto toimii hyvin vankalla prosessorivalikoimalla, joka perustuu Arm Cortex-M -sarjan arkkitehtuuriin muihin suunnitteluarkkitehtuurit, kuten ESP32.

Työnkulku TensorFlow Lite -mikrokäyttökoteloissa

Neuroverkon koulutusprosessi vaatii suurta laskennallista laitteistoa. Siksi sitä koulutetaan kenraalille TensorFlow-malli. Koulutusta vaaditaan kuitenkin vain, jos mukautettu tietojoukko sopii syvälle oppimiseen, kun taas sovelluksessa voidaan käyttää myös valmiiksi koulutettuja malleja kehyksessä.

Olettaen mukautetun käyttötapauksen sovelluskohtaisen tietojoukon kanssa, käyttäjä kouluttaa mallia yleiseen TensorFlow-kehykseen, jolla on korkea prosessointikapasiteetti ja arkkitehtuuri. Kun koulutus on ohi, mallin arviointi testaustekniikoilla varmistaa mallin tarkkuuden ja luotettavuuden. Lisäksi prosessia seurataan muuntamalla TensorFlow-malli laitteistoon yhteensopivaksi TensorFlow Lite -malliksi .tflite-muodossa.

.Tflite-muoto on tasainen puskuritiedosto, joka on yhteinen TensorFlow Lite -kehykselle ja yhteensopivalle laitteistolle. Mallia voidaan edelleen käyttää päättelykoulutukseen mallista vastaanotetuista reaaliaikaisista tiedoista. Päätöskoulutus optimoi mallit vankkoihin käyttötapauksiin. Siksi mahdollisuus päättelykoulutukseen on ratkaisevan tärkeä reunalle Tekoälyn sovellukset.

Suurin osa mikrokontrollerin laiteohjelmistosta ei tue alkuperäistä tiedostojärjestelmää TensorFlow Lite -mallin tasaisen puskurimuodon upottamiseksi suoraan. Siksi .tflite-tiedoston muuntaminen on välttämätöntä mikro-ohjaimien kanssa yhteensopivaksi matriisirakenteen muodoksi.

Ohjelman sisällyttäminen C-ryhmään ja sen jälkeen normaali kääntäminen on helppo tekniikka tällaiselle muunnokselle. Tuloksena oleva muoto toimii lähdetiedostona ja koostuu mikro-ohjainten kanssa yhteensopivasta merkistöstä.

TensorFlow Lite Micro -laitetta tukevat laitteet

TensorFlow Lite sopii tehokkaille laitteille, mutta sen mukana tulee prosessorin suuremman työmäärän haittapuoli. Vaikka TensorFlow Lite Microssa on pienikokoisia tiedostoja, jotka ovat taipuvaisia ​​aliasennuksiin, optimoidaan sopii muistiin voi parantaa merkittävästi pienitehoisten ja vähän prosessointilaitteiden, kuten mikro-ohjaimet.

Tässä on luettelo virallisista TensorFlow-ohjeista, jotka tukevat TensorFlow Lite Microa:

• Arduino Nano 33 BLE Sense
• SparkFun Edge
• STM32F746 Discovery -sarja
• Adafruit EdgeBadge
• Adafruit TensorFlow Lite for Microcontrollers Kit
• Adafruit Circuit Playground Bluefruit
• Espressif ESP32-DevKitC
• Espressitä ESP-EYE
• Wio-pääte: ATSAMD51
• Himax WE-I Plus EVB Endpoint AI -kehityslauta

TensorFlow Lite Micro on saatavana myös Arduino-kirjastona laajennettuun tukeen mikrokontrollereille. Se voi myös rakentaa projekteja Mbedin kaltaisille laitteistokehitysympäristöille.

TensorFlow Lite tarjoaa paljon

TensorFlow Lite syväoppimiskehys avaa mahdollisuuksia useille huipputeknisille sovelluksille. Koska kehys on avoimen lähdekoodin tekoälyn harrastajille, yhteisön tuki tekee siitä vieläkin suositumman koneoppimisen käyttötapauksissa. TensorFlow Liten yleinen käyttöympäristö parantaa ympäristöä sulautettujen ja IoT-laitteiden reuna-sovellusten kasvulle

Lisäksi on olemassa useita esimerkkejä aloittelijoille auttamaan heitä käytännön käytäntötilanteissa kehyksessä. Jotkut näistä esimerkeistä sisältävät henkilötunnistuksen riippuen kehityskortin kuvakennon ja kaikkien kehityskorttien vakio-hello world -ohjelman keräämistä tiedoista. Esimerkit sisältävät myös sovelluksia, kuten eleiden havaitseminen ja puheentunnistus myös tietyille kehityskortille.

Lisätietoja TensorFlow Lite ja TensorFlow Lite Micro, voit käydä organisaation virallisella dokumentaatiosivulla. Puitteiden ymmärtämiseksi on paljon käsitteellisiä ja opetusjaksoja.

Aloita kuvan tunnistaminen TensorFlow- ja Raspberry Pi -ominaisuuksien avulla

Haluatko tarttua kuvan tunnistamiseen? Tensorflow ja Raspberry Pi ansiosta voit aloittaa heti.

Lue seuraava

Kirjailijasta