Mis on TensorFlow Lite ja kuidas see on sügavõppe raamistik?

Võimalik, et olete Edge AI arendusplaatide või tehisintellekti kiirendusprojektide läbimise ajal kohanud TensorFlow Lite'i.

TensorFlow Lite on tarkvarapakettide raamistik, mis võimaldab ML-i kohapeal riistvaraliselt treenida. See seadmesisene töötlus ja arvutus võimaldavad arendajatel oma mudeleid käivitada sihitud riistvaral. Riistvara sisaldab arendusplaate, riistvaramooduleid, manustatud ja IoT-seadmeid.

TensorFlow Lite raamistiku ülevaade

TensorFlow on populaarne mõiste süvaõppes, kuna paljud ML-i arendajad kasutavad seda raamistikku mitmesugusteks juhtumiteks. See tagab rakendamise lihtsuse masinõppe mudelid ja järeldused tehisintellekti rakenduste kohta.

Kuid TensorFlow Lite on sügav järeldusõpe kohaliku järelduse jaoks, eriti madala arvutusliku riistvara jaoks. See võimaldab seadmes õppida masinat, aidates arendajatel oma mudeleid ühilduvas riistvara ja IoT-seadmetes käitada.

Arendajal tuleb valida sobiv mudel sõltuvalt kasutusjuhtumist. Raamistik annab ka võimaluse olemasolevat mudelit ümber koolitada ka kohandatud andmekogumis. Kuna TensorFlow'i protokollipuhvri mudel on suure suurusega ja nõuab kõrgemat arvutusvõimsust, võimaldab see TensorFlow mudeli teisendamist TensorFlow Lite mudeliks.

Parameetrite optimeerimise ja kvantifitseerimise kohandamine võimaldab vähendada mudeli suurust ja latentsust.

Lisaks TensorFlow Lite latentsuse ja suuruse eelistele tagab raamistik andmete turvalisuse, kuna koolitus toimub seadmes kohapeal. Lisaks pole vaja Interneti-ühendust. Seega ei ole rakenduste juurutamine piiratud konkreetsete ühenduvusega piirkondadega.

Need tegurid vähendavad lõppkokkuvõttes seadme energiatarbimise koormust, kõrvaldades ühenduvusteguri ja suurendades sügava õppimise järelduse efektiivsust.

TensorFlow Lite raamistiku mudelid eksisteerivad platvormidevahelises vormingus, mida nimetatakse FlatBuffersiks. See on jadistamisraamatukogu, mis salvestab hierarhilisi andmeid kindlasse binaarsesse puhvrisse, nii et otsene juurdepääs on võimalik lahti pakkimata. Samuti võite jälgida TensorFlow Lite mudelite laiendit .tflite. See esitusviis võimaldab arvutustes optimeerida ja vähendab mälunõudeid. Seega, muutes selle palju paremaks kui TensorFlow mudelid

TinyML teenuses TensorFlow Lite Micro

Kuna TensorFlow Lite ühildub erinevate Edge AI rakenduste platvormidega, oli vajalik teegi edasine koondamine. Seetõttu tuli organisatsioon välja TensorFlow Lite alamhulgaraamatukogu, mida tuntakse kui TensorFlow Lite Micro. TensorFlow Lite Micro töötab spetsiaalselt mikrokontrolleritel kohapeal masinõppe mudeleid, mille minimaalne mäluvajadus on umbes paar kilobaiti.

Protseduuri põhiaeg integreerub ArmKorex M3 16KB-ga ja võib töötada erinevate mudelitega. Raamistik ei vaja seadmes järelduse käitamiseks sõltuvust täiendavast OS-i toest ega muudest kõrgetasemelistest keelekogudest.

TensorFlow Lite Micro väljatöötamine juurub versioonile C ++ 11, mis vajab ühilduvuseks 32-bitist arhitektuuri. Arhitektuurist lähemalt rääkides töötab raamatukogu suurepäraselt paljude protsessorite puhul, mis põhinevad Arm Cortex-M seeria arhitektuuril disainiarhitektuurid nagu ESP32.

Töövoog TensorFlow Lite mikrokasutusjuhtumite jaoks

Närvivõrgu treeningprotsess nõuab suurt arvutuslikku riistvara. Seega on see koolitatud kindralile TensorFlow mudel. Koolitus on vajalik ainult siis, kui kohandatud andmekogum sobib sügava õppemudeliga, samas kui rakenduste jaoks saab kasutada ka raamistiku eelnevalt koolitatud mudeleid.

Eeldades, et rakenduspõhise andmekogumiga on kohandatud kasutusjuhtum, treenib kasutaja mudeli üldisel TensorFlow raamistikul, millel on kõrge töötlemisvõimsus ja arhitektuur. Kui koolitus on läbi, kontrollib mudeli hindamine testimistehnika abil mudeli täpsust ja usaldusväärsust. Lisaks sellele järgneb protsess TensorFlow mudeli teisendamine riistvaraga ühilduvaks TensorFlow Lite mudeliks .tflite vormingus.

.Tflite-vorming on TensorFlow Lite raamistikule ja ühilduvale riistvarale ühine puhverfail. Mudelit saab lisaks kasutada järelduste koolitamiseks mudeli kohta saadud reaalajas andmete kohta. Järelduskoolitus optimeeris mudeleid tugevate kasutusjuhtumite jaoks. Seega on järelduste väljaõppe võimalus ülitähtis Tehisintellekti rakendused.

Enamik mikrokontrolleri püsivara ei toeta natiivfailisüsteemi TensorFlow Lite mudeli kindla puhvervormingu otse kinnistamiseks. Seega on .tflite-faili teisendamine vajalik massiivistruktuuri vorminguks, mis ühildub mikrokontrolleritega.

Programmi lisamine massiivi C, millele järgneb tavaline kompileerimine, on sellise teisendamise jaoks lihtne tehnika. Saadud formaat toimib lähtefailina ja koosneb mikrokontrolleritega ühilduvast tähemassist.

TensorFlow Lite Micro toetavad seadmed

TensorFlow Lite sobib võimsatele seadmetele, kuid sellega kaasneb protsessori suurema töökoormuse puudus. Kuigi TensorFlow Lite Micro'l on väikese suurusega faile, mis on altid alatäpsusele, optimeerides sobib mällu, võib märkimisväärselt parandada väljundit väikese energiatarbega ja vähetöötleva riistvara jaoks, näiteks mikrokontrollerid.

Siin on TensorFlow Lite Microt toetava ametliku TensorFlow dokumentatsiooni arendusplaatide loend:

• Arduino Nano 33 BLE Sense
• SparkFun Edge
• STM32F746 Discovery komplekt
• Adafruit EdgeBadge
• Adafruit TensorFlow Lite mikrokontrollerite komplektile
• Adafruit Circuit mänguväljak Bluefruit
• Espressige ESP32-DevKitC
• Espresseerige ESP-EYE
• Wio terminal: ATSAMD51
• Himax WE-I Plus EVB Endpoint AI arendusnõukogu

TensorFlow Lite Micro on saadaval ka Arduino teegina mikrokontrollerite laiendatud toetamiseks. Samuti saab ehitada Mbediga sarnaseid riistvaraarenduskeskkondade projekte.

TensorFlow Lite pakub palju

TensorFlow Lite süvaõppe raamistik avab võimalused paljudele tehisintellekti rakendustele. Kuna raamistik on tehisintellekti harrastajate jaoks avatud lähtekoodiga, muudab kogukonna tugi selle masinõppe kasutamise juhtumite jaoks veelgi populaarsemaks. TensorFlow Lite üldine platvorm parandab keskkonda manustatud ja IoT-seadmete servarakenduste kasvu jaoks

Lisaks on algajatele mitmesuguseid näiteid, kuidas neid raamistikul praktiliste kasutamisjuhtumitega aidata. Mõned neist näidetest hõlmavad inimeste tuvastamist sõltuvalt arendusplaadi pildisensori ja kõigi arendusplaatide standardse tere maailma programmi kogutud andmetest. Näited hõlmavad ka rakendusi nagu žestide tuvastamine ja kõnetuvastus ka konkreetsetele arendusplaatidele.

Lisateavet TensorFlow Lite ja TensorFlow Lite Micro, võite külastada organisatsiooni ametlikku dokumentatsiooni lehte. Raamistiku paremaks mõistmiseks on palju kontseptuaalseid ja õpetusi.

Alustage pildituvastusega, kasutades TensorFlow ja Raspberry Pi

Kas soovite pildituvastusega tegeleda? Tänu Tensorflow'le ja Raspberry Pi-le saate kohe alustada.

Loe edasi

Autori kohta