Spis treści:
Künstliche Intelligenz, maschinelles Lernen, neuronale Netze oder große Sprachmodelle. Dies sind Konzepte, die sich immer häufiger durchsetzen. Dank des technologischen Fortschritts sind diese nicht mehr nur einigen wenigen Spezialisten vorbehalten, sondern für jedermann mit Internetzugang zugänglich.
Bis vor kurzem war eine erhebliche Rechenleistung erforderlich, um maschinelles Lernen – ein Schlüsselbereich der künstlichen Intelligenz – in Geräte zu integrieren. Die jüngsten Technologietrends und die Entwicklung von “No-Code”-Tools, mit denen Anwendungen ohne das Schreiben von Codes erstellt werden können, haben uns jedoch die TinyML-Technologie beschert. Sie revolutioniert den Ansatz des maschinellen Lernens auf dem Gerät, indem sie die Verarbeitung von Daten direkt vor Ort ermöglicht, ohne dass diese in die Cloud übertragen werden müssen.
Was ist TinyML und warum lohnt es sich, sich damit zu beschäftigen?
Was genau ist TinyML? Es ist die Abkürzung von “tiny machine learning” (winziges maschinelles Lernen), einem Bereich, der sich auf die Ausführung von maschinellen Lernmodellen auf Mikrocontrollern und Geräten des Internets der Dinge (IoT) konzentriert. Mit TinyML sind wir nun in der Lage, Daten zu verarbeiten und Entscheidungen lokal zu treffen, so dass keine Informationen, z. B. von Sensoren, an externe Server gesendet werden müssen.
Die in TinyML verwendeten Modelle sind in Bezug auf Größe und Leistung optimiert, so dass sie auch auf weniger leistungsfähigen Chips laufen können und dennoch ein zufriedenstellendes Maß an Genauigkeit bieten.
Mit der zunehmenden Anzahl von IoT-Geräten und der wachsenden Bedeutung des Datenschutzes wird TinyML zu einem wichtigen Werkzeug. Dank der Möglichkeit, Daten lokal zu verarbeiten, verlassen sensible Informationen das Gerät nicht, was die Privatsphäre der Nutzer erheblich verbessert. Darüber hinaus verringert die lokale Datenverarbeitung die Latenzzeit, senkt den Stromverbrauch und verlängert die Batterielebensdauer unserer Geräte, was für IoT-Geräte, die über lange Zeiträume, z. B. mehrere Jahre, autonom arbeiten müssen, entscheidend ist.
Schlüsseltechnologien und Bibliotheken in der TinyML-Welt
Mit dem Schwerpunkt auf der Ausführung von Modellen des maschinellen Lernens auf Mikrocontrollern und anderen kleinen Geräten verwendet TinyML eine Reihe von spezialisierten Bibliotheken und Technologien. Hier sind einige von ihnen:
- TensorFlow Lite for Microcontrollers, eine vereinfachte Version von TensorFlow Lite für Mikrocontroller. Sie ermöglicht die Ausführung von Modellen des maschinellen Lernens auf Geräten mit sehr begrenzten Ressourcen.
- Edge Impulse, eine Plattform, die die Erstellung, Schulung und Bereitstellung von TinyML-Modellen, insbesondere für IoT-Geräte, ermöglicht. Edge Impulse bietet umfassende Werkzeuge für den gesamten Prozess.
- X-Cube-AI ist ein Werkzeug von STMicroelectronicsmit dem maschinelle Lernmodelle in optimierten C-Code für STM32-Chips umgewandelt werden können.
Wie sieht die Vorbereitung eines TinyML-Modells aus?
Die Vorbereitung des TinyML-Modells ist ein mehrstufiger Prozess, der darauf abzielt, das maschinelle Lernmodell auf kleinen, ressourcenbeschränkten Mikrocontrollern anzupassen, zu optimieren und zu implementieren. Die einzelnen Schritte dieses Prozesses werden im Folgenden beschrieben:
- Datenerfassung: Sammlung relevanter Daten von Sensoren und anderen Quellen.
- Training des Modells: Erstellung und Training eines einfachen Modells mit Standardausrüstung.
- Quantifizierung und Optimierung: Verringerung der Genauigkeit von Modellgewichten und andere Optimierungstechniken.
- Modell-Konvertierung: Ändern des Modells in ein für TinyML-Tools geeignetes Format.
- Testen der Hardware: Prüfen des Modells auf dem Ziel-Mikrocontroller.
- Integration in die Anwendung: Verknüpfung des Modells mit der Zielsoftware und -hardware.
- Energieoptimierung: Anpassung des Modells an den minimalen Energieverbrauch (falls erforderlich).
- Bereitstellung und Aktualisierung: Installation des Modells auf den Geräten und Durchführung von Aktualisierungen.
In welchen Projekten können wir TinyML verwenden?
Sobald wir wissen, was TinyML ist und wie die Modelle erstellt werden, können wir uns fragen, in welchen Bereichen wir solche Miniatur-ML-Modelle verwenden können.
Ein Beispiel ist die Geräuschdetektion, bei der wir mit TinyML-Modellen ein Geräuschdetektionssystem erstellen können, um Alarmtöne zu erkennen oder bestimmte Geräusche in der Umgebung wie Vogel- oder Insektengeräusche zu identifizieren, was für Biologen nützlich sein kann.
Eine weitere Anwendung könnte die Sturzerkennung sein. Bei tragbaren Geräten wie Smartwatches kann TinyML eingesetzt werden, um plötzliche Bewegungsänderungen zu erkennen, die auf einen Sturz oder einen Autounfall hindeuten könnten, und automatisch Warnungen an Angehörige oder Notdienste zu senden.
Die Bilderkennung mit TinyML-Modellen kann z. B. zur Identifizierung von Tieren in Fotofallen oder zur Überwachung der Mülltonnenbefüllung in Städten, aber auch zur Identifizierung von Personen oder zur Erkennung von Zeichen und Symbolen eingesetzt werden.
Ein weiteres Beispiel ist die Möglichkeit, auf der Grundlage der TinyML-Modelle ein intelligentes Haus zu bauen , in dem das System in der Lage sein wird, die Energie im Haus auf der Grundlage von erlernten Energieverbrauchsmustern zu verwalten oder Parameter wie Temperatur und Beleuchtung automatisch anzupassen, um den Komfort zu optimieren und zu verbessern.
TinyML-Modelle können im Hinblick auf die Schaffung einer SmartCity verwendet werden, in der es intelligente Parkplätze gibt, die freie Plätze überwachen und die Fahrer effizienter über freie Parkplätze informieren können. Sie können auch Fahrzeuge zählen oder erkennen, wodurch Ampeln optimiert werden können, was letztlich zu einem besseren Verkehrsfluss beiträgt.
Wie fängt man mit TinyML an?
Für den Einstieg in TinyML ist es wichtig, das richtige Board oder das richtige Modul auszuwählen, um die maschinellen Lernmodelle effektiv zu betreiben. Hier sind einige beliebte Optionen:
Das Seeed Xiao ESP32-S3 Sense ist ein Set bestehend aus zwei Boards. Das erste enthält einen ESP32-S3 Chip mit einem Dual-Core Xtensa 32-Bit LX7 Prozessor, der mit bis zu 240 MHz läuft. Das zweite enthält eine kleine Kamera OV2640 mit einer Auflösung von 1600 × 1200 px sowie ein Miniaturmikrofon.
Ein solches Set eignet sich gut für Anwendungen zur Formerkennung und für QR-Codes. Und dank des Mikrofons können wir auch Geräusche erkennen.
Wir bleiben in der XIAO-Familie der Module von Seeedstudio. Das Seeed Xiao BLE nRF52840 Sense ist ebenfalls ein Miniaturmodul (Abmessungen von nur 21 x 17,5 mm). Dieser Mikrocontroller, der auf dem ARM Cortex-M4-Kern basiert, kann mit bis zu 64 MHz arbeiten und bietet außerdem Bluetooth 5.0, NFC und Zigbee-Konnektivität.
Dadurch eignet er sich als kleiner Controller in einem intelligenten Haus. Das Board enthält auch Sensoren, eine 6-Achsen-IMU und ein digitales PDM-Mikrofon. Ebenfalls erwähnenswert ist die Batterieladeschaltung BQ25101, die äußerst nützlich sein kann, wenn Sie sich entscheiden, dieses Board in mobilen, batteriebetriebenen Anwendungen einzusetzen.
Wenn Ihnen hingegen die Abmessungen nicht so wichtig sind, Sie aber ein Modul mit umfangreichen Sensorfunktionen benötigen, ist das Wio Terminal eine Überlegung wert. Das erste, was wir an diesem Modul sehen, ist ein 2,4-Zoll-Farbdisplay und ein kleiner blauer Joystick mit 5 Positionen. Das Herzstück des Moduls ist ein ATSAMD51-Mikrocontroller, der auf einem Cortex-M4F-Kern basiert, sowie ein Realtek RTL8720DN-Chip, der Bluetooth LE 5.0 und 2,4 GHz / 5 GHz WiFi-Konnektivität bietet. Außerdem haben wir viele Peripheriegeräte: IMU-Sensor, Mikrofon, Summer, microSD-Kartensteckplatz, Lichtsensor oder eine 940-nm-IR-Diode. Und als wäre das noch nicht genug, können wir mit zwei Grove-kompatiblen Steckern eines der mehr als 300 verfügbaren Module der Familie anschließen. Das sind die enormen Möglichkeiten, die sich bieten!
Für das Board können Erweiterungen erworben werden:
Wenn Sie jedoch an einer Smart City oder einer intelligenten Landwirtschaft interessiert sind, lohnt sich ein Blick auf das Gerät SenseCAP A1101. Das Gerät der SenceCAP-Familie verfügt über eine Kamera mit 640 x 480 Pixeln und einer maximalen Bildaufnahmegeschwindigkeit von bis zu 60 Bildern pro Sekunde.
Es ist für alle Anwendungen geeignet, die eine effektive Erkennung oder Bildanalyse erfordern. Beispiele für Anwendungen sind die Erkennung von Personen oder die Erkennung von analogen Indikatoren wie Gas oder Strom.
Die gewonnenen Ergebnisse können über das LoRAWAN-Netz übertragen werden. Das Gerät hat die Schutzklasse IP66 und kann bei Temperaturen von -40°C bis 85°C betrieben werden.
Zusammenfassung
TinyML eröffnet eine völlig neue Ära in der Welt der Elektronik, indem es die Leistungsfähigkeit des maschinellen Lernens mit den Möglichkeiten von Miniaturschaltungen und -geräten kombiniert. Dank dieser Synergie können wir intelligente Lösungen schaffen, die bisher für kleine, energiesparende Geräte unerreichbar waren. Mit der Weiterentwicklung der Technologie ist zu erwarten, dass es immer mehr fortschrittliche Anwendungen auch in den kleinsten Formaten geben wird. Es ist sicherlich ein Bereich, den man im Auge behalten sollte, da er in den kommenden Jahren viele Aspekte unseres täglichen Lebens revolutionieren könnte. Fangen wir also an zu experimentieren, zu lernen und Teil dieser faszinierenden Reise in das Land von TinyML zu sein.
Warten Sie nicht länger! Die Welt von TinyML ist voller Möglichkeiten, und mit den richtigen Werkzeugen und Kenntnissen steht Ihnen nichts im Wege, ein Experte auf diesem Gebiet zu werden.
