EmbeddedWorld 2019 – Embedded Intelligence at #ew19

Vor wenigen Jahren waren intelligente, eingebettete Systeme nur als Konzepte zu sehen. Heutzutage wandern solche Systeme zunehmend in die praktische Anwendung.

KI Lösungen

Auf der embedded world waren an den einzelnen Ständen unterschiedliche Lösungen zu sehen, wie beispielsweise Lösungen zur Objekterkennung, oder lokale Systeme zu KI basierten Zählung von Menschen in einer Gruppe.

Am ersten Tag der embedded world hat ein Diskussionspanel zu dem Zukunftsthema „KI“ stattgefunden, und es gab in der begleitenden Konferenz einen Track mit zwei ganzen Tagen voller technischer Präsentationen zum Thema. Teilnehmer der Konferenz waren renommierte Professoren des KIT in Karlsruhe, von der Universität Wien oder ein Mathworks Fellow.

Stände

An den Ständen haben die einzelnen Hersteller unterschiedliche Lösungen gezeigt. Dabei standen auch Lösungen im Fokus mit denen man Intelligence „on the Edge“ bringen kann. Solche intelligenten Geräte sind dort von Vorteil, wo man entkoppelt von Cloudspeichern arbeiten will, 

  • sei es, um die Datenengen einzuschränken, die man in die Cloud übertragen muss, 
  • sei es aus Latenzgründen in Anwendungsgebieten, wo es auf eine verlässliche Antwortzeit ankommt, oder 
  • sei es aus datenschutzrechtlichen Gründen.

Viele Hersteller haben Lösungen gezeigt, um solche Edge-Lösungen zu entwickeln. Hier folgt ein ausschnitthafter Überblick.

STMicroelectronics

STMicroelectronics® hat seinem STM32CubeMX mit einer Ergänzung für AI Anwendungen ausgestattet (STM32Cube.AI). Hiermit kann man optimierten Code für künstliche neuronale Netze generieren, der auf den hauseigenen Microcontrollern ausgeführt werden kann.

Man benötigt hierfür fertig trainierte Netze (z.B. Tensorflow oder Caffe), und den STM32Cube.AI, der daraus C-Code erstellt. STM32Cube.AI enthält Funktionspakete, die auch Code-Beispiele für typische Anwendungen realisieren (z.B. Szenenerkennung mit Hilfe von Audiodaten), und verfügt über eine Community, die den eigenen Einstieg erleichtern hilft.

Mit eigenen lokal installieren Netzen kann man dann beispielsweise Sensordaten (Bild, Vibration, Umgebungssensoren, etc) vor Ort verwenden, um Klassifikationsaufgaben über ein solches Netz zu erledigen, ohne, daß man z.B die Bilder erst an einen zentralen Server senden muss.

Die Umgebungsdaten können hierbei mittels der hauseigenen SensorTile Boards erhoben werden.

Texas Instruments

Texas Instruments®Sitara Prozessoren der Reihe AM57x unterstützen eingebettete Maschinenintelligenz. Man kann mit Hilfe der hauseigenen TIDL-Software seine Netzwerke so aufbereiten, daß sie auf diesen Prozessoren ausgeführt werden können, und kann so z.B. eigene DNN Netzwerke zur Bilderkennung auf lokalen Geräten betreiben. 

Interessant hierbei ist, daß es eine Simulationsumgebung gibt, mit der man die Netze ausprobieren kann, ohne, daß man die Hardware besitzt. Auch gibt es hauseigene Derivate des Caffe -Frameworks mit deren Hilfe man z.B Netze zur Objekterkennung so vereinfachen kann, daß sie bei etwas verminderter Erkennungsleistung viel performanter auf der Zielplattform ausgeführt werden können. 

TI liefet Entwicklungsboards für alle relevanten Prozessoren und stellt zudem die ARM NN/ Compute Library zur Verfügung, daß auf einer Yocto Distribution aufbaut. Hiermit kann man dann die Inferenzen auf ARM-Cores lauffähig machen. Gleichzeitig können rechenintensive Operationen über OpenCL und OpenCV auf spezialisierte Hardware ausgelagert werden, um so die Anwendungen zu beschleunigen.   

NXP Semiconductors

NXP Semiconductors® stellt mit dem eIQ Softwarepaket eine Entwicklungsumgebung für Anwendungen im Bereich Maschinenintelligenz bereit. Beispiele für solche Anwendungen sind Spracherkennung, Bilderkennung oder Systeme zur Anomaly-Detection in Messreihen. 

Die Lösung verwendet Open-Source-Technologien, die in der Lage sind, vortrainierte Netze (z.B. Tensorflow) so aufzubereiten, daß sie auf den entsprechenden NXP Applikationsprozessoren ausgeführt werden können.

Man bekommt in dem Paket alle Tools, die man benötigt, um eigene Inferenzen zu erzeugen, die man dann auf den jeweiligen Boards installieren kann.

openVino

Intel hat kürzlich den openVino™ Framework vorgestellt, mit dessen Hilfe man ähnliche Übersetzungsarbeiten erledigen kann, zwischen vortrainiertem Modell und Installation der Inferenz auf ausgelagerten Geräten. Hierzu habe ich einen einen Artikel verfaßt. 

Weiterführende Informationen

Das Original dieses Artikels ist auf Der Produktmanager erschienen (©Andreas Rudolph). Folgeartikel zum Thema gibt es über die (→Mailingliste), oder indem Sie →mir auf Twitter folgen.

Quelle für das Artikelfoto: NuernbergMesse/Frank Boxler
Nutzung entsprechend der Regelungen für Pressearbeit zur Messe.

In der Online Version des Artikels finden Sie hier die versprochenen weiterführenden Links:

Comments are closed.