Edge AI uitkomst voor eindapparaten

Sat Dec 07 2024

12 07

Edge AI uitkomst voor eindapparaten

05/07/2024

Door Ad Spijkers

Een whitepaper van het Plattform Lernende Systeme biedt een overzicht wat lokale kunstmatige intelligentie te bieden heeft.


     

Lokaal gebruiken van kunstmatige intelligentie (AI) op smartphones of in voertuigen biedt kansen voor economie en samenleving. Vergeleken met grote AI-modellen die centraal op grote computerinfrastructuren draaien, vereist de zogenaamde Edge AI aanzienlijk minder energie. Het beschermt de privacy van gebruikers en maakt toepassingen in real-time mogelijk.

Volgens het Plattform Lernende Systeme (met kantoren in Berlijn en München) bevindt Duitsland zich in een goede internationale positie om het potentieel van de technologie te benutten. Onderzoek en ontwikkeling worden echter geconfronteerd met technische uitdagingen en hindernissen bij de omzetting ervan in de praktijk. Een actueel whitepaper biedt een overzicht.

Edge AI

Met behulp van Edge AI kan de gezondheidsstatus van patiënten in real-time worden gevolgd. Bestuurdersassistentiesystemen kunnen razendsnel op obstakels reageren en daarmee de verkeersveiligheid vergroten. Het doel van de technologie is om data te verwerken en analyseren waar deze ontstaan, dat wil zeggen dichtbij het eindapparaat. Omdat de data niet over grote afstanden naar datacentra hoeven te worden overgebracht, kunnen de AI-systemen sneller reageren. De gegevens van personen of bedrijven blijven veilig bij de gebruiker.

Dit opent een breed scala aan gebruiksmogelijkheden overal waar real-time bediening wenselijk is en gevoelige gegevens worden verwerkt, zoals gezondheidsgegevens in de geneeskunde of waardevolle bedrijfsgegevens. Edge AI systemen op veel eindapparaten bieden echter mogelijk meer aanvalsoppervlakken voor cyberaanvallen dan een goed beveiligd datacenter.

Energie

Spectaculaire generatieve AI-modellen domineren momenteel de publieke discussie. Ze zijn gebaseerd op steeds grotere centraal verwerkte datavolumes en steeds hogere rekencapaciteiten. Hun kosten en energieverbruik zijn hoog: een beeldgenerator heeft evenveel energie nodig om een ​​beeld te creëren als nodig is om de batterij van een mobiele telefoon op te laden.

Edge AI moet het doen met een veel beperktere rekenkracht en opslagcapaciteit op het eindapparaat en is daardoor zuinig met energie. De auteurs van het whitepaper zien deze beperkingen als zowel een uitdaging voor de ontwikkeling als een kans, omdat ze de drijvende kracht zijn achter hulpbronnen besparende AI-innovaties.

Edge AI is volgens het witboek een technologische component om uitdagingen zoals klimaatverandering, digitale soevereiniteit of energievoorziening te overwinnen. Op Edge AI gebaseerde elektriciteitsmeters kunnen bijdragen aan een stabiel aanbod van hernieuwbare energie. Sensoren in recyclingfabrieken kunnen de technologie gebruiken om recyclebare materialen in afval te detecteren. Met Edge AI kunnen bedrijven onafhankelijker van veelal niet-Europese cloud-aanbieders opereren, omdat datastromen bij de bron worden verwerkt.

Toepassingen

De genoemde voordelen openen een breed scala aan mogelijkheden, vooral in voor Duitsland belangrijke industrieën zoals de auto-, machinebouw- en medische technologie. Maar zelfs als er al successen zijn, kan het land nog lang niet het beschikbare potentieel benutten. Het ontwerp van de netwerken, de training van de netwerken, de vertaling van de netwerken en de hardware-architecturen voor het berekenen van de netwerken worden grotendeels op zichzelf beschouwd. Een holistische aanpak is nodig om krachtige AI-technologie te bieden.

Technologie en toepassingen moeten ook in samenhang worden bekeken. Alleen met de kennis van de applicatie kunnen de Edge AI-machines efficiënt worden ontworpen en alleen met de kennis van de prestaties van de Edge AI-technologie kunnen nieuwe applicaties worden ontwikkeld.”

De combinatie van technologische kennis, expertise in de lokale industrieën en ervaring met de ontwikkeling van fysieke producten maakt Duitsland en Europa een ideale locatie om het potentieel van Edge AI te benutten, aldus de auteurs van het whitepaper. De softwareoplossingen voor een specifiek stuk hardware kunnen echter meestal niet eenvoudig naar een ander apparaat worden overgebracht. Er is ook een gebrek aan experts op het gebied van hardwareontwerp

Beide vertragen het gebruik van Edge AI in de praktijk. De auteurs adviseren platforms te ontwikkelen die basisbouwstenen bieden voor Edge AI die indien nodig kunnen worden aangepast aan verschillende industrieën. Dit vereist passende standaardisatie. Ook onderzoek naar hulpbronnen besparende gegevensverwerking binnen de grenzen van de eindapparatuur moet worden bevorderd.

Whitepaper

Het whitepaper Edge AI: KI nahe am Endgerät. Technologie für mehr Datenschutz, Energieeffizienz und Anwendungen in Echtzeit is geschreven door leden van Plattform Lernende Systeme. De twee werkgroepen rond technologische pioniers en datawetenschap, IT-beveiliging, privacy, recht en ethiek hadden de leiding. Het witboek is voornamelijk gebaseerd op de resultaten van een ronde tafel met experts uit 2023. De publicatie is gratis te downloaden.

Foto: Plattform Lernende Systeme