Edge AI voor mobiele apparaten

Duitse en Frans onderzoekers werken aan oplossingen om kunstmatige intelligentie (AI) direct in niet-cloudgebonden apparaten te laten werken.

Kunstmatige intelligentie (AI) vindt steeds uiteenlopender toepassingen in de fysieke wereld, vooral op embedded, cyber physical apparaten met beperkte middelen en onder veeleisende omstandigheden. Dit type AI wordt 'Frugal AI' genoemd en wordt gekenmerkt door lagere eisen aan geheugen, rekenkracht en datagebruik. Het FAIRe-project (Frugal Artificial Intelligence in Resource-limited Environments) van het Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI) in Saarbrücken en het Franse Institut national de recherche en sciences et technologies du numérique (Inria) ontwikkelt een alomvattende aanpak voor alle abstractielagen van AI-toepassingen aan de edge.

Edge-applicaties

Edge-apparaten zoals bestuurdersassistentie- en infotainmentsystemen in auto's, medische apparatuur, industriële of servicerobots en mobiele telefoons hebben bij lange na niet de middelen van enorme cloud datacenters die moderne machine learning-toepassingen nodig hebben. De uitdaging is het omgaan met beperkte rekenkracht, opslagruimte en stroomvoorziening.

Door de beperkte connectiviteit op afgelegen locaties, onder water of in de ruimte is het wenselijk dat deze apparaten rechtstreeks data verwerken in plaats van deze naar de cloud te verzenden. Ook veiligheids- en privacyproblemen, bijvoorbeeld in huishoudelijke en industriële omgevingen, maken dit wenselijk. Edge computing kan ook energie besparen die anders voor data-overdracht zou moeten worden gebruikt. Het concept van Frugal AI wordt gebruikt om ervoor te zorgen dat de computerprocessen op edge-apparaten sneller, uitgebreider en efficiënter zijn.

FAIRe heeft tot doel de inzet van AI-toepassingen op mobiele apparaten mogelijk te maken. Dit doen de onderzoekers door een innovatieve aanpak om de modelomvang en de rekenoverhead te verminderen. Dit gebeurt door middel van netwerk-kwantificering, optimalisatie van de netwerkarchitectuur, optimalisatie van de computerstroom en ten slotte netwerkuitvoering op krachtige hardware met laag vermogen (bijvoorbeeld RISC-V of FPGA chips).

Hollistische aanpak

FAIRe ontwikkelt een holistische aanpak op alle abstractieniveaus van een AI-applicatie die de verschillende lagen van geïmplementeerde, draaiende AI-systemen aanpakt. Dat omvat de daadwerkelijke AI-algoritmen, de hardware waarop ze draaien en de compilerlaag ertussenin, die verantwoordelijk is voor het vertalen van AI-algoritmen. Dit moet zo efficiënt mogelijk voor een bepaalde hardware. Om deze aanpak in de praktijk te demonstreren, voert het projectteam een case study uit over mens-robotinteractie (HRI) die al deze aspecten omvat.

De studie zal interactie met een mens gebruiken om te illustreren hoe de verschillende abstractielagen samenwerken en hoe robotsystemen op een hulpbronnenbewuste en continue manier kunnen leren. In dit scenario communiceert een intelligente robot gedurende een langere periode met een mens om de mens voortdurend te helpen met specifieke taken. Tijdens deze interactie past de robot zich aan aan onbekende contexten. De resultaten van de casestudy zijn bedoeld om de brede toepasbaarheid van de in FAIRe ontwikkelde AI-algoritmen aan te tonen en wijzen verder dan het specifieke scenario.

Edge AI-projecten zoals FAIRe dragen ertoe bij dat AI-toepassingen breed inzetbaar zijn op mobiele apparaten en openen nieuwe mogelijkheden voor toepassingen. Mens-machinesystemen, zoals de op de foto getoonde robotarm uit een eerder onderzoeksproject, vormen de basis van de demonstrator in het FAIRe-project.

Foto: DFKI, Christian Mandel