08/03/2021
Door Ad Spijkers
Zelflerende robots die kunstmatige intelligentie gebruiken om hun weg te vinden in onbekende situaties, zullen in de toekomst mensen kunnen ondersteunen bij activiteiten in gevaarlijke omgevingen.
Enerzijds moeten de AI-systemen zo autonoom mogelijk werken zodat mensen op veilige afstand van de gevarenzone kunnen blijven. Anderzijds moeten mensen op elk moment kunnen ingrijpen in problematische situaties. Hiervoor zijn robots nodig die hun mate van autonomie tijdens een operatie flexibel aanpassen aan de situatie. Een whitepaper van Lernende Systeme - Die Plattform für Künstliche Intelligenz in München laat zien hoe dit werkt.
Kunstmatige intelligentie
AI-systemen en zelflerende robots werken op veel gebieden al samen met mensen. Hoe de taakverdeling tussen mens en AI-systeem eruitziet en hoe onafhankelijk het systeem werkt, hangt af van de mogelijkheden, het soort taak en de omgeving.
Vijandige omgevingen zijn divers en doorgaans onbekend. In tegenstelling tot de strikt gereguleerde toepassingsgebieden mobiliteit en industrie, is het gebruik van een zelflerend systeem bij natuurrampen of bluswerkzaamheden op voorhand moeilijker te plannen. Operaties hier hebben een hoge mate van variabiliteit, gecombineerd met verschillende vereisten voor autonomie in de betreffende situatie, aldus het witboek. Als vuistregel stellen de auteurs: een gebrek aan competentie in het systeem betekent altijd meer menselijk ingrijpen, inclusief afstandsbediening van het systeem.
Een AI-systeem kan mensen alleen beschermen tegen gevaren als het zijn taken onafhankelijk en betrouwbaar uitvoert. Aan de andere kant doen zich onvoorspelbare situaties voor in gevaarlijke omgevingen waarin mensen moeten kunnen ingrijpen, bijvoorbeeld om te beslissen welk slachtoffer eerst moet worden gered.
Variabele autonomie
Behalve ethisch vragen kunnen er ook juridisch onduidelijke situaties ontstaan of heeft de autonome robot technische ondersteuning nodig, bijvoorbeeld omdat hij vastloopt. Om deze speciale dynamische vereisten van vijandige omgevingen op autonome systemen het hoofd te bieden, moeten de systemen tijdens het gebruik hun mate van autonomie kunnen worden aangepast aan de situatie. Of een persoon moet het aanpassen.
In plaats van de starre concepten voor niveaus van autonomie die in andere toepassingsgebieden zijn vastgesteld, zouden tijdens de inzetperiode variabele en continu veranderlijke niveaus van autonomie moeten worden geïmplementeerd voor het gebruik van zelflerende systemen in vijandige omgevingen, aldus de auteurs.
In een succesvolle samenwerking met het autonome systeem zouden mensen het gebruik ervan, indien mogelijk, niet stap voor stap moeten volgen. Door het werk met de robot te delen, zou hij tijd moeten winnen om belangrijkere taken uit te voeren. Het is daarom wenselijk dat autonome systemen mensen onafhankelijk en betrouwbaar informeren en betrekken wanneer ze problemen tegenkomen die ze zelf niet kunnen oplossen en daarom hulp, bediening op afstand of beslissingen van mensen vragen.
Momenteel zijn autonome systemen in gevaarlijke omgevingen nog niet in staat om hun situatie zelfstandig in te schatten en te vergelijken met hun competenties. Hier is een grote behoefte aan onderzoek. Op dit moment zullen autonome systemen nooit worden ingezet zonder mensen als supervisors. Ook in de toekomst blijven mensen de bovengeschikte autoriteit, die in geval van twijfel altijd de uiteindelijke beslissing behoudt, aldus de auteurs.
Whitepaper
De whitepaper Kompetent im Einsatz. Variable Autonomie Lernender Systeme in lebensfeindlichen Umgebungen' is gratis te downloaden op de website van het platform.