Robotica moet veilig zijn, ook met ChatGPT

Sat Mar 02 2024

03 02

Robotica moet veilig zijn, ook met ChatGPT

22/06/2023

Door Ad Spijkers

Eind mei bezocht Sam Altman, de baas van OpenAI de TU München. AI biedt veel voordelen, maar is het wel zo geschikt voor robotica?


     

"Het handigste, belangrijkste en meest inspirerende hulpmiddel dat de mensheid ooit heeft gemaakt". Dit zei Sam Altman tijdens zijn onder grote belangstelling gevolgde bezoek aan de Technische Universität München (TUM) eind mei (foto). Voor de baas van ontwikkelaar OpenAI is het generatieve AI-model ChatGPT, dat hij een denkmachine noemt, het begin van een paradigmaverschuiving, vergelijkbaar met de lancering van de iPhone of zelfs het internet.

ChatGPT kan programmeren efficiënter maken, teksten schrijven, als brainstormpartner dienen of ontwerpvoorstellen maken. Maar geldt dat handige, belangrijke en inspirerende ook voor robotica? Zodra de zogeheten generatieve kunstmatige intelligentie de fysieke wereld van de robotica betreedt, aarzelen onderzoekers van de TU München.

Geen codes meer schrijven

Prof. Reinhard Heckel is een fan van ChatGPT. De hoogleraar Machine Learning aan de TUM gebruikt zelf het OpenAI-product Copilot om te programmeren. "Vaak hoef ik delen van de code niet meer zelf te schrijven, dat doet de tool automatisch", legt hij uit. Dit bespaart hem tijd, vooral bij eenvoudige taken, en hij kan zich concentreren op het gedeelte van het programmeren dat echt spannend is.

Al brainstormend met ChatGPT zoekt hij naar passende titels voor een werkstuk of laat het opschrijven. Volgens Heckell is ChatGPT een goede assistent voor kleinere vervelende taken. Zelfs de beeldherkenning van de tools is zo goed dat blinden ze kunnen laten uitleggen hoe de wereld eruit ziet. Er is echter een grens bereikt als het om robots gaat. "Een robot een ui laten snijden bijvoorbeeld is complex en lastiger dan met tekst omgaan", aldus Heckel. Toch vindt hij de voordelen zwaarder wegen dan de nadelen. ChatGPT en tools als Copilot maken zijn werk gemakkelijker en efficiënter.

Voor neurale netwerken

Hoogleraar Dataverwerking Klaus Diepold aan de TUM experimenteert ook met generatieve kunstmatige intelligentie. Een paar jaar geleden gaf hij in zijn bachelorvak 'Computer en Creativiteit' studenten de opdracht om ideeën te ontwikkelen, hoe computers creatief kunnen worden. Het resultaat was een wenskaart 'voor tante Erna', gemaakt met voorlopers van ChatGPT 3. De kaart was door AI grafisch ontworpen en van tekst voorzien. De software schreef een gedicht en liet de tool de boterbloemen (haar favoriete bloemen) integreren. Er waren echter geen praktische toepassingen in de robotica.

Vandaag werkt een promovendus aan een ontwerpgenerator op basis van Dalle_E, de beeldtransformator van OpenAI. Het vormt onderdeel van het KI.Fabrik lighthouse-project bij het robotica- en AI-instituut MIRMI. De kennis voor generatieve modellen om een stoel te maken is goed, want er zijn veel beelden voor het trainen van neurale netwerken. Maar als er een robotgrijper moet worden ontworpen, is dat lastiger omdat er niet genoeg trainingsgegevens zijn. Daarnaast zijn er eisen aan de sterkte van het materiaal en andere fysische eigenschappen, aldus Diepold.

Geen ruimte voor fouten

De uitdagingen in de klassieke robotica zijn complex. Een servicerobot beweegt zich bijvoorbeeld in de omgeving met mensen. Hij geeft een zorgbehoevende een glas water of ondersteunt hem bij revalidatieoefeningen. De robot moet autonoom, slim en snel reageren en mag geen schade aanrichten., In een veiligheidsrelevante omgeving is geen enkele fout veroorloofd" Regelgeving is daarom vooral nodig in de robotica.

Altman beloofde in München dat hij zijn software 'verantwoord' wilde reguleren. Als een 'linguïstisch leuk speeltje' (zei Diepold) veroorzaakt ChatGPT in eerste instantie geen zichtbare schade. Maar Diepold twijfelt aan zijn intelligentie. "ChatGPT produceert teksten die welsprekend maar niet intelligent zijn. Het is als een politicus op het podium: het kan allemaal goed klinken, maar dat betekent niet dat het ook goed hoeft te zijn."

Ook Alin Albu-Schaeffer, hoogleraar Sensor-Based Robotic Systems and Intelligent Assistance Systems aan de TUM, maakt het duidelijk. "AI moet communiceren met de fysieke wereld, het is niet genoeg om 'gewoon' te kunnen chatten". Het beste voorbeeld van wat er mis kan gaan, is een scriptie die prof. Diepold studenten liet maken via ChatGPT. Het las goed, maar geen van de referenties in het wetenschappelijke artikel was correct. Wanneer er kennis ontbreekt, verdoezelt ChatGPT deze met zelfverzonnen informatie. Maar in de robotica mogen geen fouten worden gemaakt.

Nog niet volwassen

Alena Buyx is een van de bijna twintig hoogleraren die in de taskforce voor generatieve AI bij TUM perspectieven afwegen tegen risico's. "Er is een nog niet volledig ontwikkelde technologie de wereld in gestormd. Nu wordt snel geprobeerd om aanbevelingen te doen voor aanstaande wettelijke voorschriften - zowel vanuit technisch als vanuit ethisch, sociaal en regelgevend oogpunt". Buyx is de hoogleraar Ethiek in de geneeskunde en Health Technologies en mededirecteur van het hightech platform munich_i.

Het gaat haar behalve om de risico's ook om het positieve potentieel herkennen en goed na te denken waar dit ingezet kan worden. In ziekenhuizen in de VS worden bijvoorbeeld al social bots ingezet – gecontroleerd en begeleid – die gedetailleerde ontslaggesprekken voeren met patiënten en tijd hebben om alle vragen te beantwoorden. Generatieve AI wordt ook in de biotechnologie gebruikt om eiwitvouwing te analyseren om bijvoorbeeld nieuwe moleculen voor medicijnen tegen kanker te ontwikkelen.

Gaan de ontwikkelingen de goede kant op? "Alle data die nodig is om AI-modellen te trainen, komt uiteindelijk van ons allemaal. De data is door de bedrijven opgezogen en gebruikt voor technologieën die straks een sterke impact hebben op onze leefomgeving", legt Buyx uit. "Dat geeft samenlevingen duidelijk het recht om actief vorm te geven aan het gebruik en de regulering van technologieën."

Tijdens zijn bezoek aan München benadrukte ook OpenAI-baas Altman dat hij de mogelijkheden van zijn denkmachine verantwoord wilde reguleren. Er is nog veel te doen. Dit is nog een reden waarom Altman ziet wat de afgelopen vijftien jaar waarschijnlijk de beste kans is voor jonge mensen om een carrière in de technologie te beginnen.

Foto: TU München/Lennart Preiss