INCOSE-NL workshop
Frank Benders

Frank Benders

Principal Systems Engineer

Michael Borth

Michael Borth

Senior Research Fellow

AI inside – What does that take in System Engineering?

13:00 – 14:30

Abstract
Zou u een op AI gebaseerd systeem uw leven toevertrouwen? Onder alle omstandigheden en omstandigheden?
Het vertrouwen op een dergelijk systeem uit de echte wereld gaat verder dan AI. Het gaat om vertrouwen in de kwaliteit van zowel het systeem als het werk dat dit tot stand heeft gebracht – en dat is het domein van systeemengineering en levenscyclusbeheer. In deze disciplines verkleinen we het operationele risico, zorgen we ervoor dat een systeem doet wat de ontwerpers voor ogen hebben en dat blijft doen. Maar zoals we uit harde lessen leren: het bereiken van deze doelstellingen wordt een stuk moeilijker als er AI bij betrokken is.
Om te slagen hebben we ingenieurs nodig die de uitdagingen begrijpen die AI in hun vakgebied met zich meebrengt – en hebben we de AI-gemeenschap nodig om na te denken over systemen, niet over algoritmen. Bij TNO brengen we dit naar voren en nodigen we je uit om samen met ons te onderzoeken hoe AI System Engineering uitdaagt.
We maken gebruik van systeemwetenschap, waarbij we onderzoeken waarom regeltechniek zijn toestandsruimte heel anders vindt dan waar leersystemen voor gaan. We onderzoeken hoe adaptieve AI stabiliteitsaannames ontkracht, wat verificatie, validatie en preventief onderhoud belemmert, en we evalueren de architectuur- en ontwerpprocessen die daarvoor nodig zijn. moet nu met waarschijnlijkheden omgaan in plaats van met deterministische functies.
Gebaseerd op dit probleembegrip, bespreken we in deze workshop mogelijke systeemtechnische benaderingen. Interessant is dat dergelijke technieken niet alleen toekomstige, op AI gebaseerde systemen moeten aanpakken – naar alle waarschijnlijkheid zullen ze ook een stukje AI in zich hebben. Daarom zullen we, vanuit de kern van System Engineering, met u bespreken: Wat beschouwt u als toepasbaar, haalbaar en nuttig om betrouwbare AI binnenin te ontwikkelen?

Bio Frank Benders EngD
Frank Benders is Principal Systems Engineer bij TNO en een van de wetenschappelijke leiders van TNO’s Artificial Intelligence-programma Appl.AI. Zijn huidige focus ligt op het aanpakken van uitdagingen op verschillende domeinen, op autonome systemen en robotica voor de automobielsector, defensieveiligheid en -beveiliging en civiele techniek.
Tijdens zijn carrière bij TNO integreerde hij kennis en expertise in transdisciplinaire teams, waarbij hij altijd keek naar grote maatschappelijke uitdagingen. Frank heeft een masterdiploma in elektrotechniek en een EngD-diploma in Softwaretechnologie, beide behaald aan de Technische Universiteit Eindhoven.

Biografie Michael Borth
Michael Borth is Senior Research Fellow bij TNO. Bij het aanpakken van de uitdagingen die gepaard gaan met de introductie van autonoom gedrag in voertuigen en slimme systemen in het algemeen, leidt hij het AI & Data Science-team van de afdeling Integrated Vehicle Safety en het vlaggenschip van TNO op het gebied van System Engineering en Lifecycle Management van op AI gebaseerde systemen.
Hierin combineert hij zijn expertise op het gebied van AI, die hij heeft opgedaan bij Daimler Research and Technology, met zijn ervaring in systeemarchitectuur voor de automotive, maar ook voor slimme hightechsystemen, die hij onderzocht bij ESI in Eindhoven.Michael heeft een doctoraat in computerwetenschappen van de Universiteit van Ulm en houdt zich sindsdien bezig met probabilistische en causale systeemmodellering.