Doctoraatsverdediging

Faculty of Engineering Science
Reservoir Computing for Intelligent Mobile Systems (Reservoir Computing voor intelligente mobiele systemen)
Doctorandus/a PhD student
  Name: Xavier Dutoit
Promotie / Defence
  When: 15.12.2009, 14h00
  Language: English
  Where: aula Arenbergkasteel, 01.07, Kasteelpark Arenberg 1, 3001 Heverlee
 
Promotor / Supervisor
  Prof. dr. ir. Hendrik Van Brussel (promotor)
  Prof. dr. ir. Marnix Nuttin (mede-promotor)
  Dr. Benjamin Schrauwen (mede-promotor) , Universiteit Gent
 
Samenvatting van het onderzoek / Summary of Research

Artificiële neurale netwerken (ANNs) zijn interessante hulpmiddelen om te gebruiken wanneer een directe oplossing voor een probleem niet gekendis, aangezien ze kunnen getraind worden met voorbeelden. Wanneer ze voorzien worden van een aantal mogelijke situaties en de bijhorende gewenste netwerkresponsen kunnen ze de relatie tussen deze situaties en de responsen leren en ze veralgemenen naar nieuwe situaties.Binnen ANNs zijn terugkerende neurale netwerken (RNNs) een deelgroep van netwerken met terugkerende verbindingen. Deze terugkerende verbindingen voorzien het netwerk van geheugen. RNNs zijn dan beter geschikt voor niet-statische taken, wat wil zeggen dat de gewenste respons niet enkel afhangt van de huidige situatie, maar ook van wat er gebeurd is in het verleden. Hoewel ze veel rekenkracht hebben, zijn RNNs zeer complex om te trainen, precies door deze terugkerende verbindingen.Reservoir computing (RC) is een nieuwe manier om RNNs te trainen, waarbij het terugkerende deel (het “reservoir”) zelf niet getraind wordt. Vervolgens is het mogelijk om de kracht van RNNs te gebruiken met eenvoudige trainingsmethoden. Het grootste probleem met RC is dat het reservoir zelf, dat niet getraind wordt, willekeurig gecreëerd wordt en richtlijnenom een goed reservoir te creëren ontbreken nog steeds. Ondanks de veelbelovende prestaties is RC nog steeds een hulpmiddel dat enige expertise vergt om succesvol toe te passen.In deze thesis geef ik een aantal inzichten in de belangrijke parameters die in rekening gebracht moeten worden wanneer een reservoir gecreëerdwordt en geef ik een aantal richtlijnen voor het creëren van een reservoir. Daarna vergelijk ik enkele methoden om een speciaal type van reservoirs te trainen die onstabiel kunnen worden en waarvoor de training gevoeliger is. Tot slot laat ik een mogelijke toepassing zien op het gebied van service robotica. Ik beschouw een gehandicapte gebruiker die een intelligent aangestuurde rolstoel bestuurt en pas RC toe om de intentie vande gebruiker te schatten, om zo assistentie afgestemd op de behoeften van de gebruiker te voorzien.
Artificial neural networks (ANNs) is an interesting tool to use when the direct solution to a problem is not known, as they can be trained by examples. When provided with certain possible situations and the associated desired network responses, they can learn the relation between these situations and the responses and generalise it to new situations.Amongst ANNs, recurrent neural networks (RNNs) is a subset of networks with recurrent connections. These recurrent connections endow the network with memory. RNNs are then more suited for non-static task, i.e. wherethe desired response does not only depend on the current situation, butalso on what happened in the past. However, though computationally powerful, RNNs are very complex to train, because precisely of these recurrent connections.Reservoir computing (RC) is a new way of training and using RNNs, wherethe recurrent part (the "reservoir") itself is not trained. It is then possible to use the power of RNNs with simple training methods. The mainproblem with RC is that the reservoir itself, which is not trained, is created randomly, and guidelines to create a good reservoir are still lacking. So, despite promising performance, RC is still a tool requiring some expertise to apply it successfully.In this thesis, I provide some insights on the important parameters to take into account when creating a reservoir and provide some guidelines to create a performing reservoir. I then compare some methods to train aspecial type of reservoir which can become unstable and for which the training is then more sensitive. Finally, I show a possible application of RC in the field of service robotics. I consider a disabled user driving an intelligent powered wheelchair and apply RC to estimate the user's intent in order to provide an assistance tailored to the user's needs.

 
Volledige tekst van het doctoraat / full text
https://lirias.kuleuven.be/handle/123456789/251219

 
Examencommissie / Board of examiners
  Prof. dr. ir. Hendrik Van Brussel (promotor)
  Prof. dr. ir. Marnix Nuttin (mede-promotor)
  Dr. Benjamin Schrauwen (mede-promotor) , Universiteit Gent
  Prof. dr. ir. Yves Willems (voorzitter/chairman)
  Prof. dr. ir. Johan Suykens (secretaris/secretary)
  Prof. dr. ir. Eric Demeester
  Prof. dr. Désiré Bollé
  Prof. dr. ir. Joris De Schutter
  Prof. dr. Dirk Stroobandt , UGent