Réseaux de neurones formels pour les ingénieurs

18h C dont contrôle / 2 crédits ECTS

Léon Personnaz (Gif)

Les réseaux de neurones formels, inspirés de façon assez lointaine par les structures biologiques, représentent des méthodes et des outils nouveaux de traitement de l'information, susceptibles de compléter, et même parfois de supplanter, les méthodes algorithmiques plus classiques utilisées pour la classification de données, la reconnaissance de formes, l'identification et la commande de processus, la prédiction, etc. Le cours s'efforcera de faire un tour d'horizon des diverses architectures le plus souvent rencontrées, de leurs propriétés particulières et de leurs applications, et de leurs implantations logicielles et matérielles.

Introduction : quelques rappels biologiques et cognitifs

Quelques propriétés élémentaires de mécanismes simples : association, classification, mémoire, passage du symbolique à la sémantique. Les constituants du système nerveux : neurones et synapses. Introduction du neurone formel.

Reconnaissance de formes

Classifieurs déterministes à deux classes. Algorithmes d'apprentissage : perceptron, Widrow-Hoff, Delta. Classifieurs à plus de deux classes : méthode constructive (Stepnet). Réseaux à couches. Algorithmes d'estimation du second ordre fondés sur le gradient (rétropropagation) : Choleski, Lu,

QR, SVD, Levenberg, quasi-Newton. Algorithmes d'asservissement du pas. Exemple de la reconnaissance des chiffres manuscrits. Classifieurs probabilistes (estimateurs du classifieur de Bayes).

Modélisation statique

Modèles linéaires par rapport aux paramètres : propriétés de l'estimateur des moindres carrés ; estimation par intervalle d'une régression linéaire. Modèles non linéaires par rapport aux paramètres (réseaux de neurones) :

* développement de Taylor de la sortie du modèle.

* sélection du meilleur modèle : erreurs quadratiques moyennes, validation croisée, test d'hypothèse.

* estimation par intervalle d'une régression non linéaire.

Modélisation dynamique

Apprentissage des réseaux bouclés pour la modélisation non linéaire.

Algorithmes série-parallèle et parallèle (méthode des copies).

Quelques exemples d'utilisation industrielle des réseaux de neurones