Introduction du deep learning
- Définition et cas d’usage
- Pré-requis du deep learning et différences avec le machine learning
- Terminologie et vocabulaire
Les réseaux de neurones
- Perceptron, régression linéaire, régression logistique
- Descente de gradient
- Réseaux de neurones multi-couches
- Entraînement d’un réseau de neurones
Optimisation d’un réseau de neurone
- Pré-traitement des données : standardisation et normalisation
- Fonctions d’activations
- Choix d’un optimizer
- Architecture du réseau
- Choisir un taux d’apprentissage
- Evaluer et valider les modèles
- Superviser les epochs
Réseaux de neurones convolutifs, CNN
- Principe d’une couche de convolution
- Principe d’une couche de pooling
- Cas d’utilisation pour les images
- Architectures classiques : ResNet, VGGNet…
Transfert learning
- Récupérer un réseau pré-entrainé
- Spécialiser ce réseau sur ses propres données
- Mise en pratique pour les images avec ImageNet
- Mise en pratique pour les textes avec Word2Vec
Online learning
- Mise à jour en temps réel des réseaux de neurone
- Apprentissage hors-mémoire (out-of-core) pour le big data
Mise en production
- Passage en production du modèle
- Supervision et mise à jour
Réseaux de neurones récurrents (RNN)
- Principe des réseaux récurrents
- Cas d’utilisation pour le texte
- Cas d’utilisation pour les séries temporelles
LSTM, GRU