Introduction du deep learning

• Définition et cas d’usage
• Pré-requis du deep learning et différences avec le machine learning
• Terminologie et vocabulaire

Les réseaux de neurones

• Perceptron, régression linéaire, régression logistique
• Descente de gradient
• Réseaux de neurones multi-couches
• Entraînement d’un réseau de neurones

Optimisation d’un réseau de neurone

• Pré-traitement des données : standardisation et normalisation
• Fonctions d’activations
• Choix d’un optimizer
• Architecture du réseau
• Choisir un taux d’apprentissage
• Evaluer et valider les modèles
• Superviser les epochs

Réseaux de neurones convolutifs, CNN

• Principe d’une couche de convolution
• Principe d’une couche de pooling
• Cas d’utilisation pour les images
• Architectures classiques : ResNet, VGGNet…

Transfert learning

• Récupérer un réseau pré-entrainé
• Spécialiser ce réseau sur ses propres données
• Mise en pratique pour les images avec ImageNet
• Mise en pratique pour les textes avec Word2Vec

Online learning

• Mise à jour en temps réel des réseaux de neurone
• Apprentissage hors-mémoire (out-of-core) pour le big data

Mise en production

• Passage en production du modèle
• Supervision et mise à jour

Réseaux de neurones récurrents (RNN)

• Principe des réseaux récurrents
• Cas d’utilisation pour le texte
• Cas d’utilisation pour les séries temporelles
  LSTM, GRU