Lundi 18 novembre 2024 à 09:44

Un ami me demande des ressources pour se former au Machine Learning.

Je ne suis pas expert dans ce domaine.

Lorsque je me forme sur un sujet, j’aime commencer par comprendre le contexte global, son histoire et alterner entre l’acquisition de connaissances théoriques et pratiques.

Pour me former sérieusement, j'envisage un jour de prendre le temps de :

• Suivre les vidéos de Thibault Neveu, en particulier :
  • Écouter et essayer de reproduire le contenu des 16 vidéos de la série "Formation au Deep Learning" (~3h)
  • Ensuite la série de 5 vidéos "Tensorflow et Keras" (~5h)
  • Ensuite la série de 13 vidéos "Apprentissage par renforcement" (~8h)
  • Ensuite la série de 10 vidéos "Deep learning avancé" (~8h)
  • Ensuite la série de 22 vidéos "Formation à Tensorflow 2.0" (~8h)
  • Ensuite la série de 4 vidéos "Pytorch NLP" (~2h)
  • Ensuite là série de 3 vidéos "Créer une intelligence artificielle sur StarCraft II" (~2h)
• Essayer de comprendre le fonctionnement des "transformer" :
  • Pour cela, je commencerai écouter la vidéo "À quoi ressemble ChatGPT ? 🌶️" de Lê Nguyên Hoang, qui présente la structure des transformers (~1h)
  • Lire les articles Wikipedia (~1h) :
    • Transformeur
    • Transformer (deep learning architecture)
  • Lire l'article "Natural Language Processing: the age of Transformers" (~2h)
    • Lire l'article : "Word Embeddings in NLP: An Introduction" (~2h)
    • Lire l'article : "Attention Is All You Need" (~2h)
• Parcourir les mises en pratique de Simon Willison : https://til.simonwillison.net/llms (~3h)

Je n'ai pas classé l'ordre d'étude des séries avec rigueur, cet ordre est sans doute à modifier.

Pour chaque élément, j'ai précisé entre parenthèses une estimation optimiste du temps nécessaire à l'écoute ou à la lecture.

D'après cette liste, j'estime à environ 86 heures pour me former sur ce sujet, soit l'équivalent de 15 jours à temps plein ou presque un mois complet.

Ensuite, j'ai quelques idées de projets de mise en pratique :

• Développer une extension pour navigateur qui, lors de la rédaction d’un e-mail depuis Fastmail, transforme automatiquement le contenu du message en HTML en texte brut au format Markdown.
  • Ajouter ensuite une fonctionnalité pour supprimer automatiquement les signatures.
• Concevoir un outil capable de découper une vidéo de Tennis de Table en segments correspondant à chaque point joué.