Français · 11 épisodes publiés
Quatre façons de comprendre l'IA : des notions essentielles, des idées reliées entre elles, des analyses approfondies et l'actualité de la semaine. Nouveaux épisodes en français de France. Andy's Café existe aussi dans d'autres langues : English, Deutsch, Italiano et Español. Brewed by machines. Tasted by humans.
Pourquoi l’entraînement et l’inférence exigent autant de calcul, de mouvement de données et de coordination, et pourquoi davantage de ressources ne garantit ni vérité ni valeur.
Cette semaine dans le Morning Paper : évaluations de cybersécurité, Astra d’OpenAI, recherche mathématique, direction de Google, nouveaux modèles, alimentation des centres de données et agents autonomes.
Comment la prédiction fluide du token suivant peut produire des affirmations fausses, ce que signifient confiance et calibration, et comment vérifier une réponse sans rejeter toutes les réponses.
Une possible avancée mathématique avec Claude, des modèles plus rapides et plus endurants, les poids ouverts de Meta, le milliard d’utilisateurs mensuels revendiqué pour Gemini, la publicité dans ChatGPT, des consultations vidéo simulées et le report par Z.ai de la publication des poids du modèle.
Comment la prédiction du token suivant modifie les poids d’un modèle, ce que le post-entraînement ajoute, et pourquoi le contexte et la recherche ne sont pas un apprentissage permanent.
Comment le pré-entraînement construit une base générale, comment l’ajustement adapte un modèle existant, ce que le post-entraînement ajoute et pourquoi ces notions se recouvrent.
Où s’arrête le modèle entraîné, ce qui transforme un système en agent, le rôle du harnais qui l’entoure et pourquoi davantage d’autonomie n’est pas toujours préférable.
Pourquoi une longue conversation peut retenir une préférence tout en oubliant une instruction ancienne, et comment les tokens, le contexte, la mémoire et la recherche s’articulent.
La différence entre entraîner un modèle et l’utiliser pour produire une réponse, et pourquoi le prompt, le contexte et la mémoire ne modifient pas automatiquement ses paramètres.
Pourquoi les modèles de langage découpent le texte en tokens, comment fonctionne la tokenisation, et pourquoi ces unités déterminent le contexte, la vitesse et le coût.
Qu’est-ce qu’un modèle d’intelligence artificielle, où commence le système qui l’entoure et que produit réellement l’entraînement ?