The RAG pipeline, from indexing to answer
Retrieval-augmented generation hands a language model relevant passages at answer time. Its quality is decided first at retrieval: what is not found cannot be cited.
Intermédiaire · 10 min de lecture ·
Modèles de langage, architectures et systèmes d’IA.
4 fiche(s)
Retrieval-augmented generation hands a language model relevant passages at answer time. Its quality is decided first at retrieval: what is not found cannot be cited.
Intermédiaire · 10 min de lecture ·
La génération augmentée par récupération donne à un modèle de langage des passages pertinents au moment de répondre. Sa qualité se joue d’abord à la récupération : ce qui n’est pas retrouvé ne peut pas être cité.
Intermédiaire · 11 min de lecture ·
A mixture of experts hands each input to a few sub-networks chosen by a router. The parameter count grows with the number of experts, but the computation per token depends only on .
Avancé · 11 min de lecture ·
Un mélange d’experts confie chaque entrée à quelques sous-réseaux choisis par un routeur. Le nombre de paramètres augmente avec le nombre d’experts, mais le calcul par jeton ne dépend que de .
Avancé · 11 min de lecture ·