Qu’est-ce qu’un token ?
Les applications dites d’IA comme chatGPT comptent parmi les modèles linguistiques les plus puissants disponibles aujourd’hui, avec la capacité de générer des textes à la fois cohérents et pertinents sur le plan contextuel. Ces modèles utilisent des jetons (« tokens » en anglais) comme unité de mesure qui calcule la quantité de texte que l’IA peut traiter en une seule fois : la mesure prend en compte les caractères, les espaces, la ponctuation.
Ils peuvent être aussi courts qu’un caractère ou aussi longs qu’un mot
Par exemple : Environnemental = 3 tokens : Environ — nemen — tal. Géographique = 3 tokens : Gé — ograph – ique.
