Divergences lors de l’utilisation de différents outils AI Search

Différents outils de recherche IA peuvent renvoyer des réponses différentes pour des recherches identiques ou similaires. Cette différence de résultats est attendue. Cela se produit parce que chaque grand modèle de langage (LLM) utilise une approche différente pour trouver des résultats et générer des réponses qui correspondent à votre recherche.

Vue d’ensemble de la façon dont les LLM créent des réponses

Les grands modèles de langue ne récupèrent pas les réponses à partir d’une source unique. Au lieu de cela, ils génèrent des réponses en prédisant le prochain mot le plus probable, un par un, en fonction des modèles qu’ils ont appris à partir des données sur lesquelles ils ont été formés.

Pour cette raison, plusieurs facteurs peuvent faire varier les réponses à chaque fois. Ces facteurs sont les suivants :

• Probabilité
• Plusieurs bonnes réponses
• Sensibilité au contexte
• Variation LLM

La génération de réponses implique probabilité, contexte et variation. Par conséquent, les réponses à la même question peuvent différer légèrement à chaque fois qu’elle est posée et d’un fournisseur à l’autre.

Pour plus d’informations sur les différences dans les résultats de ServiceNow l’IA, voir Search result disparities between AI Search and Now Assist search features.

Now LLM Service Réponse par rapport à Azure : réponse

Figure 1. La différence dans les réponses par Now LLM Service et Azure pour obtenir des informations sur le remboursement des frais de scolarité