Dans cet article
- la différence entre entraîner un modèle et l’utiliser
- pourquoi certains services réutilisent les conversations
- comment vérifier ce que fait votre outil, et notre engagement
Deux moments bien distincts
La vie d’un modèle d’IA comporte deux moments.
- L’entraînement : le modèle apprend, à partir de très grandes quantités de textes. C’est long, coûteux, et fait par l’éditeur du modèle.
- L’utilisation (ou inférence) : le modèle, déjà entraîné, répond à vos demandes. Il lit vos informations pour répondre, mais n’en tire pas de nouvel apprentissage à ce moment-là.
Utiliser une IA ne revient donc pas automatiquement à l’entraîner. Tout dépend de ce que le service fait ensuite des échanges.
Quand les conversations servent à l’entraînement
Certains services, en particulier dans leurs versions gratuites ou grand public, peuvent réutiliser les conversations de leurs utilisateurs pour améliorer leurs futurs modèles, parfois par défaut, avec une option pour le refuser. Les offres professionnelles prévoient généralement l’inverse, par contrat. Les conditions varient d’un service à l’autre et évoluent : il faut les lire.
Quel est le risque concret ?
Un modèle entraîné sur des conversations peut, dans de rares cas, restituer des fragments de ce qu’il a vu. Mais le risque principal est ailleurs : vos informations quittent votre maîtrise et sont conservées par un tiers, pour un usage que vous n’avez pas choisi. Pour un contrat, un fichier clients ou des chiffres, ce n’est pas acceptable.
Comment vérifier
- Lisez les conditions d’utilisation et la politique de confidentialité du service, à la rubrique sur l’amélioration des modèles.
- Vérifiez les réglages du compte : une option permet souvent de désactiver l’utilisation des conversations.
- Pour une entreprise, privilégiez une offre professionnelle dont le contrat exclut l’entraînement sur vos données.
- Demandez-le par écrit à votre prestataire.
L’engagement d’OpterIA
Avec Bobby, la réponse est simple : vos données servent uniquement à faire travailler Bobby pour vous. Elles n’entraînent aucune IA publique.
Ce qui progresse avec le temps, c’est la mémoire de votre entreprise : quand vous corrigez Bobby, il retient la correction pour les fois suivantes. Cette mémoire vous est propre et travaille pour vous seul. Voir un seul usage, aucun entraînement.