#

Points clés

• OpenAI a publié son approche pour identifier le texte généré le 5 octobre.

• L'entreprise indique que les obligations du règlement européen sur l'IA motivent un déploiement progressif.

• Le filigrane API est désactivé par défaut pour les clients mondiaux éligibles.

• OpenAI prévoit des marques invisibles pour le texte éligible de ChatGPT et Codex dans l'UE.

• La détection est imparfaite, surtout pour les passages courts ou modifiés.

• Aucun déploiement au Maroc n'est annoncé dans la source.

L'approche d'OpenAI en matière de provenance textuelle

OpenAI a publié son approche pour identifier le texte généré le 5 octobre. L'entreprise indique que les obligations du règlement européen sur l'IA motivent un déploiement progressif. Elle précise aussi que la détection de texte reste imparfaite.

La méthode, appelée textGrain, modifie le schéma statistique des choix de mots. Elle n'ajoute pas d'étiquette visible. OpenAI indique que cela vise à soutenir la provenance, et non à faire de larges affirmations sur la paternité.

Comment le déploiement fonctionne

À partir de la date de publication, les clients API éligibles dans le monde entier peuvent activer l'option pour certains modèles. Le filigrane API est désactivé par défaut. OpenAI prévoit aussi d'ajouter des marques invisibles au texte éligible de ChatGPT et Codex généré dans l'Union européenne au cours des semaines suivantes.

Il s'agit d'un déploiement dans l'UE, et non d'un paramètre global par défaut pour ChatGPT. La source indique également qu'OpenAI accepte des candidatures de chercheurs et d'organisations expertes pour un accès limité au détecteur. L'entreprise n'offre pas d'usage public sans restriction.

Ce que le détecteur peut et ne peut pas faire

OpenAI indique que le détecteur est conçu pour évaluer si un passage porte un filigrane OpenAI. Il n'est pas destiné à révéler un utilisateur, une invite, un compte ou une conversation. C'est une limite importante de ce que l'outil peut indiquer aux lecteurs.

L'entreprise précise aussi que les passages courts ou contraints sont plus difficiles à détecter. Les modifications affaiblissent le signal. Dans un exemple, le remplacement de dix pour cent des mots par des synonymes a réduit un taux mesuré d'environ quatre-vingt-douze pour cent à soixante-six pour cent.

Résultats d'évaluation rapportés

OpenAI rapporte des résultats d'évaluation avec un taux cible de faux positifs de un pour cent. L'entreprise a identifié environ quatre-vingts pour cent des passages de psychologie de 200 jetons filigranés. Elle a identifié environ quatre-vingt-quinze pour cent des passages de 400 jetons dans la même évaluation.

Ces chiffres montrent que les performances s'améliorent avec un texte plus long. Ils montrent aussi que la détection n'est pas parfaite. La source précise clairement qu'un filigrane n'établit ni l'exactitude, ni la propriété, ni la légalité, ni le degré de contribution humaine.

Gouvernance et considérations opérationnelles

La source insiste sur les limites d'interprétation. Un échec de détection ne prouve pas une paternité humaine. Cela compte, car les outils de provenance peuvent soutenir l'examen, mais ils ne peuvent pas trancher toutes les questions à eux seuls.

OpenAI indique que ses outils publics de vérification d'images et d'audio restent accessibles. Le déploiement de la provenance textuelle est distinct de ces outils. La source ne décrit pas d'accès public plus large pour le détecteur de texte.

Pertinence pour le Maroc

La source ne signale aucun déploiement ni programme spécifique au Maroc. Pour les lecteurs, la leçon globale est simple : les outils de provenance peuvent aider, mais leurs limites doivent guider leur utilisation.

Ce que cela signifie pour les lecteurs

Le message principal est un déploiement prudent. OpenAI associe un déploiement progressif à un accès limité et à des avertissements explicites sur les limites de détection. Cette approche suggère que l'entreprise considère la provenance comme utile, mais non définitive.

Pour les équipes qui évaluent des outils similaires, la source met en avant trois questions pratiques. Comment l'outil sera-t-il utilisé, qui peut y accéder et quelles décisions soutiendra-t-il ? Ces questions comptent, car le détecteur ne peut pas répondre seul à toutes les questions de paternité ou de légalité.