#

Points clés

• OpenAI indique avoir désactivé deux opérations d'influence clandestines.

• L'une des opérations provenait de Russie et ciblait des publics en Amérique latine.

• L'autre provenait d'Iran et utilisait des identités inventées de journalistes.

• OpenAI indique que l'IA a aidé à rédiger des rapports internes, mais que ces rapports ont peut-être exagéré les résultats.

• Le rapport décrit des tactiques observées et des mesures d'application, et non une preuve indépendante de chaque effet revendiqué.

Le rapport de sécurité du 8 octobre d'OpenAI

OpenAI indique avoir désactivé deux opérations d'influence clandestines qui utilisaient ChatGPT en parallèle de méthodes plus anciennes. L'entreprise décrit ces deux efforts comme des tentatives de créer des fronts apparemment indépendants. Elle présente les conclusions comme un rapport d'application et d'évaluation.

Le rapport du 8 octobre décrit deux opérations d’influence qu’OpenAI dit avoir interrompues. Son récit distingue les observations de l’entreprise des affirmations des opérateurs. Cela importe, car le rapport porte sur des tactiques observées, et non sur une vérification complète de chaque résultat revendiqué.

Ce qu'OpenAI dit avoir trouvé

Selon OpenAI, une opération provenait de Russie et ciblait des publics en Amérique latine. OpenAI indique que l'effort semblait diriger une organisation de recherche en Amérique latine. Elle précise aussi que le personnel local ne savait pas qui la contrôlait.

OpenAI indique que l'autre opération provenait d'Iran. Elle dit que l'effort iranien utilisait sept identités inventées de journalistes. Ces identités servaient à proposer de longs articles à de petits éditeurs en ligne. OpenAI indique aussi que l'effort générait des groupes de commentaires sur les réseaux sociaux.

Le rapport indique que les opérateurs ont largement utilisé l'IA pour rédiger des rapports internes. OpenAI dit que ces rapports ont parfois exagéré les résultats. La source indique aussi que certains contenus ont atteint des médias grand public, mais OpenAI précise que tous les éléments publiés n'ont pas été créés avec ses modèles.

Comment OpenAI présente l'ampleur et les preuves

OpenAI classe l'activité d'origine russe dans la catégorie cinq sur l'échelle citée de portée des opérations d'influence. Elle classe l'activité d'origine iranienne dans la catégorie quatre. OpenAI indique que l’échelle Breakout va de un, la portée potentielle la plus faible, à six, la plus élevée. Ces notes sont des évaluations d’OpenAI.

Le rapport décrit aussi de faux documents et scripts, ainsi que des tentatives ordinaires de placement éditorial. Ce mélange suggère que les opérations utilisaient à la fois des matériaux fabriqués et des méthodes de sensibilisation classiques. Néanmoins, la source prend soin de distinguer l'évaluation d'OpenAI d'une vérification indépendante.

Pourquoi cette distinction est importante

La source avertit à plusieurs reprises qu'il ne faut pas traiter les affirmations des opérateurs comme des faits prouvés. Le rapport d'OpenAI porte sur ce qu'il a observé et ce qu'il a désactivé. Il ne prouve pas que chaque résultat revendiqué s'est produit exactement comme décrit.

Cette distinction est importante pour les lecteurs. Une opération d'influence clandestine peut produire des rapports internes, des propositions et des brouillons de contenu sans prouver à elle seule sa portée ou son impact. La prudence d'OpenAI montre que les résultats publiés et les affirmations des opérateurs ne sont pas la même chose.

Pertinence pour le Maroc

La source ne signale aucune cible, aucun éditeur, aucune opération ni aucune réponse politique spécifique au Maroc. La seule leçon sûre est conditionnelle et globale : les lecteurs devraient distinguer les évaluations des plateformes de la vérification indépendante lorsqu'ils examinent des affirmations liées à des opérations d'influence.

Ce que les lecteurs devraient surveiller

Ce rapport met en évidence un schéma familier. Les opérateurs peuvent combiner du texte généré par l'IA avec des tactiques plus anciennes comme de fausses identités, des propositions éditoriales et des documents fabriqués. Cette combinaison peut donner à un faux front une apparence plus légitime qu'il ne l'est.

OpenAI compare ces cas aux 30 opérations d’influence qu’elle dit avoir révélées en environ deux ans et demi, tout en évaluant séparément la portée des deux nouvelles opérations. Elle n'affirme pas non plus que chaque élément lié aux opérations a été généré par l'IA. Les lecteurs devraient donc considérer le rapport comme une mesure d'application documentée, et non comme une affirmation générale sur tout le contenu associé.

En résumé

OpenAI indique avoir perturbé deux opérations d'influence clandestines et publié son évaluation le 8 octobre. Un cas provenait de Russie, et l'autre d'Iran. Les deux utilisaient l'IA pour soutenir des efforts de tromperie plus larges.

L'essentiel est simple. L'IA peut accélérer le travail d'influence, mais elle peut aussi laisser des traces que les plateformes peuvent détecter. Le rapport montre qu'OpenAI agit sur ces traces, tout en avertissant les lecteurs de ne pas surinterpréter les affirmations des opérateurs.