Un nouveau rapport d'OpenAI révèle que des comptes liés à la Chine ont utilisé ChatGPT pour générer des personnalités factices sur Facebook, dans le but de masquer leurs activités. L'intelligence artificielle a également été sollicitée pour concevoir un outil de surveillance de l'opinion en ligne, ciblant spécifiquement des individus considérés comme "clés". Ce logiciel aurait pour objectif de collecter des contenus jugés "nuisibles". OpenAI souligne que ces actions démontrent une tentative d'influence et de manipulation de l'information via l'utilisation détournée de son modèle de langage. Le rapport met en évidence la capacité de ChatGPT à être exploité à des fins malveillantes, notamment pour la désinformation et la surveillance. L'entreprise a pris des mesures pour contrer ces utilisations abusives, mais la menace persiste. Ces découvertes soulèvent des inquiétudes quant à l'impact potentiel de l'IA sur la sécurité et l'intégrité des plateformes en ligne.