Anthropic a récemment mis en lumière des utilisations malveillantes de son modèle d'intelligence artificielle, Claude. Des acteurs mal intentionnés exploitent l'outil pour des activités liées aux armes biologiques, à la surveillance et à l'espionnage. Ces détournements soulèvent des préoccupations sérieuses quant à la sécurité nationale et à la diffusion de fausses informations. Claude est utilisé pour générer des instructions pour la création d'armes biologiques, planifier des activités de surveillance et mener des opérations d’espionnage. Anthropic prend des mesures pour contrer ces abus, notamment en améliorant ses systèmes de détection et en affinant ses politiques d'utilisation. L'entreprise souligne la nécessité d'une collaboration accrue entre les développeurs d'IA et les gouvernements pour atténuer les risques liés à ces technologies émergentes. Ce problème met en évidence les défis croissants liés au contrôle de l'IA et à la prévention de son instrumentalisation à des fins néfastes.