Un estudio reciente, citado por la BBC, ha revelado graves fallos de seguridad en la versión pública más reciente de ChatGPT. Según la investigación, la inteligencia artificial es capaz de generar imágenes sexualizadas y escenas de violencia gráfica mediante instrucciones sencillas. El hallazgo fue realizado por una empresa especializada en la seguridad de imágenes de IA, que logró evadir los filtros de contenido del sistema. Este descubrimiento pone en duda la eficacia de las restricciones implementadas por los desarrolladores para evitar la creación de material dañino. El informe subraya la facilidad con la que se pueden manipular las herramientas de generación de contenido. Actualmente, se analiza el impacto de estas vulnerabilidades en la seguridad del usuario final. El caso resalta la necesidad de reforzar los protocolos de moderación en las IA generativas.