Los sistemas de inteligencia artificial (IA) más potentes en el sector bancario a menudo funcionan como "cajas negras," tomando decisiones sin revelar el proceso que las originó. Esta falta de transparencia representa un desafío significativo para los estándares de gobernanza y regulación bancaria. La opacidad de estos modelos dificulta la identificación y mitigación de potenciales sesgos o errores en las decisiones financieras. Expertos enfatizan la necesidad de una mayor explicabilidad en la IA para asegurar la confianza y el cumplimiento normativo. La incapacidad de entender cómo la IA llega a una conclusión impide la auditoría y la responsabilidad. Esto genera preocupación sobre la equidad y la justicia en la aplicación de la IA en servicios financieros. Abordar esta problemática es crucial para la adopción responsable de la IA en la banca.