Les systèmes d'intelligence artificielle (IA) les plus performants opèrent souvent comme des « boîtes noires », rendant leurs processus décisionnels opaques. Cette opacité constitue un défi majeur pour la conformité aux normes de gouvernance dans le secteur bancaire. Les banques sont tenues de comprendre et d'expliquer comment leurs modèles prennent des décisions, notamment en matière de crédit ou de détection de fraude. L'IA "boîte noire" ne permet pas cette transparence, engrenant des risques réglementaires et de confiance. L'absence d'explicabilité soulève des questions sur la potentielle discrimination ou les biais intégrés dans ces modèles. Il est donc crucial de développer des IA plus transparentes ou d'adopter des mécanismes de surveillance et d'audit plus robustes. La réglementation bancaire s'adapte progressivement pour intégrer ces défis posés par l'IA.