आधुनिक बैंकिंग प्रणाली में, कृत्रिम बुद्धिमत्ता (एआई) का उपयोग तेजी से बढ़ रहा है। लेकिन, कुछ सबसे शक्तिशाली एआई सिस्टम "ब्लैक बॉक्स" की तरह काम करते हैं, जिसका अर्थ है कि वे निर्णय तो लेते हैं, पर यह स्पष्ट नहीं कर पाते कि वे उस नतीजे पर कैसे पहुंचे। इस पारदर्शिता की कमी से शासन और नियमों का पालन करने में बड़ी चुनौतियाँ आती हैं। बैंकिंग क्षेत्र में, जहाँ जवाबदेही और पारदर्शिता महत्वपूर्ण है, इस तरह के 'ब्लैक बॉक्स' मॉडल नियामक मानकों को पूरा करने में विफल हो सकते हैं। विशेषज्ञ इस बात पर जोर देते हैं कि एआई सिस्टम को अधिक व्याख्या योग्य बनाने की आवश्यकता है ताकि उनके निर्णयों को समझा जा सके और उनकी जांच की जा सके। पारदर्शिता के बिना, इन मॉडलों का उपयोग भेदभाव या अन्य अनुचित परिणामों को जन्म दे सकता है, जिससे उपभोक्ताओं और वित्तीय प्रणाली दोनों को खतरा हो सकता है। इसलिए, बैंकिंग में एआई के उपयोग को सुरक्षित और नैतिक बनाने के लिए सख्त नियमों और निगरानी की आवश्यकता है।