हाल ही में किए गए एक अध्ययन में, चैटजीपीटी, क्लॉड, ग्रोक और कोपायलट जैसे लोकप्रिय एआई उपकरणों में लैंगिक भेदभाव के संकेत मिले हैं। 112 विभिन्न संकेतों के जवाबों के विश्लेषण से पता चला कि एआई ने पुरुषों को महत्वाकांक्षाओं और भविष्य की योजनाओं से जोड़ा, जबकि महिलाओं को अक्सर भावनाओं, रिश्तों और देखभाल करने की भूमिकाओं तक सीमित कर दिया। शोधकर्ताओं का मानना है कि यह पूर्वाग्रह एआई को प्रशिक्षित करने के लिए उपयोग किए गए विशाल डेटासेट में मौजूद ऐतिहासिक लैंगिक रूढ़ियों का परिणाम है। एआई उपकरण, अनजाने में, समाज में व्याप्त लैंगिक असमानताओं को दोहरा रहे हैं। यह अध्ययन एआई सिस्टम में निष्पक्षता और समानता सुनिश्चित करने की आवश्यकता पर प्रकाश डालता है। इस पूर्वाग्रह को दूर करने के लिए एआई प्रशिक्षण डेटा और एल्गोरिदम में सुधार की आवश्यकता है। यह खोज एआई के विकास में नैतिक विचारों के महत्व को रेखांकित करती है।