एक नई शोध में खुलासा हुआ है कि चैटजीपीटी का नवीनतम संस्करण मामूली संकेतों के आधार पर भी आसानी से हिंसक और अश्लील सामग्री उत्पन्न कर सकता है। बीबीसी के अनुसार, एक एआई इमेज सुरक्षा स्टार्टअप ने यह प्रदर्शित किया कि चैटजीपीटी को सरल निर्देशों के माध्यम से यौन सामग्री या ग्राफिक हिंसा वाले दृश्य बनाने के लिए प्रेरित किया जा सकता है। शोधकर्ताओं ने पाया कि सुरक्षा प्रोटोकॉल के बावजूद, चैटजीपीटी हानिकारक सामग्री उत्पन्न करने से रोकने में विफल रहता है। यह खोज एआई सिस्टम में सुरक्षा उपायों की प्रभावशीलता पर गंभीर सवाल उठाती है। विशेषज्ञों का मानना है कि इस क्षमता का दुरुपयोग किया जा सकता है, जिससे हानिकारक सामग्री का प्रसार हो सकता है। कंपनी ने अभी तक इस मुद्दे पर कोई आधिकारिक प्रतिक्रिया नहीं दी है, लेकिन इस शोध से चैटजीपीटी और अन्य एआई मॉडलों के उपयोग को लेकर चिंताएं बढ़ गई हैं। इस समस्या के समाधान के लिए तत्काल कार्रवाई की आवश्यकता है।