नई दिल्ली:- एलन मस्क की कंपनी xAI ने अपने एआई-पावर्ड चैटबॉट ग्रोक के बारे में एक महत्वपूर्ण बयान जारी किया है। कंपनी का दावा है कि ग्रोक द्वारा “व्हाइट जेनोसाइड” यानी “श्वेत नरसंहार” जैसी संवेदनशील और विवादित सामग्री को बढ़ावा देने के पीछे एक अनधिकृत बदलाव था।
क्या है मामला?
ग़लत बदलाव के कारण ग्रोक ने दक्षिण अफ़्रीका में श्वेत नरसंहार के बारे में जानकारी देना शुरू कर दिया, यहाँ तक कि असंबंधित विषयों पर भी। ग्रोक का यह जवाब सोशल मीडिया प्लेटफ़ॉर्म एक्स पर आया, जहां यह चैटबॉट उपयोगकर्ताओं के सवालों का जवाब देने के लिए सक्रिय था। xAI ने माना है कि यह दूसरा मौका है जब ग्रोक के कोड में अनधिकृत बदलाव के कारण यह विवादित प्रतिक्रियाएं आईं।
पहले भी हो चुका है ऐसा
फरवरी में ग्रोक ने डोनाल्ड ट्रंप और एलन मस्क के बारे में गलत जानकारी देने से बचने के लिए सेंसरशिप लागू की थी। xAI के इंजीनियरिंग लीड इगोर बाबुशकिन ने बताया कि एक रॉग कर्मचारी ने ग्रोक को ऐसा करने के निर्देश दिए थे। xAI ने तुरंत इस बदलाव को वापस ले लिया था ।
xAI की कार्रवाई
xAI ने इस अनधिकृत बदलाव के लिए जांच की और अब ग्रोक की प्रणाली को और अधिक पारदर्शी और विश्वसनीय बनाने के लिए कदम उठा रही है। कंपनी ने ग्रोक के सिस्टम प्रॉम्प्ट्स को गिटहब पर सार्वजनिक कर दिया है और एक चेंजलॉग बनाए रखने का फैसला किया है ताकि भविष्य में ऐसे बदलावों को ट्रैक किया जा सके। इसके अलावा, xAI अब आंतरिक प्रॉम्प्ट बदलावों पर नई जांच लागू करेगी और 24/7 मानव निगरानी टीम स्थापित करेगी जो स्वचालित सिस्टम द्वारा फ्लैग नहीं किए गए आउटपुट की समीक्षा करेगी।
xAI की इस कार्रवाई से पता चलता है कि कंपनी अपने एआई सिस्टम की सुरक्षा और विश्वसनीयता को लेकर गंभीर है। ग्रोक के साथ हुई इस घटना से यह भी सीखने को मिलता है कि एआई सिस्टम में अनधिकृत बदलाव कितना बड़ा खतरा हो सकते हैं। अब देखना यह होगा कि xAI के नए कदम ग्रोक को और अधिक सुरक्षित और विश्वसनीय बना पाते हैं या नहीं।
