सैन फ्रांसिस्को, 30 जनवरी (आईएएनएस)। मशहूर हस्तियों की गैर-सहमति वाली इमेज बनाने के दुरुपयोग को लेेकर माइक्रोसॉफ्ट ने अपने एआई टेक्स्ट टू इमेज जेनरेशन टूल डिजाइनर में अधिक सुरक्षा पेश की है।
404 मीडिया की रिपोर्ट के अनुसार, यह बदलाव एआई द्वारा अमेरिकी गायक-गीतकार टेलर स्विफ्ट की नग्न तस्वीरें तैयार करने के बाद आया है, जो पिछले हफ्ते एक्स पर वायरल हो गई थी, जो एक टेलीग्राम चैनल से आई थी, जहां लोग मशहूर हस्तियों की एआई तस्वीरें बनाने के लिए डिजाइनर का उपयोग कर रहे थे।
माइक्रोसॉफ्ट के प्रवक्ता के हवाले से कहा गया, “हम इन रिपोर्टों की जांच कर रहे हैं और उन्हें संबोधित करने के लिए उचित कार्रवाई कर रहे हैं।”
उन्होंने कहा, “हमारी आचार संहिता वयस्क या गैर-सहमति वाली अंतरंग सामग्री के निर्माण के लिए हमारे टूल के उपयोग पर रोक लगाती है, और हमारी नीतियों के खिलाफ जाने वाली सामग्री का उत्पादन करने के किसी भी प्रयास के परिणामस्वरूप सेवा तक पहुंच का नुकसान हो सकता है। हमारे पास बड़ी टीमें हैं जो हमारे जिम्मेदार एआई सिद्धांतों के अनुरूप रेलिंग और अन्य सुरक्षा प्रणालियों के विकास पर काम कर रही हैं।”
माइक्रोसॉफ्ट ने कहा कि चल रही जांच यह पुष्टि करने में असमर्थ है कि एक्स पर स्विफ्ट की छवियां डिजाइनर का उपयोग करके बनाई गई थीं या नहीं। हालांकि कंपनी अपने टेक्स्ट फ़िल्टरिंग संकेतों को मजबूत करना जारी रख रही है और रिपोर्ट में उल्लिखित अपनी सेवाओं के दुरुपयोग को संबोधित कर रही है।
इस बीच माइक्रोसॉफ्ट के अध्यक्ष और सीईओ सत्या नडेला ने कहा है कि स्विफ्ट एआई नकली “खतरनाक और भयानक” हैं।
एनबीसी नाइटली न्यूज के साथ एक साक्षात्कार में नडेला ने कहा कि “मुझे लगता है कि हमें इस पर तेजी से काम करना चाहिए।”
कथित तौर पर स्विफ्ट डीपफेक तैयार करने के लिए जिम्मेदार वेबसाइट के खिलाफ संभावित कानूनी कार्रवाई पर विचार कर रही है।
