सेलेब्रिटी के नाम पर मेटा ने बनाए फ्लर्ट करने वाले चैट बॉट्स

एक रिपोर्ट में सामने आया है कि फेसबुक,वॉट्सएप और इंस्टाग्राम की पेरंट कंपनी मेटा ने कई हॉलीवुड सेलेब्रिटीज के नाम का इस्तेमाल कर फ्लर्ट करने वाले दर्जनों एआई चैटबॉट को मंजूरी दे दी. जाहिर है, ऐसा इन हस्तियों की इजाजत के बगैर किया गया है. इस लिस्ट में टेलर स्विफ्ट, स्कार्लेट जोहानसन, सेलेन गोमेज और ऐन हैथवे जैसे कई बड़े नाम शामिल हैं. यह जानकारी समाचार एजेंसी रॉयटर्स की नई पड़ताल में सामने आई है.

पड़ताल में सामने आया कि ज्यादातर बॉट्स जहां यूजर्स ने मेटा के टूल्स का इस्तेमाल कर खुद बनाए, वहीं, तीन चैटबॉट्स ऐसे भी थे जिन्हें खुद मेटा के एक कर्मचारी ने बनाया था. हालांकि, मेटा का कहना है कि ये बॉट्स टेस्ट के लिए कर्मचारियों ने बनाए थे. लेकिन रॉयटर्स ने पाया कि ये बॉट्स आम लोगों की पहुंच में भी थे. इन बॉट्स से करीब 1 करोड़ से अधिक लोगों ने बातचीत की थी. मेटा ने यूजर्स को कई नाबालिग कलाकारों के एआई चैटबॉट्स अकाउंट बनाने के विकल्प भी दिए.

अपनी ही नीतियां लागू करने में असफल रहा मेटा

कलाकारों के ये वर्चुअल रूप मेटा के सभी प्लैफॉर्म पर मौजूद हैं. हफ्तों तक चली रॉयटर्स की जांच में यह भी सामने आया कि ये बॉट्स लगातार यह जताने की कोशिश करते रहे कि वे असली कलाकार हैं. इन बॉट्स ने सेलेब्रिटीज की कई आपत्तिजनक तस्वीरें बनाकर भी यूजर्स को दीं. यूजर्स ने जब इन अकाउंट्स से निजी तस्वीरों की मांग की तो उन्हें उन कलाकारों की बिलकुल असली दिखने वाली तस्वीरें बनाकर दी गईं.

मेटा के प्रवक्ता ऐंडी स्टोन ने रॉयटर्स से कहा कि मेटा के एआई टूल्स को किसी भी बालिग या नाबालिग कलाकार की ऐसी तस्वीरें नहीं बनानी चाहिए थी. खासकर महिला कलाकारों की तस्वीरों पर उन्होंने कहा कि ऐसी तस्वीरों को बनाने से रोकने के लिए मेटा अपनी ही नीतियों को लागू करने में असफल रहा है.

हर उम्र के लोगों के लिए बनाए जा रहे ऐसे चैटबॉट्स

मेटा की एआई पॉलिसी के तहत किसी भी इंसान की निजी, नग्न या आपत्तिजनक तस्वीरें बनाने पर रोक है. मेटा के मुताबिक मशहूर कलाकारों के ये अकाउंट इसलिए बने क्योंकि वे असली नहीं बल्कि पैरोडी अकाउंट थे. हालांकि, रॉयटर्स ने अपनी रिपोर्ट में लिखा है कि उन्हें कलाकारों के कई ऐसे अकाउंट भी मिले जो पैरोडी नहीं बल्कि असली होने का दावा कर रहे थे. झांसा देकर कई अकाउंट्स ने तो यूजर्स को मिलने तक बुलाया या फिर उनसे निजी बातें करने की कोशिश की.

नाबालिग कलाकारों के अकाउंट्स से भी यूजर्स को ऐसी तस्वीरें साझा की गईं. यह पहली बार नहीं है जब एआई से जुड़ी अपनी नीतियों को लेकर मेटा सवालों के घेरे में है. इससे पहले मेटा पर यह आरोप लग चुका है कि उसकी एआई पॉलिसी में बच्चों को रोमांटिक और उत्तेजक बातचीत का हिस्सा बनाने को मंजूरी मिली हुई थी. इसकी जांच अमेरिकी में हुई जिसके बाद मेटा सहित कई कंपनियों को बच्चों को यौन दुर्व्यवहार से बचाने की हिदायत दी गई थी. स्टोन के मुताबिक मेटा अपनी एआई नीतियों को बदल रहा है.