भारत में कृत्रिम बुद्धिमत्ता (एआई) आधारित छवियों का इस्तेमाल तेजी से मुस्लिम विरोधी नफ़रत और गलत सूचना फैलाने के लिए किया जा रहा है। सेंटर फॉर द स्टडी ऑफ ऑर्गनाइज्ड हेट (CSOH) की नई रिपोर्ट ने खुलासा किया है कि जनरेटिव एआई टूल्स का उपयोग मुसलमानों के खिलाफ हिंसा भड़काने, पूर्वाग्रह बढ़ाने और समाज में विभाजन गहराने वाली तस्वीरें बनाने में किया जा रहा है।
रिपोर्ट की सह-शोधकर्ता नबिया खान ने बताया कि सोशल मीडिया पर इस्लामोफोबिक सामग्री की बाढ़ “एआई के उदय के जोखिम का लक्षण और प्रवर्धक” दोनों है। उन्होंने कहा कि “इन उपकरणों ने पुराने पूर्वाग्रहों को मापनीय, तेज़, सस्ता और पकड़ में आने में मुश्किल बना दिया है।”
अध्ययन में एक्स (ट्विटर), फेसबुक और इंस्टाग्राम के 297 खातों से 1,326 एआई-निर्मित तस्वीरों का विश्लेषण किया गया, जिन्हें लगभग 2.73 करोड़ बार देखा गया। इनमें अधिकतर तस्वीरें मुस्लिम पुरुषों को हिंसक रूप में और मुस्लिम महिलाओं को यौन वस्तु के रूप में दिखाती हैं।
रिपोर्ट में कहा गया है कि यह सामग्री “भारत के धार्मिक अल्पसंख्यकों पर गंभीर प्रभाव डाल रही है।” एआई-निर्मित छवियां “पहले से मौजूद नफ़रत को स्वचालित” कर रही हैं — यानी नफ़रत नई नहीं है, लेकिन अब उसे फैलाना आसान हो गया है।
इन छवियों में “लव जिहाद”, “जनसंख्या जिहाद” और “मुस्लिम अपराध” जैसे झूठे आख्यानों को आकर्षक और हास्यपूर्ण अंदाज़ में प्रस्तुत किया गया, जिससे वे अधिक साझा करने योग्य बन गए। कई तस्वीरें वास्तविक घटनाओं को तोड़-मरोड़कर सांप्रदायिक रूप देने के लिए बनाई गईं — जैसे जलगांव रेल हादसे को “रेल जिहाद” के रूप में प्रचारित करना।
रिपोर्ट में यह भी पाया गया कि अति-दक्षिणपंथी मीडिया नेटवर्क, जैसे सुदर्शन न्यूज़, स्वराज्य, ऑपइंडिया, ज़ी न्यूज़ आदि प्लेटफॉर्म्स पर भी एआई-जनित नफ़रत भरी सामग्री साझा की गई।
नबिया खान ने कहा, “एआई ने इस्लामोफोबिया और स्त्री-द्वेष को जोड़ दिया है। अब मुस्लिम महिलाओं का यौनिक चित्रण और मुस्लिम पुरुषों का हिंसक चित्रण दोनों ही एक साथ वायरल हो रहे हैं।”
अध्ययन के अनुसार, सोशल मीडिया प्लेटफॉर्म्स की मॉडरेशन नीतियाँ इस सामग्री पर अंकुश लगाने में नाकाम साबित हुई हैं। रिपोर्ट किए गए 187 पोस्ट्स में से सिर्फ एक को हटाया गया।
रिपोर्ट में सुझाव दिया गया है कि इन खतरों से निपटने के लिए प्लेटफ़ॉर्म्स को एआई-जागरूक मॉडरेशन सिस्टम विकसित करने होंगे, सिंथेटिक मीडिया की पहचान के उपाय मजबूत करने होंगे और जनता में डिजिटल साक्षरता बढ़ाने की आवश्यकता है।
“लोगों को हर तस्वीर पर यह सोचना चाहिए — ‘अगर मैं इस पर विश्वास कर लूँ, तो इसका फ़ायदा किसे होगा?’” — नबिया खान, सह-शोधकर्ता