दुनिया की सबसे बड़ी सोशल मीडिया कंपनियों में से एक, मेटा (Meta) ने अपने प्लेटफॉर्म्स पर गलत और भ्रामक सामग्री के खिलाफ एक बड़ा अभियान चला रही है। कंपनी ने हाल ही में खुलासा किया है कि 2023 की चौथी तिमाही तक उसने अपने फेसबुक प्लेटफॉर्म से करीब 2 करोड़ (20.1 मिलियन) ऐसे नकली अकाउंट्स को हटाया है जो फर्जी गतिविधियों में लिप्त थे। यह आंकड़ा बताता है कि कंपनी अपने प्लेटफॉर्म की प्रामाणिकता और उपयोगकर्ता की सुरक्षा को लेकर कितनी गंभीर है।
यह कार्रवाई केवल नकली खातों तक ही सीमित नहीं है, बल्कि मेटा ने तेजी से बढ़ते ‘जेनरेटिव एआई (Generative AI) वीडियो’ पर भी शिकंजा कसना शुरू कर दिया है। ये एआई-निर्मित वीडियो अक्सर वास्तविक दिखने के कारण भ्रामक हो सकते हैं और गलत सूचना (disinformation) फैलाने में इनका दुरुपयोग किया जा सकता है। इसलिए, मेटा ने ऐसे किसी भी फोटो या वीडियो पर ‘फेक’ या ‘गलत सूचना’ का लेबल लगाने की प्रक्रिया शुरू कर दी है, ताकि उपयोगकर्ताओं को भ्रमित होने से बचाया जा सके। हालांकि, इस तरह के फेक अकाउंट और एआई जनरेटेड कंटेंट से निपटने में अभी भी कुछ तकनीकी चुनौतियाँ बाकी हैं।
मेटा का कहना है कि उन्होंने फर्जी खातों को पहचानने के लिए लगातार अपने ऑटोमेटेड सिस्टम में सुधार किया है। इनमें स्पैम फिल्टर, पहचान आधारित विश्लेषण, और अन्य पैटर्न रिकॉग्निशन टेक्नोलॉजी शामिल हैं। यह सुनिश्चित करने के लिए कि प्लेटफार्म पर सिर्फ असली लोग ही रहें, नए अकाउंट रजिस्ट्रेशन से लेकर एक्टिविटी तक पर नजर रखी जाती है। इस फिल्टरिंग के बाद भी, हर तिमाही बड़ी संख्या में नकली खाते हटाए जाते हैं।
फर्जी अकाउंट्स के खिलाफ यह बड़ी कार्रवाई सिर्फ संख्या का खेल नहीं है, बल्कि इसका सीधा असर ऑनलाइन धोखाधड़ी, साइबर हमले और भ्रामक अभियानों पर पड़ता है। ये नकली खाते अक्सर फिशिंग (Phishing) के लिए इस्तेमाल होते हैं, या फिर फर्जी खबरें फैलाकर समाज में विभाजन पैदा करते हैं। इस अभियान से मेटा यूजर्स के लिए एक अधिक विश्वसनीय और सुरक्षित ऑनलाइन अनुभव सुनिश्चित करने की दिशा में महत्वपूर्ण कदम उठा रहा है। भविष्य में भी एआई कंटेंट को लेकर चुनौतियां बढ़ेंगी, जिसके लिए मेटा जैसी कंपनियों को अपने नियम और टेक्नोलॉजी को लगातार अपडेट करते रहना होगा।