क्या असंभव हो जाएगा AI वीडियो को पहचानना? सोशल मीडिया के चेकिंग टूल्स को बाईपास कर गया Sora का वीडियो

फेसबुक, इंस्टा, X या स्नैपचैट पर वीडियो स्क्रॉल करते हुए सोचते तो होंगे कि ये असली हैं या AI से बनाए गए? अब तक सोशल मीडिया प्लेटफॉर्म दावा करते थे कि उनके चेकिंग टूल्स AI कंटेंट की पहचान करके लेबल लगा रहे हैं, लेकिन अब ये दावा सही नहीं है। OpenAI के विडियो टूल Sora ने ऐसे वीडियो बनाए, जिन्हें पकड़ना अब मुश्किल हो रहा है। वॉशिंगटन पोस्ट ने अपनी रिपोर्ट में दावा किया कि YouTube, फेसबुक, इंस्टाग्राम, पिंटरेस्ट, टिकटॉक, लिंक्डइन, स्नैपचैट और X में से सिर्फ YouTube ने ही Sora के बनाए वीडियो को AI कंटेंट माना। बाकी 7 प्लेटफॉर्म पर किसी को कोई फर्क महसूस ही नहीं हुआ।

सिर्फ यूट्यूब ने लगाया सिंथेटिक कंटेंट का लेबलYouTube ने अल्टर्ड या सिंथेटिक कंटेंट का लेबल लगाया, लेकिन यह भी ऐसा नहीं था कि आम यूजर तुरंत देख सके। हालांकि वीडियो के डिस्क्रिप्शन में YouTube ने स्पष्टतौर पर बताया कि यह वीडियो AI से बनाया गया है। पिछले कुछ साल में बड़ी टेक कंपनियों गूगल, मेटा, माइक्रोसॉफ्ट, अडोबी और बीबीसी ने मिलकर कंटेंट क्रेडेंशियल्स नाम का एक सिस्टम बनाया था। इसका मकसद था हर फोटो, वीडियो या ऑडियो फाइल में डिजिटल पहचान जोड़ना ताकि पता चल सके कि उसे असली कैमरे से शूट किया गया है या AI से बनाया गया है। टेस्ट के लिए जब इन सोशल साइट्स पर वीडियो अपलोड किया गया तो उन्होंने कंटेंट क्रेडेंशियल्स वाली पहचान ही मिटा दी। गूगल की प्रवक्ता क्रिस्टा मुलडून के मुताबिक, यह सिस्टम अभी शुरुआती दौर में है और इस पर काम जारी है, इसे अपनाने में वक्त लगेगा।

क्यों है यह गंभीर मामला AI तकनीक अब इतनी ताकतवर हो गई है कि फर्जी वीडियो असली जैसे लगते हैं। Sora जैसे टूल्स किसी भी व्यक्ति की शक्ल या आवाज को किसी भी सीन में डाल सकते हैं, मानो वह खुद वहां मौजूद रहा हो। बस कुछ सेकंड में एक नया वीडियो तैयार हो जाता है, जो असली और नकली की सीमा को मिटा देता है। दिल्ली में इंदिरा गांधी टेक्निकल यूनिवर्सिटी की प्रोफेसर ईला कुमार ने बताया कि अब हम उस दौर में पहुंच गए हैं, जहां किसी विडियो पर भरोसा करना मुश्किल होता जा रहा है। अगर सिस्टम फेल हो गया, तो एक दिन ऐसा आएगा जब हर वीडियो को झूठा समझना होगा जब तक उसकी असलियत साबित न कर दी जाए।

'OpenAI का दावा सिर्फ कागजों में'OpenAI ने Sora लॉन्च करते समय कहा था कि वह हर विडियो में कंटेंट क्रेडेंशियल्स मेटाडेटा जोड़ेगी और वॉटरमार्क यानी निशान भी लगाएगी जिससे कोई वीडियो असली या नकली है, पहचाना जा सके। पर वॉशिंगटन पोस्ट की रिपोर्ट में देखा गया कि यह दावा भी कागजों में ही है। न केवल सोशल मीडिया प्लेटफॉर्म ने वो मार्किंग मिटाई, बल्कि कई साइटों पर ऐसे टूल्स आ गए हैं जो वॉटरमार्क हटाने का तरीका सिखाते हैं। और तो और, OpenAI ने माना कि डिवेलपर्स के लिए जो Sora का प्रो-वर्जन है, उसमें न वॉटरमार्क होता है, न कंटेंट क्रेडेंशियल्स मेटाडेटा। यानी जो चाहे जैसा बनाएं, कोई पकड़ नहीं सकेगा।