डीपफेक का खतरा बढ़ा, AI कंटेंट पर अनिवार्य लेबलिंग का प्रस्ताव: IT मंत्रालय
नई दिल्ली । डेस्क: कृत्रिम बुद्धिमत्ता (AI) की तेजी से बढ़ती प्रगति के बीच डीपफेक और नकली खबरों का प्रसार चिंता का विषय बन गया है. केंद्र सरकार ने इस खतरे से निपटने के लिए कदम उठाते हुए सूचना प्रौद्योगिकी अधिनियम (IT एक्ट) 2021 में संशोधन का ड्राफ्ट तैयार किया है. इस प्रस्ताव के तहत AI से निर्मित सभी कंटेंट पर स्पष्ट रूप से लेबल लगाना अनिवार्य होगा, ताकि सोशल मीडिया उपयोगकर्ता नकली सामग्री से धोखा न खाएं.
यह कदम चुनावों को प्रभावित करने और व्यक्तिगत जीवन को परेशान करने वाली घटनाओं को रोकने के उद्देश्य से उठाया गया है.
केंद्रीय सूचना प्रौद्योगिकी मंत्रालय ने बुधवार को इस ड्राफ्ट को सार्वजनिक किया. मंत्रालय के अनुसार, AI प्रौद्योगिकी के दुरुपयोग से नकली वीडियो, ऑडियो और इमेज तेजी से फैल रहे हैं, जो सामाजिक सद्भाव को नुकसान पहुंचा सकते हैं.
ड्राफ्ट में कहा गया है कि सोशल मीडिया प्लेटफॉर्म्स, इंटरमीडियरी और AI कंटेंट बनाने वाली कंपनियों पर अतिरिक्त जिम्मेदारियां थोपी जाएंगी. यदि कोई कंटेंट AI से उत्पन्न है, तो उसे अपलोड करने से पहले स्पष्ट रूप से चिह्नित करना होगा.
विशेष रूप से, AI-जनरेटेड वीडियो या इमेज के डिस्प्ले एरिया के 10 प्रतिशत हिस्से में यह उल्लेख करना होगा कि सामग्री कृत्रिम रूप से बनी है. इसी तरह, ऑडियो कंटेंट के कुल समय का 10 प्रतिशत हिस्सा लेबलिंग के लिए आरक्षित रहेगा.
ड्राफ्ट में AI कंटेंट की परिभाषा भी स्पष्ट की गई है, जिसमें कृत्रिम रूप से निर्मित तस्वीरें, वीडियो और ध्वनियां शामिल हैं. मंत्रालय का उद्देश्य उपयोगकर्ताओं को वास्तविक और नकली सामग्री में आसानी से अंतर करने में सक्षम बनाना है. इसके लिए उन्नत तकनीकी उपकरणों का उपयोग अनिवार्य होगा.
केंद्रीय सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव ने पहले ही इस दिशा में संकेत दिए थे. उन्होंने कहा, "केवल कानून बनाने से AI को नियंत्रित नहीं किया जा सकता. इसके लिए तकनीकी समाधान भी जरूरी हैं." संसद में बहस के बाद यह ड्राफ्ट तैयार किया गया, जो उपयोगकर्ताओं के हितों की रक्षा के साथ-साथ AI अनुसंधान को प्रोत्साहित करने पर भी जोर देता है.
इससे पहले, 2024 में मंत्रालय ने AI दुरुपयोग रोकने के लिए दिशानिर्देश जारी किए थे. प्रधानमंत्री नरेंद्र मोदी ने भी चिंता जताते हुए कहा था, "हमारे पास AI जैसी उन्नत प्रौद्योगिकी है, लेकिन इसका उपयोग जिम्मेदारी से करना चाहिए. नकली सामग्री के दुरुपयोग को रोकने के लिए जागरूकता फैलाना जरूरी है."
उन्होंने यह भी बताया कि उन्होंने पहले ही चैटजीपीटी जैसे AI सिस्टम से बातचीत कर ली है.
रॉयटर्स ने इस मुद्दे पर ओपनएआई, गूगल और मेटा से प्रतिक्रिया मांगी, लेकिन इन कंपनियों की ओर से कोई जवाब नहीं आया.
मंत्रालय ने आम जनता, विशेषज्ञों और संबंधित क्षेत्रों से 6 नवंबर तक फीडबैक मांगे हैं, ताकि ड्राफ्ट को अंतिम रूप दिया जा सके. यह कदम न केवल डीपफेक के खतरे को कम करेगा, बल्कि डिजिटल प्लेटफॉर्म्स पर पारदर्शिता बढ़ाने में भी मददगार साबित होगा.
डीपफेक क्या है?
डीपफेक (Deepfake) एक उन्नत कृत्रिम बुद्धिमत्ता (AI) तकनीक है, जो डीप लर्निंग (गहन शिक्षण) एल्गोरिदम का उपयोग करके वीडियो, ऑडियो या छवियों में परिवर्तन करती है. इसका मुख्य उद्देश्य किसी व्यक्ति का चेहरा, आवाज या व्यवहार इतनी सटीकता से बदलना होता है कि नकली सामग्री वास्तविक लगने लगे. "डीपफेक" शब्द "डीप लर्निंग" और "फेक" (नकली) के संयोजन से बना है.
डीपफेक कैसे काम करता है?
तकनीकी आधार: यह जनरेटिव एडवर्सरियल नेटवर्क्स (GANs) पर आधारित होता है. इसमें दो AI मॉडल होते हैं:
जनरेटर: नकली सामग्री बनाता है.
डिस्क्रिमिनेटर: यह जांचता है कि सामग्री वास्तविक लग रही है या नहीं.
ये दोनों एक-दूसरे के खिलाफ प्रतिस्पर्धा करते हुए बेहतर नकली कंटेंट उत्पन्न करते हैं.
उपकरण: ओपन-सोर्स टूल्स जैसे Faceswap, DeepFaceLab या ऐप्स (जैसे Reface) का उपयोग करके कोई भी व्यक्ति आसानी से डीपफेक बना सकता है. इसके लिए लक्ष्य व्यक्ति की फोटो/वीडियो और स्रोत सामग्री की जरूरत होती है.
उदाहरण: किसी अभिनेता का चेहरा दूसरे व्यक्ति के वीडियो पर चिपकाना, या किसी नेता की आवाज नकली भाषण में डालना.
डीपफेक के प्रकार
विजुअल डीपफेक: चेहरे का स्वैपिंग (जैसे, किसी का मुंह बदलना).
ऑडियो डीपफेक: आवाज की नकल (वॉइस क्लोनिंग), जहां AI किसी की बोलचाल की शैली सीखकर नया ऑडियो बनाता है.
मिश्रित: वीडियो + ऑडियो का संयोजन.
फायदे और नुकसान
फायदे:
मनोरंजन: फिल्मों में विशेष प्रभाव (जैसे, मृत अभिनेताओं को फिर से जीवित दिखाना).
शिक्षा: ऐतिहासिक व्यक्तियों के भाषण का सिमुलेशन.
कला: क्रिएटिव कंटेंट निर्माण.
नुकसान और जोखिम:
गलत सूचना: चुनावों को प्रभावित करना, जैसे नकली वीडियो से अफवाहें फैलाना.
प्रताड़ना: नॉन-कंसेंसुअल पोर्नोग्राफी (मुख्य रूप से महिलाओं को निशाना बनाकर).
सुरक्षा खतरा: धोखाधड़ी, ब्लैकमेल या सामाजिक अशांति.
2023-2024 में भारत सहित कई देशों में डीपफेक से जुड़े मामले बढ़े हैं, जैसे सेलिब्रिटी वीडियो या राजनीतिक मिसइनफॉर्मेशन.
डीपफेक से बचाव
जांच के तरीके: वीडियो में असंगतियां ढूंढें (जैसे, चेहरे की हलचल, रोशनी का मेल न खाना). टूल्स जैसे Microsoft Video Authenticator या Hive Moderation का उपयोग करें.
कानूनी कदम: भारत में IT एक्ट 2021 के तहत डीपफेक को मिसइनफॉर्मेशन के रूप में विनियमित किया जा रहा है. हाल ही में केंद्र सरकार ने AI-जनरेटेड कंटेंट पर लेबलिंग अनिवार्य करने का प्रस्ताव दिया है.
जागरूकता: हमेशा स्रोत की जांच करें और सोशल मीडिया पर सत्यापन टूल्स (जैसे FactCheck.org) का सहारा लें.
डीपफेक तकनीक तेजी से विकसित हो रही है, लेकिन इसका नैतिक उपयोग ही समाज के लिए फायदेमंद है.