Deepfake से काल्पनिक AI कैरेक्टर्स तक: एक टेक्नोलॉजी जो दो हिस्सों में बंटी
आम बातचीत में "Deepfake" और "AI-जनरेटेड कैरेक्टर" लगभग एक-दूसरे के बदले इस्तेमाल होते हैं, लेकिन ये दो अलग टेक्निकल अप्रोच बताते हैं जिनका एथिकल रिकॉर्ड बहुत अलग रहा है। यह समझना कि यह शब्द असल में कहां से आया — और इंडस्ट्री और रिसर्चर्स दोनों के बीच एक साफ़ लाइन क्यों बढ़ती जा रही है — यह बताता है कि एक ऐसा प्लेटफ़ॉर्म जो पूरी तरह नए, काल्पनिक कैरेक्टर्स जनरेट करता है, वह बिल्कुल अलग कैटेगरी का टूल है।
एक काल्पनिक कैरेक्टर जनरेट करेंयह शब्द असल में कहां से आया
यह शब्द 2017 के आस-पास एक ऑनलाइन फ़ोरम पर सामने आया, जो एक फ़ेस-स्वैप तकनीक को बताता था जो एक असली व्यक्ति के चेहरे को किसी और के मौजूदा वीडियो या फ़ोटो पर, उस व्यक्ति की जानकारी या सहमति के बिना जोड़ती थी। यह तकनीक खुद इससे भी पुरानी है — फ़ेस-स्वैप कंपोज़िटिंग फ़िल्म प्रोडक्शन में इससे कई साल पहले से मौजूद थी — लेकिन "deepfake" शब्द शुरू से ही खासतौर पर उस नॉन-कंसेंसुअल, रियल-आइडेंटिटी-स्वैप इस्तेमाल से जुड़ गया।
यह शब्द इतना विवादित क्यों बना
अगले सालों में इस तकनीक का इस्तेमाल पॉलिटिकल डिसइन्फ़ॉर्मेशन और असली, पहचाने जा सकने वाले लोगों की नॉन-कंसेंसुअल इंटिमेट इमेजरी बनाने के लिए हुआ, जिसने कानून की एक लहर को जन्म दिया। आज बढ़ती हुई संख्या में देश खासतौर पर किसी असली व्यक्ति की सिंथेटिक इंटिमेट इमेजरी बिना सहमति बनाने को अपराध मानते हैं, और उस इस्तेमाल के इर्द-गिर्द बने प्लेटफ़ॉर्म्स को सर्च-इंजन डिमोशन और डी-इंडेक्सिंग का सामना कैटेगरी के तौर पर करना पड़ा है।
एक अलग टेक्निकल लीनिएज: किसी नए को जनरेट करना
Text-to-image और text-to-video डिफ़्यूज़न मॉडल्स एक स्ट्रक्चरली अलग समस्या हल करते हैं: किसी असली व्यक्ति की मौजूदा शक्ल-सूरत को लेकर उसे कहीं जोड़ने की बजाय, वे एक टेक्स्ट डिस्क्रिप्शन या काल्पनिक-कैरेक्टर रेफरेंस से एक ऐसे व्यक्ति को जनरेट करते हैं जो कभी अस्तित्व में नहीं था, पाइपलाइन में किसी भी पॉइंट पर कोई असली आइडेंटिटी कॉपी नहीं की जाती। इस क्षेत्र का अध्ययन करने वाले रिसर्चर्स — जिनमें MIT Media Lab का AI-जनरेटेड कैरेक्टर्स पर काम भी शामिल है — ने खासतौर पर ज़िम्मेदार प्रैक्टिस को तीन सिद्धांतों के इर्द-गिर्द फ़्रेम किया है: जिसकी शक्ल-सूरत इस्तेमाल हो रही है उसकी अनुमति, यह बताना कि कंटेंट AI-जनरेटेड है, और ऐसा कंटेंट जो किसी को बदनाम, धोखा, या परेशान न करे — काल्पनिक कैरेक्टर्स, असली लोग नहीं, इसे बेसलाइन एक्सेप्टेबल इस्तेमाल मानते हुए।
Uncutly जैसा प्लेटफ़ॉर्म इस बंटवारे में कहां खड़ा है
Uncutly की जनरेशन पाइपलाइन काल्पनिक-कैरेक्टर लीनिएज पर बनी है, फ़ेस-स्वैप लीनिएज पर नहीं: हर रिज़ल्ट एक नए, AI-ओरिजिनल कैरेक्टर को दिखाता है, और कंटेंट पॉलिसी स्वतंत्र रूप से किसी असली, पहचाने जा सकने वाले व्यक्ति की शक्ल-सूरत के आधार पर बिना सहमति कुछ भी जनरेट करने पर बैन लगाती है — चाहे अंडरलाइंग मॉडल टेक्निकली कुछ भी करने में सक्षम हों। यह एक जानबूझकर लिया गया आर्किटेक्चरल और पॉलिसी फ़ैसला है, कोई मार्केटिंग डिफ़रेंस नहीं।
FAQ
क्या Uncutly एक deepfake जनरेटर है?
नहीं। Deepfake टेक्नोलॉजी खासतौर पर किसी असली, पहचाने जा सकने वाले व्यक्ति की शक्ल-सूरत को बिना सहमति मौजूदा मीडिया पर जोड़ती है। Uncutly पूरी तरह नए, काल्पनिक AI-ओरिजिनल कैरेक्टर्स जनरेट करता है और पॉलिसी के तहत असली-व्यक्ति शक्ल-सूरत के इस्तेमाल पर बैन लगाता है।
क्या सारा AI-जनरेटेड सिंथेटिक मीडिया टेक्निकली एक "deepfake" है?
नहीं — यह शब्द आमतौर पर किसी मौजूदा असली व्यक्ति पर लागू की गई रियल-आइडेंटिटी फ़ेस-स्वैप या वॉइस-स्वैप तकनीकों के लिए रिज़र्व है, किसी ऐसे काल्पनिक कैरेक्टर के de novo जनरेशन के लिए नहीं जो कभी अस्तित्व में नहीं था।
क्या काल्पनिक AI-कैरेक्टर कंटेंट को कानूनी तौर पर deepfake जैसा ही माना जाता है?
आमतौर पर नहीं, क्योंकि कोई असली, पहचाने जा सकने वाला व्यक्ति नहीं दिखाया जाता — लेकिन इस क्षेत्र में रेगुलेशन अभी भी तेज़ी से बदल रहा है, इसलिए मान लेने की बजाय अपने देश के स्पेसिफ़िक नियम चेक करना बेहतर है।
यह फ़र्क प्रैक्टिकली क्यों मायने रखता है?
यह बताता है कि क्यों वैध रिसर्च और प्लेटफ़ॉर्म "किसी असली व्यक्ति का सिंथेटिक मीडिया" को "de novo जनरेटिव कंटेंट" से अलग-अलग कैटेगरी के तौर पर बांटते जा रहे हैं, जिनका एथिकल और लीगल ट्रीटमेंट अलग है — टेक्नोलॉजी और नुकसान की प्रोफ़ाइल असल में अलग हैं, सिर्फ़ ब्रांडिंग नहीं।
लोकप्रिय NSFW टेम्पलेट
