धोखेबाज कार्यस्थलों में नकली प्रतिपूर्ति अनुरोधों का समर्थन करने के लिए ऐसी सुविधाओं का उपयोग कर सकते हैं, कर कटौती के लिए फर्जी प्रलेखन बनाएं, या क्राउडफंडिंग प्लेटफार्मों को गढ़े हुए खरीद इतिहास के साथ
और पढ़ें
इस महीने की शुरुआत में लॉन्च किए गए CHATGPT के लिए Openai के नवीनतम अपडेट ने यथार्थवादी पाठ वाली छवियों को उत्पन्न करने के लिए मॉडल की क्षमता में काफी सुधार किया है- एक तकनीकी छलांग जो पहले से ही धोखाधड़ी के लिए नए रास्ते के बारे में चिंताओं को बढ़ावा दे रही है।
उपयोगकर्ताओं ने जल्दी से पता लगाया है कि नए GPT-4O मॉडल का उपयोग नकली रसीदों को समझाने के लिए किया जा सकता है। एक बार फ़ोटोशॉप की आवश्यकता हो सकती है और एक अभ्यास किया गया हाथ अब एक साधारण पाठ प्रॉम्प्ट के साथ किया जा सकता है।
जोखिम को उजागर करने वाले पहले लोगों में मेनलो वेंचर्स में एक उद्यम पूंजीवादी डीएडी दास थे। एक्स पर पोस्ट करते हुए, दास ने सैन फ्रांसिस्को में एक प्रसिद्ध भोजनालय से एक रसीद के रूप में दिखाई देने वाली एक छवि साझा की। वास्तव में, यह पूरी तरह से CHATGPT द्वारा उत्पन्न किया गया था। “आप नकली रसीदें उत्पन्न करने के लिए 4o का उपयोग कर सकते हैं,” उन्होंने लिखा। “बहुत सारे वास्तविक विश्व सत्यापन प्रवाह हैं जो सबूत के रूप में ‘वास्तविक छवियों’ पर भरोसा करते हैं। यह युग खत्म हो गया है।”
नकली रसीदें उत्पन्न करने के लिए आप 4o का उपयोग कर सकते हैं।
बहुत सारे वास्तविक विश्व सत्यापन प्रवाह हैं जो प्रमाण के रूप में “वास्तविक छवियों” पर भरोसा करते हैं। वह युग खत्म हो गया है। pic.twitter.com/9fors1pwsb
– डेडी (@Deedydas) 29 मार्च, 2025
अन्य उपयोगकर्ता आगे चले गए हैं, तेजी से प्रामाणिक-दिखने वाली रसीदें उत्पन्न करने के लिए मॉडल में वास्तविक बिलों को खिलाने या खिलाने के लिए संकेत देते हैं- जिस तरह का उपयोग नकली व्यय के दावों को प्रस्तुत करने के लिए किया जा सकता है, जाली वित्तीय रिकॉर्ड बनाने, या ट्रिक दोस्तों और नियोक्ताओं को पैसे की प्रतिपूर्ति में नहीं किया गया था जो कभी भी खर्च नहीं किया गया था।
लोगों की उंगलियों पर धोखाधड़ी के लिए उपकरण
जिस आसानी से एआई अब फेक का उत्पादन कर सकता है, उसने इस बात की चिंताओं को गहरा कर दिया है कि जनजातीय मॉडल का शोषण कैसे किया जा सकता है। नकली रसीदें डीपफेक वीडियो या वॉयस क्लोन की तुलना में तुच्छ लग सकती हैं, लेकिन वास्तविक दुनिया के वित्तीय नुकसान के लिए उनकी क्षमता महत्वपूर्ण है।
उदाहरण के लिए, धोखेबाज, कार्यस्थलों में नकली प्रतिपूर्ति अनुरोधों का समर्थन करने के लिए ऐसे उपकरणों का उपयोग कर सकते हैं, कर कटौती के लिए फर्जी प्रलेखन बनाएं, या गढ़े हुए खरीद इतिहास के साथ क्राउडफंडिंग प्लेटफार्मों को ट्रिक करें।
ऑनलाइन मार्केटप्लेस, गिग प्लेटफॉर्म, और ट्रैवल प्रतिपूर्ति सिस्टम- जिनमें से कई प्रूफ के रूप में प्राप्तियों के अपलोड की गई तस्वीरों पर भरोसा करते हैं- सभी लक्ष्य हो सकते हैं।
कोई भी इस तरह की क्षमता की कल्पना कर सकता है, साथ ही अवैध लेनदेन के लिए कवर प्रदान करने के लिए उपयोग किया जा रहा है।
Openai ने क्या कहा
Openai का कहना है कि यह जोखिमों से अवगत है और उपकरण के उपयोग की सक्रिय रूप से निगरानी कर रहा है।
टेकक्रंच ओपनईएआई के प्रवक्ता ताया क्रिश्चियनसन को यह कहते हुए उद्धृत किया कि चैट के साथ उत्पन्न सभी छवियों में मेटाडेटा को एआई-क्रिएटेड के रूप में चिह्नित करना शामिल है। कंपनी, उसने कहा, “कार्रवाई करता है” जब उपयोगकर्ता उपयोग नीतियों का उल्लंघन करते हैं और वास्तविक दुनिया के उपयोग और प्रतिक्रिया से “हमेशा सीखते हैं”।
यह पूछे जाने पर कि CHATGPT उपयोगकर्ताओं को पहले स्थान पर नकली रसीदें उत्पन्न करने की अनुमति क्यों देता है- धोखाधड़ी गतिविधि पर एक स्पष्ट नीति प्रतिबंध के बावजूद- क्रिश्चियनसन ने कहा कि ओपनई का उद्देश्य उपयोगकर्ताओं को “जितना संभव हो उतना रचनात्मक स्वतंत्रता” प्रदान करना है।
उन्होंने सुझाव दिया कि रसीद पीढ़ी में वैध आवेदन हो सकते हैं, जैसे कि वित्तीय साक्षरता के लिए शैक्षिक उपकरण, या कलात्मक और विज्ञापन उपयोग।