एलन मस्क की सोशल मीडिया कंपनी X को वैश्विक स्तर पर भारी विरोध का सामना करने के बाद अपने एआई चैटबॉट ग्रोक के विवादास्पद इमेज जनरेशन फीचर को अस्थायी रूप से बंद करना पड़ा। यह फीचर उपयोगकर्ताओं को हिंसा, नग्नता और प्रसिद्ध हस्तियों के आपत्तिजनक चित्र बनाने की आजादी देता था, जिससे दुनिया भर में आक्रोश फैल गया।
कुछ ही हफ्तों पहले लॉन्च हुआ यह टूल ग्रोक की उन्नत तकनीक पर आधारित था। लेकिन जल्द ही उपयोगकर्ता इसे गलत तरीके से इस्तेमाल करने लगे। वायरल हो चुकी तस्वीरें – जिसमें कार्टून हिंसा से लेकर अश्लील सामग्री तक शामिल थी – ने नियामकों, सामाजिक संगठनों और उपयोगकर्ताओं को भड़का दिया।
X के प्रवक्ता ने कहा, ‘वैश्विक समुदाय की प्रतिक्रियाओं को ध्यान में रखते हुए हमने यह कदम उठाया है।’ मस्क, जो सामग्री moderation के खिलाफ रहे हैं, इस बार झुक गए। यूरोप और भारत जैसे देशों ने जांच की चेतावनी दी थी।
एआई विशेषज्ञों का मानना है कि यह घटना बिना सुरक्षा के शक्तिशाली तकनीक के खतरे उजागर करती है। स्टैनफोर्ड की डॉ. लिना राव ने कहा, ‘ग्रोक ने गहरा सबक सिखाया है।’ निवेशक भी सतर्क हैं, क्योंकि X विज्ञापनदाताओं को वापस लाने की जद्दोजहद में है।
मस्क ने ट्वीट किया, ‘समाज को नुकसान पहुंचाने वाली आजादी की सीमाएं हैं।’ आगे क्या होगा? क्या ग्रोक बेहतर सुरक्षा के साथ लौटेगा? यह एआई उद्योग के लिए बड़ा मोड़ साबित हो सकता है। तकनीकी नवाचार और जिम्मेदारी का संतुलन अब चुनौती है।
