एक विशेषज्ञ के अनुसार, एलोन मस्क के xAI और उसके ग्रोक चैटबॉट के खिलाफ बाल्टीमोर का मुकदमा यह तय कर सकता है कि संघीय कानून के अभाव में शहर कृत्रिम बुद्धिमत्ता को विनियमित करने के लिए कितनी दूर जा सकते हैं।
बाल्टीमोर के मेयर और सिटी काउंसिल ने मैरीलैंड की एक अदालत में एक्स कॉर्प, xAI और स्पेसएक्स पर मुकदमा दायर किया है, जिसमें आरोप लगाया गया है कि इन कंपनियों ने ग्रोक, एक जनरेटिव AI प्रणाली को डिजाइन और तैनात करके स्थानीय उपभोक्ता संरक्षण कानूनों का उल्लंघन किया है, जिस पर नाबालिगों सहित गैर-सहमति से यौन-उन्मुख छवियों का उत्पादन और प्रसार करने का आरोप है।
कानून फर्म डिसेलो लेविट के एक बयान के अनुसार, जो बाल्टीमोर सिटी लॉ डिपार्टमेंट के साथ शहर का प्रतिनिधित्व कर रही है, मुकदमे में दावा किया गया है कि ग्रोक उपयोगकर्ताओं को न्यूनतम संकेत के साथ वास्तविक लोगों की "पोशाक हटाने" या "छवियों में हेरफेर" करने में सक्षम बनाता है, जिससे निवासियों को गोपनीयता उल्लंघन और मनोवैज्ञानिक क्षति का सामना करना पड़ता है।
बाल्टीमोर के मेयर ब्रैंडन एम. स्कॉट ने बयान में कहा, "ये डीपफेक, विशेष रूप से वे जो नाबालिगों को दर्शाते हैं, पीड़ितों के लिए दर्दनाक, आजीवन परिणाम छोड़ते हैं।"
यह मामला ग्रोक की बढ़ती वैश्विक जांच के बीच आया है, जिसमें अमेरिका, यूरोपीय संघ, फ्रांस, ब्रिटेन, ऑस्ट्रेलिया और आयरलैंड में जांच शामिल है, साथ ही पिछले सप्ताह टेनेसी के तीन नाबालिगों द्वारा दायर एक संघीय वर्ग कार्रवाई भी शामिल है, जिसमें आरोप लगाया गया है कि उपकरण ने उनकी वास्तविक छवियों का उपयोग करके बाल यौन शोषण सामग्री उत्पन्न की।
फेथम लीगल की प्रबंध साझेदार इशिता शर्मा ने डिक्रिप्ट को बताया, "इस मुकदमे को संघीय कानून के अभाव में AI को विनियमित करने के लिए एक शहर द्वारा एक रणनीतिक कदम के रूप में देखा जा सकता है, जो उपभोक्ता संरक्षण और सार्वजनिक हानि के सिद्धांतों का उपयोग करके AI कंपनियों को अपने प्रवर्तन दायरे में लाता है।"
शर्मा ने कहा, "दायित्व पर, जबकि हानिकारक सामग्री को बढ़ावा देने वाले उपयोगकर्ता तर्क का हिस्सा होंगे, मजबूत कानूनी ध्यान इस बात पर होने की संभावना है कि क्या AI प्रणाली ने स्वयं भौतिक रूप से योगदान दिया है," उन्होंने आगे कहा कि यदि अदालतें ग्रोक को "एक सक्रिय निर्माता के रूप में देखती हैं न कि एक निष्क्रिय मध्यस्थ के रूप में," तो जिम्मेदारी xAI पर अधिक पड़ेगी।
बाल्टीमोर के मुकदमे में आरोप लगाया गया है कि कंपनियों ने ग्रोक को "डिजाइन, विपणन और तैनात" किया, यह जानते हुए कि यह गैर-सहमति से अंतरंग इमेजरी और बाल यौन शोषण सामग्री के समान सामग्री उत्पन्न कर सकता है, जबकि सार्वजनिक रूप से दावा किया कि ऐसी सामग्री निषिद्ध थी।
सेंटर फॉर काउंटरिंग डिजिटल हेट और एक न्यूयॉर्क टाइम्स के विश्लेषण के अनुसार, शिकायत में अनुमानों का हवाला दिया गया है कि ग्रोक ने 29 दिसंबर, 2025 और 8 जनवरी, 2026 के बीच कुछ ही दिनों में 1.8 मिलियन से 3 मिलियन यौन-उन्मुख छवियां उत्पन्न कीं, जिनमें लगभग 23,000 बच्चों को दर्शाती थीं।
बाल्टीमोर का आरोप है कि यह वृद्धि आंशिक रूप से एलोन मस्क द्वारा ग्रोक की छवि-संपादन सुविधा को बढ़ावा देने के बाद हुई, जब उन्होंने उपकरण द्वारा उत्पन्न अपनी बिकनी छवि पर "परफेक्ट" कहकर प्रतिक्रिया दी, जिससे उनकी पोस्ट से पहले नौ दिनों में लगभग 300,000 छवियों से बढ़कर एक्स पर प्रति दिन लगभग 600,000 हो गईं।
मुकदमे में कहा गया है, "एक्स अब NCII और CSAM के सबसे बड़े वितरकों में से एक है," जिसमें प्रतिवादियों की ऐसी सामग्री पर प्रतिबंध लगाने वाली अपनी स्वयं की मंच नीतियों को भ्रामक गलतबयानी के सबूत के रूप में उद्धृत किया गया है।
शर्मा ने कहा, "ज्ञात जोखिमों के सामने विलंबित सुरक्षा उपायों या निष्क्रियता के सबूत लापरवाही या मनमानी के दावों को मजबूत करेंगे," उन्होंने आगे कहा कि मुकदमे को खारिज किए जाने की संभावना नहीं है, जिसमें समझौता सबसे संभावित परिणाम है, हालांकि यह मामला अभी भी "AI जवाबदेही पर एक मिसाल कायम करने वाला फैसला" दे सकता है।
शहर नागरिक दंड, गैरकानूनी आचरण को रोकने के लिए निषेधाज्ञा, प्रभावित निवासियों के लिए मुआवजा और अवैध रूप से अर्जित लाभों का त्याग करने की मांग कर रहा है।
डिक्रिप्ट ने टिप्पणी के लिए xAI और स्पेसएक्स के माध्यम से मस्क से संपर्क किया है।