OpenAI ने ChatGPT के कंज्यूमर प्लान्स में एक नया Age Prediction मॉडल रोलआउट करना शुरू कर दिया है। इस सिस्टम का उद्देश्य 18 वर्ष से कम उम्र के यूजर्स की पहचान कर उन्हें ज्यादा सुरक्षित डिजिटल अनुभव देना है। कंपनी के अनुसार, यह मॉडल यूजर की वास्तविक उम्र जानने के बजाय यह अनुमान लगाता है कि कोई अकाउंट नाबालिग का तो नहीं है। अगर सिस्टम को लगे कि यूजर 18 साल से कम है, तो ChatGPT अपने आप कुछ तरह के कंटेंट पर सीमाएं लागू कर देगा।
कई संकेतों के आधार पर करता है उम्र का अनुमान
OpenAI का कहना है कि यह Age Prediction मॉडल किसी एक जानकारी पर निर्भर नहीं करता। यह अकाउंट की एक्टिविटी अवधि, दिन के किस समय यूजर ज्यादा सक्रिय रहता है, इस्तेमाल का कुल पैटर्न और यूजर द्वारा दी गई उम्र जैसी कई जानकारियों को मिलाकर अनुमान लगाता है। कंपनी के मुताबिक, इस तरह का मल्टी-सिग्नल तरीका ज्यादा संतुलित और सटीक है, जिससे बिना सीधी उम्र पूछे यह तय किया जा सके कि अकाउंट किसी नाबालिग का है या नहीं।
18 साल से कम होने पर ChatGPT में क्या बदलाव होंगे
अगर सिस्टम यह मानता है कि यूजर 18 वर्ष से कम उम्र का है, तो ChatGPT अपने आप अतिरिक्त सुरक्षा फीचर्स लागू कर देगा। इसमें आत्म-नुकसान से जुड़ा कंटेंट, हिंसक या ग्राफिक जवाब, खतरनाक ऑनलाइन ट्रेंड और संवेदनशील रोल-प्ले से जुड़े रिस्पॉन्स सीमित कर दिए जाएंगे। इसके अलावा शरीर को लेकर गलत मानक, अनहेल्दी डाइट या नुकसानदेह व्यवहार को बढ़ावा देने वाला कंटेंट भी कम दिखाया जाएगा। OpenAI का कहना है कि ये कदम बच्चों और किशोरों को संभावित नुकसान से बचाने के लिए जरूरी हैं।
गलत पहचान होने पर यूजर्स के पास क्या विकल्प हैं?
OpenAI ने स्वीकार किया है कि कभी-कभी यह सिस्टम गलत अनुमान भी लगा सकता है। अगर किसी वयस्क यूजर को गलती से 18 साल से कम मान लिया जाता है और उसके अकाउंट पर पाबंदियां लग जाती हैं, तो वह पहचान सत्यापन के जरिए पूरा एक्सेस वापस पा सकता है। इसके लिए Persona नाम की वेरिफिकेशन सर्विस का इस्तेमाल किया जाएगा, जिसे Roblox जैसी अन्य टेक कंपनियां भी उपयोग करती हैं। इससे यह सुनिश्चित किया जाएगा कि एडल्ट यूजर्स पर गलत तरीके से रोक न लगे।
नियामकीय दबाव के बीच OpenAI का बड़ा कदम
पिछले कुछ महीनों में OpenAI पर बच्चों की ऑनलाइन सुरक्षा को लेकर दबाव बढ़ा है। अमेरिका की FTC समेत कई संस्थाएं यह जांच कर रही हैं कि AI चैटबॉट्स बच्चों और किशोरों पर क्या असर डालते हैं। इसी को ध्यान में रखते हुए कंपनी ने पैरेंटल कंट्रोल, एक्सपर्ट काउंसिल और अब Age Prediction मॉडल जैसे कदम उठाए हैं। OpenAI ने स्पष्ट किया है कि इस सिस्टम को समय के साथ और बेहतर बनाया जाएगा, जबकि यूरोपियन यूनियन में इसे स्थानीय नियमों के अनुसार आने वाले हफ्तों में लागू किया जाएगा।