Artificial Intelligence Models बच्चों के लिए सुरक्षित नहीं
एआई रेटिंग सिस्टम से यह बात सामने आई है कि स्नैपचैट के माई एआई डेल और स्टेबल डिफ्यूजन जैसे लोकप्रिय आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल बच्चों के लिए सुरक्षित नहीं है। इससे भावनात्मक, शारीरिक और मनोवैज्ञानिक नुकसान की संभावना बढ़ जाती है।
Artificial Intelligence Models बच्चों के लिए सुरक्षित नहीं |
रेटिंग प्रणाली को एआई उत्पादों के नैतिक उपयोग, पारदर्शिता और सुरक्षा और प्रभाव का आकलन करने के लिए बच्चों और परिवारों के लिए अग्रणी वकालत समूह कॉमन सेंस मीडिया द्वारा डिजाइन किया गया है।
एआई विशेषज्ञों की एक श्रृंखला से इनपुट के साथ विकसित एआई रेटिंग प्रणाली सामान्य ज्ञान एआई सिद्धांतों के एक सेट के आधार पर उत्पादों का मूल्यांकन करती है।
पांच-बिंदु पैमाने पर 10 लोकप्रिय ऐप्स की समीक्षा करने की प्रक्रिया में कॉमन सेंस ने आज के एआई परिदृश्य के बारे में निम्नलिखित अंतर्दृष्टि निकाली जो नीति निर्माताओं, शिक्षकों, माता-पिता और उपभोक्ताओं के लिए उपयोगी होगी।
5 के पैमाने पर चैटजीपीटी और बार्ड को 3 की रेटिंग मिली, जबकि स्नैपचैट के माई एआई, डेल और स्टेबल डिफ्यूजन को सिर्फ 1-2 रेटिंग मिली।
कॉमन सेंस मीडिया के संस्थापक और सीईओ जेम्स पी. स्टेयर ने कहा, "उपभोक्ताओं को एआई उत्पादों के लिए एक स्पष्ट पोषण लेबल तक पहुंच होनी चाहिए जो सभी अमेरिकियों, विशेष रूप से बच्चों और किशोरों की सुरक्षा और गोपनीयता से समझौता कर सकती है।"
रेटिंग बच्चों को ऑनलाइन सुरक्षित रखने और इन नए उत्पादों के रचनाकारों से बढ़ी हुई पारदर्शिता पर जोर देने के लिए नए विधायी और नियामक प्रयासों की जानकारी देगी।
कॉमन सेंस मीडिया एआई के वरिष्ठ सलाहकार ट्रेसी पिज्जा फ्रे ने कहा कि एआई हमेशा सही नहीं होता है।
उन्होंने कहा, "इस तथ्य के आधार पर कि मॉडलों को भारी मात्रा में इंटरनेट डेटा पर प्रशिक्षित किया जाता है, सभी जेनरेटर एआई विभिन्न प्रकार के सांस्कृतिक, नस्लीय, सामाजिक-आर्थिक, ऐतिहासिक और लैंगिक पूर्वाग्रहों की मेजबानी करते हैं और यह वही है जो हमने अपने मूल्यांकन में पाया है।"
| Tweet |