ટ્રેન્ડિંગ

બાળકોની સુરક્ષા માટે OpenAIનો મોટો નિર્ણય, ChatGPTમાં નવા સેફ્ટી ફીચર્સ ઉમેરાયા

OpenAI : આજના ડિજિટલ યુગમાં દરેક ઉંમરના લોકો AIનો ઉપયોગ કરી રહ્યા છે. અભ્યાસને લગતો કોઈ સવાલ હોય કે સ્વાસ્થ્ય સંબંધિત સમસ્યા, હવે ઘણા લોકો તરત જ AIની મદદ લે છે. જોકે, AIનો ઉપયોગ વધવાની સાથે બાળકોની ઓનલાઇન સુરક્ષાને લઈને પણ ચિંતાઓ વધી રહી છે. આ બાબતને ધ્યાનમાં રાખીને AI બનાવતી કંપની OpenAIએ ChatGPT માટે નવા સિક્યોરિટી ફીચર્સ રજૂ કર્યા છે. ChatGPTના આ નવા ફીચર્સની મદદથી બાળકો સાથે જોડાયેલી અશ્લીલ તસવીરો અને વાંધાજનક કન્ટેન્ટને ઓળખવાનું વધુ સરળ બનશે. આ માટે કંપનીએ એક નવું AI ઇમેજ ક્લાસિફાયર પણ તૈયાર કર્યું છે, જે AI દ્વારા બનાવવામાં આવેલી આવી તસવીરોને પણ ઓળખી શકશે.

અમારી WhatsApp ચેનલમાં જોડાવા આ લિંક પર ક્લીક કરો
https://whatsapp.com/channel/0029VauCUMx6LwHmdrOBwa2X

 

OpenAIના જણાવ્યા અનુસાર, ChatGPTમાં હવે એવા પ્રોમ્પ્ટ પર એલર્ટ જોવા મળશે, જેના દ્વારા બાળકોને ખોટી રીતે રજૂ કરતું કન્ટેન્ટ બનાવવાનો પ્રયાસ કરવામાં આવશે. આ ઉપરાંત ડેવલપર્સ અને કાયદા અમલીકરણ એજન્સીઓ માટે પણ નવા ટૂલ્સ અને ગાઇડલાઇન્સ જાહેર કરવામાં આવી છે.

નવું AI ઇમેજ ક્લાસિફાયર કેવી રીતે કામ કરશે?

OpenAIનું નવું ઇમેજ ક્લાસિફાયર તસવીરોને સ્કેન કરીને બાળકો સાથે જોડાયેલી અશ્લીલ તસવીરોને ઓળખી શકશે. આ ઉપરાંત AI દ્વારા તૈયાર કરવામાં આવેલી આવી તસવીરોને પણ શોધી શકશે. ત્યારબાદ દરેક તસવીરને એક સ્કોર આપવામાં આવશે, જેની મદદથી સેફ્ટી ટીમને સમજવામાં મદદ મળશે કે કઈ તસવીરની તપાસને વધુ પ્રાથમિકતા આપવી જરૂરી છે. આ ટૂલને નેશનલ સેન્ટર ફોર મિસિંગ એન્ડ એક્સપ્લોઇટેડ ચિલ્ડ્રન (NCMEC) સાથે મળીને તૈયાર કરવામાં આવ્યું છે. પ્રારંભિક પરીક્ષણમાં આ ટૂલે અગાઉની સરખામણીએ 48 ટકા ઓછી તસવીરોને તપાસ માટે પસંદ કરી હતી, જ્યારે શંકાસ્પદ તસવીરો ઓળખવાની તેની ક્ષમતા યથાવત રહી હતી. હાલમાં આ ટૂલનો ઉપયોગ API દ્વારા કેટલીક પસંદગીની સંસ્થાઓ જ કરી શકશે. તેમાં Tech Coalition અને ROOST જેવી સંસ્થાઓનો સમાવેશ થાય છે. OpenAIએ આ સંસ્થાઓને કોઈ વધારાના ચાર્જ વિના આ ટૂલ ઉપલબ્ધ કરાવ્યું છે.

ખોટા પ્રોમ્પ્ટ આપવા પર મળશે એલર્ટ

OpenAI ChatGPTમાં એલર્ટ સ્ક્રીન પણ ઉમેરી રહી છે. જો કોઈ યુઝર બાળકો સાથે જોડાયેલું અશ્લીલ કન્ટેન્ટ બનાવવાનો પ્રયાસ કરશે, તો તેને સ્ક્રીન પર ચેતવણી આપવામાં આવશે. સાથે જ આવી પ્રવૃત્તિથી દૂર રહેવા અને જરૂરી મદદ મેળવવા અંગેની માહિતી પણ આપવામાં આવશે. આવા કિસ્સાઓમાં યુઝરનું એકાઉન્ટ 24 કલાક માટે સસ્પેન્ડ પણ કરવામાં આવી શકે છે. આ એલર્ટ મેસેજ તૈયાર કરવામાં Protect Children, Lucy Faithfull Foundation અને યુનિવર્સિટી ઓફ તાસ્માનિયાના રિસર્ચર જોએલ સ્કેનલાનની મદદ લેવામાં આવી છે.

આ પણ વાંચો: ઐતિહાસિક વડનગરમાં 19-20 નવેમ્બરે યોજાશે ભવ્ય તાના-રીરી મહોત્સવ

ડેવલપર્સ અને પોલીસને પણ મળશે નવા ટૂલ્સ

OpenAIએ ડેવલપર્સ માટે નવી ગાઇડલાઇન્સ પણ જાહેર કરી છે. તેની મદદથી તેઓ પોતાના પ્લેટફોર્મ પર આવા વાંધાજનક કન્ટેન્ટને ઓળખી શકશે અને તેની જાણ કરી શકશે. બીજી તરફ, કાયદા અમલીકરણ એજન્સીઓને AI આધારિત ટૂલ્સ, તપાસમાં મદદરૂપ પ્લગઇન્સ અને ડેટા એનાલિસિસની સુવિધા આપવામાં આવશે. કંપની તપાસ અધિકારીઓને તાલીમ અને આ ટૂલ્સના ઉપયોગ અંગે માર્ગદર્શિકા પણ ઉપલબ્ધ કરાવશે.

બાળકોની સુરક્ષાને લઈને OpenAI પર વધી રહ્યું છે દબાણ

છેલ્લા કેટલાક સમયથી બાળકોની સુરક્ષાને લઈને OpenAI પર દબાણ વધી રહ્યું છે. અમેરિકાના અનેક રાજ્યોના એટર્ની જનરલ દ્વારા ChatGPT વિરુદ્ધ કેસ પણ દાખલ કરવામાં આવ્યા છે. આ કેસોમાં આરોપ લગાવવામાં આવ્યો છે કે ChatGPTના ઉપયોગથી યુવાનો પર નકારાત્મક અસર પડી રહી છે. આ જ કારણોસર હવે OpenAI બાળકોની ઓનલાઇન સુરક્ષાને વધુ મજબૂત બનાવવા માટે એક પછી એક નવા અને કડક પગલાં લઈ રહી છે.

આ પણ વાંચો: NASAના વોયેજર-1એ રચ્યો ઇતિહાસ, પૃથ્વીથી 1 લાઇટ ડે એટલે કે 25.9 અબજ કિમી દૂર પહોંચ્યું
Back to top button