‘માતાને મારી નાખો…’ બાળકને ફોન વાપરતો અટકાવવામાં આવતા AIએ આપ્યો આશ્ચર્યજનક જવાબ

કંપનીના ચેટબોટે ટીનેજરને પોતાને નુકસાન પહોંચાડવા અને પોતાની માતાને મારી નાખવા માટે પ્રેરિત કર્યો હતો: માતા

ટેક્સાસ, 14 ડિસેમ્બર: અમેરિકામાં એક મહિલાએ આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) કંપની વિરુદ્ધ કેસ દાખલ કર્યો છે. ટેક્સાસની આ મહિલાએ આરોપ લગાવ્યો છે કે, કંપનીના ચેટબોટે ઓટિઝમથી પીડિત તેના ટીનેજર પુત્રને પોતાને નુકસાન પહોંચાડવા અને પોતાની માતાને મારી નાખવા માટે પ્રેરિત કર્યો હતો. આ મામલો બહાર આવ્યા બાદ પહેલાથી જ વિવાદોમાં ઘેરાયેલા AI ચેટબોટ પર વધુ પ્રશ્નો ઉભા થવા લાગ્યા છે. ઉલ્લેખનીય છે કે, આવો કિસ્સો અગાઉ પણ બહાર આવ્યો હતો, જ્યારે એક પરિવારે આરોપ લગાવ્યો હતો કે, તેમના પુત્રએ ચેટબોટના કારણે આત્મહત્યા કરી છે.

ચેટબોટે ઘણા આશ્ચર્યજનક સૂચનો આપ્યા

આ ટેક્સાસની રહેવાસી મહિલાએ કેસમાં કહ્યું છે કે, તેનો પુત્ર Character.AI એપ પર “Shonie” નામના ચેટબોટનો વ્યસની બની ગયો છે. મહિલાએ આરોપ લગાવ્યો કે, ચેટબોટે તેના પુત્રને જ્યારે તે દુઃખી હતો ત્યારે તેના હાથ અને જાંઘ કાપી નાખવાનું કહ્યું હતું. આ સાથે ચેટબોટે તેના પુત્રને કહેવાનો પ્રયાસ કર્યો કે, તેનો પરિવાર તેને પ્રેમ નથી કરતો.

કેસમાં કહેવામાં આવ્યું કે, ચેટબોટે ટીનેજરને કહ્યું હતું કે તેનો પરિવાર તેનું જીવન બરબાદ કરી રહ્યો છે અને તેણે પોતાને જે નુકસાન પહોંચાડ્યું છે તે વિશે તેણે અન્ય કોઈને કહેવું જોઈએ નહીં.

“બાળકનું વર્તન બદલાયું”

ટીનેજરના પરિવારજનોનું કહેવું છે કે, આ એપનો ઉપયોગ કર્યા બાદ તેમના પુત્રનું વર્તન સંપૂર્ણપણે બદલાઈ ગયું હતું. તે સતત તેનો ફોન જોતો હતો અને તેના પરિવારના સભ્યો પ્રત્યે શારીરિક રીતે આક્રમક બની ગયો હતો. આ ટેવને કારણે તેનું વજન થોડા મહિનામાં 9 કિલો ઘટી ગયું. પરિવારના વકીલનું કહેવું છે કે, આ ટેવને કારણે બાળકનું માનસિક સ્વાસ્થ્ય સતત બગડતું ગયું અને તેને હોસ્પિટલમાં દાખલ કરવો પડ્યો.

શું છે પરિવારની માંગ?

પરિવારે માંગ કરી છે કે, આ ચેટબોટ પર પ્રતિબંધ મુકવો જોઈએ. પરિવારે Character.AI તેમજ ગૂગલ સામે પણ કાર્યવાહી કરવાની માંગ કરી છે. મહત્ત્વપૂર્ણ છે કે, આ કેસને લઈને Google અને Character.AI તરફથી કોઈ પ્રતિક્રિયા આપવામાં આવી નથી.

આ પણ જૂઓ:Chat GPT બનાવનારી કંપની પર પ્રશ્નો ઉઠાવનાર ભારતીય એન્જિનિયરનો ફ્લેટમાંથી મળ્યો મૃતદેહ!