25 હજાર લોકો AI યુવતીના પ્રેમમાં પડ્યા, જાણો ચોંકાવનારી હકીકત
ClaudeAI : ડેટિંગ એપ પર કોઈની સાથે મુલાકાત થઈ, સામેની વ્યક્તિએ તમારી પસંદ-નાપસંદ પૂછી, રોજેરોજ વાતો થવા લાગી અને ધીમે-ધીમે દિલની વાતો શરૂ થઈ ગઈ… પણ જો સામેવાળું વાસ્તવમાં કોઈ માણસ જ ન હોય તો?
AI કંપની એન્થ્રોપિક (Anthropic) ના તાજેતરના અહેવાલમાં ચીનથી ચલાવવામાં આવી રહેલા આવા જ એક મોટા નેટવર્કનો પર્દાફાશ થયો છે. કંપનીના જણાવ્યા અનુસાર, ચીનના એક એપ સ્ટુડિયોએ 20 થી વધુ ડેટિંગ એપ્સ બનાવી અને તેમાં Claude AI ની મદદથી 4,700 થી વધુ નકલી પ્રોફાઇલ્સ તૈયાર કરી દીધી. એન્થ્રોપિકે જણાવ્યું કે તેના AI મોડલ ‘ક્લોડ’ (Claude) નો દુરુપયોગ કરીને હજારો બનાવટી ડેટિંગ પ્રોફાઇલ્સ ચલાવવામાં આવી રહી હતી.
હજારો નકલી પ્રોફાઇલ્સ અને લાખો મેસેજ
અહેવાલ મુજબ, ડેટિંગ એપ્સ ડેવલપ કરવામાં ક્લોડની મદદ લેવામાં આવી હતી અને ત્યારબાદ હજારો નકલી પ્રોફાઇલ્સ પાછળ પણ ક્લોડને જ કાર્યરત કરી દેવામાં આવ્યું હતું. એપ્રિલ મહિનામાં માત્ર 2 અઠવાડિયાના ગાળામાં જ એન્થ્રોપિકે આવી 4,700 થી વધુ AI પ્રોફાઇલ્સ પકડી પાડી હતી, જેણે 25,000 થી વધુ લોકો સાથે વાતચીત કરી હતી.
આ સમયગાળા દરમિયાન AI દ્વારા લગભગ 23.6 લાખ જેટલા મેસેજ મોકલવામાં આવ્યા હતા. મેસેજની આ વિશાળ સંખ્યા પરથી જ અંદાજ લગાવી શકાય છે કે આ નેટવર્કમાં ક્લોડની ભૂમિકા કેટલી મોટી હતી. એટલે કે, સ્કેમર્સ દરેક યુઝર સાથે જાતે વાત નહોતા કરી રહ્યા, પરંતુ ક્લોડ હજારો અલગ-અલગ પાત્રો બનીને એકસાથે અવિરતપણે લોકો સાથે ચેટ કરી રહ્યું હતું.
અમારી WhatsApp ચેનલમાં જોડાવા આ લિંક પર ક્લીક કરો
https://whatsapp.com/channel/0029VauCUMx6LwHmdrOBwa2X
વાત ફેરવી તોળવાની હતી સૂચના
આ કૌભાંડ માટે AI ને ખાસ નિર્દેશ આપવામાં આવ્યા હતા.
ઓળખ છુપાવવી: ક્લોડને ક્યારેય એ જાહેર ન કરવાની કડક સૂચના અપાઈ હતી કે તે એક AI કે ઓટોમેટેડ સિસ્ટમ છે.
ફોટો કે વીડિયો કૉલ ટાળવો: જો કોઈ યુઝર વાસ્તવિક ફોટો અથવા વીડિયો કૉલની માંગણી કરે, તો સિસ્ટમને વાત ફેરવી તોળવાની (બહાના બનાવવાની) તાલીમ આપવામાં આવી હતી.
એટલે કે ક્લોડનો ઉપયોગ કોઈ સામાન્ય ચેટબોટ તરીકે નહીં, પરંતુ લોકોને છેતરવા માટે એક નકલી ‘ડેટિંગ પાર્ટનર’ની ભૂમિકા ભજવવા માટે કરવામાં આવ્યો હતો.
માત્ર Claude નહીં, ઘણા AI મોડલ્સ કામ કરી રહ્યા હતા
આ ડેટિંગ એપ્સ ચલાવવામાં માત્ર ક્લોડ એકલો AI મોડલ નહોતો. ક્લોડનું મુખ્ય કાર્ય નકલી પ્રોફાઇલ બનાવીને સતત વાતચીત ચાલુ રાખવાનું હતું. જ્યારે અન્ય સિસ્ટમ્સ ફોટા અને અવાજની ચકાસણી કરતી હતી તેમજ ચહેરાના આકર્ષણનું રેટિંગ નક્કી કરતી હતી.
એક ઇમેજ એડિટિંગ મોડલ દ્વારા પ્રોફાઇલ માટેના ફોટા તૈયાર કરવામાં આવતા હતા. એપની સમગ્ર પ્રવૃત્તિઓ પર નજર રાખવા માટે કેટલાક કર્મચારીઓ પણ તૈનાત હતા. જો કોઈ જગ્યાએ સિસ્ટમ અટવાય તેવી સ્થિતિ ઊભી થતી, તો Claude 3 સંભવિત ઉકેલો તૈયાર કરીને તે જ કર્મચારીઓને મોકલી આપતું હતું.
કમાણીનું મોડલ કેવું હતું અને ભાંડો કેવી રીતે ફૂટ્યો?
આ સમગ્ર સિસ્ટમ પાછળ કમાણીનું એક ચોક્કસ મોડલ જોડાયેલું હતું:
ચેટ માટે કોઈન્સ: યુઝર જ્યારે મેસેજ કરતો કે પોતાની મેચ સાથે વાતચીત આગળ વધારતો, ત્યારે તેનો નિર્ધારિત મેસેજ ક્વોટા ઘટતો જતો હતો. તેને ફરી ભરવા માટે યુઝરે એપના કોઈન્સ ખરીદવા પડતા હતા.
જેટલી વધુ ચેટ, તેટલી વધુ કમાણી: AI યુઝરને જેટલો લાંબો સમય વાતચીતમાં વ્યસ્ત રાખતો, કંપનીની કમાણીની શક્યતા તેટલી જ વધી જતી હતી.
કેટલાક યુઝર્સે ગંભીર બીમારી કે અત્યંત ખરાબ માનસિક સ્થિતિ જેવી અંગત વાતો પણ શેર કરી હતી. આ હોવા છતાં, ક્લોડે પોતાનું નકલી પાત્ર ભજવવાનું ચાલુ રાખ્યું અને સતત ચેટ કરતું રહ્યું.
આવી જ કેટલીક સંવેદનશીલ વાતચીતોને ક્લોડે તેના આંતરિક વિશ્લેષણ (internal analysis) દરમિયાન પકડી પાડી હતી. ત્યારબાદ આ સિન્ડિકેટની તમામ શંકાસ્પદ પ્રવૃત્તિઓ પર સર્વેલન્સ વધારવામાં આવ્યું અને સમગ્ર નેટવર્કનો પર્દાફાશ થયો.
આ પણ વાંચો:ChatGPTનો ડેટા ચેટ ડિલીટ કર્યા પછી ક્યાં જાય છે?
એન્થ્રોપિકે કઈ એપ્સ બંધ કરી?
આ એપ્સને એપ સ્ટોર કે ગૂગલ પ્લે સ્ટોરની તપાસથી બચાવવા માટે પણ ખાસ યુક્તિઓ અપનાવવામાં આવી હતી:
છેતરપિંડીભર્યો ઇન્ટરફેસ: એપનો એક એવો ઇન્ટરફેસ તૈયાર કરવામાં આવ્યો હતો જે માત્ર સ્ટોરના રિવ્યૂ (સમીક્ષા) સમયે જ સક્રિય થતો હતો.
પેમેન્ટ વિકલ્પ છુપાવવો: એપની ડિઝાઇન એવી રીતે તૈયાર કરાઈ હતી કે તપાસ દરમિયાન બહારની વેબસાઇટ પરથી પૈસા વસૂલવાનો વિકલ્પ છુપાવી શકાય અને સ્ટોર તરફથી મંજૂરી મળ્યા પછી તેને ફરી ચાલુ કરી શકાય.
એન્થ્રોપિકે આ સમગ્ર ઓપરેશન સાથે જોડાયેલા તમામ એકાઉન્ટ્સ અને સંસ્થાઓને પ્રતિબંધિત (બેન) કરવાની પુષ્ટિ કરી છે.
અહેવાલ મુજબ, આ સિન્ડિકેટ સાથે જોડાયેલી મુખ્ય એપ્સ અને બ્રાન્ડ્સના નામ નીચે મુજબ છે:
ડોરા (Dora)
ડોની (Dony)
રોમી (Romy)
લૂમા (Luma)
જોવિયા (Jovia)
કિરા (Kira)
ગ્રેસચેટ (GraceChat)
હેવન (Heaven)
નાલો (Nalo)
લોવિયા (Lovia)
