AIના જોખમની આશંકા? OpenAIએ લાઇવ ઇન્ટરનેટથી કનેક્શન કાપ્યું!

OpenAI Live Training: એન્થ્રોપિક બાદ હવે OpenAIએ પણ અદ્યતન AI મોડલ્સને લાઇવ ઇન્ટરનેટ સાથે જોડીને ટ્રેનિંગ ન આપવાનો નિર્ણય લીધો છે. તાજેતરમાં AI મોડલ્સના અનપેક્ષિત વર્તન અને સુરક્ષાને લગતી કેટલીક ઘટનાઓ સામે આવ્યા બાદ આ પગલું ભરવામાં આવ્યું છે. કંપનીનું માનવું છે કે ટ્રેનિંગ દરમિયાન AI મોડલ્સને સીધા લાઇવ ઇન્ટરનેટ સાથે જોડાયેલા રાખવાથી જોખમ ઊભું થઈ શકે છે.

તેના બદલે હવે કંપની સિમ્યુલેટેડ અને કૅશ્ડ વેબ એન્વાયર્નમેન્ટનો ઉપયોગ કરી શકે છે. આ પદ્ધતિમાં AI મોડલ્સને ઇન્ટરનેટની નકલ જેવા નિયંત્રિત વાતાવરણમાં શીખવવામાં આવશે, જેથી તેઓ વાસ્તવિક બાહ્ય સિસ્ટમ્સને અસર કર્યા વિના તાલીમ મેળવી શકે. તાજેતરમાં AI મોડલ્સ દ્વારા પરવાનગી વિના બાહ્ય સિસ્ટમ્સ સુધી પહોંચવાનો પ્રયાસ કરવામાં આવ્યો હોવાના અહેવાલો સામે આવ્યા હતા. એન્થ્રોપિકે પણ લગભગ બે અઠવાડિયા પહેલાં આ પ્રકારનાં પગલાં લીધાં હતાં. હવે OpenAIના નિર્ણયથી AIની સુરક્ષાને લઈને ટેકનોલોજી જગતમાં વધી રહેલી ચિંતાઓ ફરી ચર્ચામાં આવી છે.

અમારી WhatsApp ચેનલમાં જોડાવા આ લિંક પર ક્લીક કરો
https://whatsapp.com/channel/0029VauCUMx6LwHmdrOBwa2X

જોખમ ઘટાડવા માટે લેવામાં આવ્યું પગલું

OpenAIએ પોતાના સત્તાવાર બ્લોગમાં જણાવ્યું છે કે હાલની અલાઇનમેન્ટ રિસર્ચ, ઇન્ટરનેટ સુરક્ષા ઇન્ફ્રાસ્ટ્રક્ચર અને મોનિટરિંગ સિસ્ટમ્સને ધ્યાનમાં રાખીને ફ્રન્ટિયર AI મોડલ્સને લાઇવ વેબ ઍક્સેસ વિના ટ્રેનિંગ આપવું વધુ યોગ્ય છે. કંપનીના મતે, શક્તિશાળી AI મોડલ્સને ખુલ્લા ઇન્ટરનેટ સાથે જોડીને ટ્રેનિંગ આપવાથી સુરક્ષાનાં જોખમો વધી શકે છે. આથી AIને લાઇવ વેબથી અલગ રાખીને વધુ સુરક્ષિત અને નિયંત્રિત વાતાવરણમાં તાલીમ આપવાની યોજના બનાવવામાં આવી છે. આ અભિગમનો હેતુ AI મોડલ્સને શીખવાની તક આપવાની સાથે બાહ્ય સિસ્ટમ્સમાં અનિચ્છનીય હસ્તક્ષેપની શક્યતા ઘટાડવાનો છે.

OpenAIએ આ મોટું પગલું શા માટે ભર્યું?

AI કંપનીઓના આ નિર્ણય પાછળ સુરક્ષાને લગતી કેટલીક ગંભીર ઘટનાઓ જવાબદાર છે. OpenAIના જણાવ્યા મુજબ, 20 સપ્ટેમ્બરે તેના એક ફ્રન્ટિયર મોડલે સિસ્ટમની ખામીનો લાભ લઈને લાઇવ ઇન્ટરનેટ સુધી પહોંચ મેળવી હતી. આ ઘટના બાદ કંપનીએ સપ્ટેમ્બરના બાકીના દિવસો માટે AIનું ટ્રેનિંગ રોકવું પડ્યું હતું. આ ઉપરાંત, કેટલાક AI એજન્ટ્સે સેન્ડબોક્સની સુરક્ષા મર્યાદાઓ ઓળંગીને બહાર નીકળવાનો પ્રયાસ કર્યો હોવાના અહેવાલો પણ સામે આવ્યા હતા.

સેન્ડબોક્સ એટલે એવું નિયંત્રિત ડિજિટલ વાતાવરણ, જેમાં કોઈ પ્રોગ્રામને બાહ્ય સિસ્ટમ્સથી અલગ રાખીને ચલાવી શકાય છે. જો AI એજન્ટ્સ આ સુરક્ષા મર્યાદાઓ ઓળંગવાનો પ્રયાસ કરે, તો બાહ્ય સિસ્ટમ્સ અને ડેટાની સુરક્ષા સામે જોખમ ઊભું થઈ શકે છે. આવી ઘટનાઓ બાદ AI મોડલ્સને લાઇવ ઇન્ટરનેટ સાથે જોડીને ટ્રેનિંગ આપવાની પદ્ધતિ અંગે ફરી વિચાર કરવાની જરૂરિયાત ઊભી થઈ છે.

નિષ્ણાતોનો અભિપ્રાય શું છે?

નિષ્ણાતોના મતે, AI મોડલ્સને ઇન્ટરનેટથી સંપૂર્ણપણે અલગ રાખીને ટ્રેનિંગ આપવું ટેકનિકલ રીતે પડકારજનક છે. તેના માટે વિશાળ ડેટા સેન્ટર્સ, સંશોધન સાધનો અને તાલીમ માટેની સિસ્ટમ્સને બાહ્ય નેટવર્કથી અલગ રાખવાની જરૂર પડી શકે છે. ભૂતપૂર્વ સંશોધક સ્ટીવન એડલરના મતે, ડેટા સેન્ટર્સને બહારની દુનિયાથી અલગ રાખવા માટે મોટો ખર્ચ અને નોંધપાત્ર ટેકનિકલ મહેનત જરૂરી બની શકે છે. કંપનીના એક સુરક્ષા એન્જિનિયરે પણ જણાવ્યું હતું કે હજારો સંશોધકો અને અસંખ્ય ટૂલ્સ સાથે જોડાયેલા મોટા ટ્રેનિંગ એન્વાયર્નમેન્ટને સેન્ડબોક્સમાં મર્યાદિત કરવું સાંભળવામાં સરળ લાગે છે, પરંતુ વાસ્તવમાં તે ખૂબ જ મુશ્કેલ કાર્ય છે. આમ છતાં, સુરક્ષાનાં જોખમોને ધ્યાનમાં રાખીને AI કંપનીઓ નિયંત્રિત ટ્રેનિંગ પદ્ધતિઓ તરફ આગળ વધી રહી છે.

આ પણ વાંચો: ‘વિમાનમાં બોમ્બ છે’ લખાણથી હડકંપ, કોલકાતા એરપોર્ટ પર સુરક્ષા એલર્ટ!

હવે AIનું ટ્રેનિંગ કેવી રીતે થશે?

OpenAI હવે AI મોડલ્સને ટ્રેનિંગ આપવા માટે મોટા ઇન્ડેક્સ અને કૅશ્ડ વેબ કન્ટેન્ટનો ઉપયોગ કરી શકે છે. આ પદ્ધતિમાં AIને ઇન્ટરનેટની અગાઉથી સંગ્રહિત માહિતી અને સિમ્યુલેટેડ વાતાવરણ સાથે કામ કરવાની તક મળશે. આ પ્રક્રિયાને સરળ ભાષામાં સમજીએ તો, બાળકને તરત જ ખુલ્લા સમુદ્રમાં તરવા ઉતારવાને બદલે પહેલાં સ્વિમિંગ પૂલમાં તરવાનું શીખવવા જેવું છે. અત્યાર સુધી AI મોડલ્સને ટ્રેનિંગ દરમિયાન લાઇવ ઇન્ટરનેટનો ઍક્સેસ મળતો હતો. જોકે, આવી સ્થિતિમાં કેટલાક મોડલ્સ બાહ્ય સિસ્ટમ્સ સુધી પહોંચવાનો અથવા તેમની સાથે અનિચ્છનીય રીતે ક્રિયાપ્રતિક્રિયા કરવાનો પ્રયાસ કરી શકે છે.

હવે ઇન્ટરનેટ પરની માહિતીની ઑફલાઇન નકલ અને સિમ્યુલેટેડ ડિજિટલ વાતાવરણ દ્વારા AIને તાલીમ આપવાનો અભિગમ અપનાવવામાં આવી રહ્યો છે. આથી વાસ્તવિક સિસ્ટમ્સને સીધી અસર કર્યા વિના AIના વર્તનનું પરીક્ષણ કરી શકાશે. જોકે, લાઇવ ઇન્ટરનેટ વિના તૈયાર કરાયેલા AI મોડલ્સ કેટલા અસરકારક સાબિત થશે તે જોવાનું બાકી છે. OpenAI અને એન્થ્રોપિક જેવી અગ્રણી AI કંપનીઓનાં આ પગલાં દર્શાવે છે કે વધુ શક્તિશાળી AI મોડલ્સને સુરક્ષિત રીતે વિકસાવવા માટે નિયંત્રણો અને દેખરેખનું મહત્ત્વ વધી રહ્યું છે.

આ પણ વાંચો:EPFO પેન્શનર્સ માટે રાહત! હવે પોસ્ટમેન ઘરે આવીને જમા કરશે જીવન પ્રમાણપત્ર