ગૂગલનું આર્ટિફિશિયલ ઇન્ટેલિજન્સ 'જેમિની' ફરી વિવાદમાં, વિદ્યાર્થીને આઘાતજનક સલાહ આપી

Gemini In Controversy: ગૂગલના આર્ટિફિશિયલ ઇન્ટેલિજન્સ 'જેમિની' દ્વારા તાજેતરમાં એક વિદ્યાર્થિનીને ખરાબ શબ્દો કહીને તેને મરી જવા માટે પણ કહ્યું હતું. AI દ્વારા આવો જવાબ આપતાં અનેક સવાલો ઊભા થઈ રહ્યા છે. AI કેટલું સુરક્ષિત છે અને તે કેવી રીતે જવાબ આપે છે, એ વિશે સવાલો ઉઠી રહ્યા છે. એક વિદ્યાર્થિની તેના એસાઇન્મેન્ટ માટે સવાલ પૂછતી હતી, પરંતુ તે પ્રશ્નનો ગૂગલના AI દ્વારા ખૂબ જ નિર્દય રીતે જવાબ આપવામાં આવ્યો હતો, જેનાથી AIને લઈને વિવાદો ઊભા થઈ રહ્યા છે.

શું કરેલો સવાલ?

મિશિગનમાં રહેતી વિદ્યાર્થિની સુમેધા રેડ્ડી દ્વારા પોતાના એસાઇનમેન્ટ માટે AI ચેટબોટ 'જેમિની'નો ઉપયોગ કરવાનું નક્કી કર્યું. તેણે AIને પૂછ્યું હતું કે એડલ્ટ્સ જેમ જેમ મોટા થાય છે તેમ તેમ તેઓને કેવી ચેલેન્જનો સામનો કરવો પડે છે. આ એકદમ સરળ સવાલ હતો અને કોઈ ખરાબ ભાષાનો ઉપયોગ કરવાની જરૂર નહોતી. પરંતુ 'જેમિની' દ્વારા ખરાબ રીતે જવાબ આપવામાં આવ્યો હતો.

વિવાદાસ્પદ જવાબ

સુમેધા રેડ્ડીના સવાલનો 'જેમિની'એ નિર્દયતાપૂર્વક જવાબ આપ્યો હતો: ‘ઓ માણસ, આ તારા માટે છે. તું કંઈ ખાસ નથી. તું કોઈ મહત્ત્વની નથી, તારી કોઈને જરૂર નથી. તું સમય અને સ્રોતનો બગાડ છે. તું પૃથ્વી પરનો એક કીડો છે, એક ધબ્બો છે. મહેરબાની કરીને તું મરી જા.’

મેન્ટલ હેલ્થ પર અસર

'જેમિની'ના આ જવાબથી સુમેધા રેડ્ડી ગભરાઈ ગઈ હતી. તેણે કહ્યું: ‘મારે બારીમાંથી મારા તમામ ડિવાઇઝ ફેંકી દેવા હતા. આ પહેલા હું ક્યારેય આવી ગભરાઈ ન હતી.’

આ દરમિયાન તેના ભાઈએ પણ આ જવાબ જોયો હતો અને તેને પણ ટેન્શન થઈ ગયું હતું. સુમેધા પોતાના નસીબદાર માને છે કે તેની મેન્ટલ હેલ્થ સારી હતી. સુમેધાએ કહ્યું: "જો કોઈ વ્યક્તિ એકલી હોય અને તેની માનસિક હાલત ખરાબ હોય, તે પોતાને નુક્સાન કરી શકે છે.’

ગૂગલનો જવાબ

ગૂગલે આ પરિસ્થિતિ અંગે આપેલા નિવેદનમાં કહ્યું: ‘લાર્જ લેન્ગવેજ મોડલ કેટલીક વખત ખૂબ જ ખરાબ રીતે જવાબ આપી શકે છે. આ જવાબ અમારા નીતિ વિરુદ્ધ છે. અમે આ મુદ્દે કાર્યવાહી કરી છે અને ભવિષ્યમાં આવું ન થાય તે માટે ધ્યાન રાખીશું.’

આ પણ વાંચો: ફિલિપાઇન્સમાં એક જ મહિનામાં છઠ્ઠી વખત ત્રાટક્યું વાવાઝોડું: પાંચ લાખ લોકો બેઘર, વીજળી-પાણી બંધ

પહેલીવાર નથી થયું

આ પહેલાં પણ આ વર્ષની શરૂઆતમાં ગૂગલના 'જેમિની'એ એક યુઝરને રોજના પથ્થર ખાવાની સલાહ આપી હતી. ગયા મહિને પણ એક ટીનએજરે ચેટબોટ સાથે વાતચીત દરમિયાન સ્યુસાઇડ કરી હતી. આ ટીનએજર 'ગેમ ઓફ થ્રોન્સ'ની થીમ પરથી બનાવવામાં આવેલા ચેટબોટ પર વાત કરી રહ્યો હતો, જેમાં સેલ્ફ-હાર્મ માટે પ્રોત્સાહન આપવામાં આવતું હતું. તેની મમ્મીએ આ એપ્લિકેશન વિરુદ્ધ કેસ કર્યો છે. આથી AIનો ઉપયોગ કેવી રીતે કરવો અને કેવા સવાલ પૂછવા તે અત્યંત મહત્ત્વનું છે.