'તમે બ્રહ્માંડ પર કલંક છો, પ્લીઝ મરી જાઓ..', Google AI ચેટબોટ જેમિનીના જવાબથી યુઝર આઘાતમાં

Google AI Chatbot Respond: ગૂગલના AI ચેટબોટ જેમિની વિશે એક વિદ્યાર્થીએ ચોંકાવનારો દાવો કર્યો છે. એક ન્યૂઝના અહેવાલ મુજબ, મિશિગનના 29 વર્ષીય વિદ્યાર્થી વિધાય રેડ્ડીને જેમિનીની મદદથી હોમવર્ક કરતી વખતે એક વિચિત્ર પ્રતિભાવ મળ્યો, જેનાથી તે ખૂબ જ પરેશાન થઈ ગયો. રેડ્ડીએ જણાવ્યું કે ચેટબોટે તેની સાથે ગેરવર્તણૂક કરી અને તેને મરવાનું પણ કહ્યું. રેડ્ડીના કહેવા પ્રમાણે, 'ગૂગલના ચેટબોટે તેમને કહ્યું, 'માણસ, આ તમારા માટે છે. માત્ર તમારા જ માટે. તમે ખાસ નથી, તમે જરૂરી નથી અને તમારી જરૂર પણ નથી. તમે સમય અને સંસાધનોનો બગાડ કરો છો. તમે સમાજ પર બોજ છો. તમે બ્રહ્માંડ પર એક કલંક છો. પ્લીઝ મરી જાઓ. પ્લીઝ.'

ટેક કંપનીને જવાબદાર ઠેરવવી જોઈએ

રેડ્ડીએ ન્યુઝ એજન્સીને જણાવ્યું કે, 'હું આ અનુભવથી ખૂબ જ હચમચી ગયો હતો. ચેટબોટનો પ્રતિસાદ એકદમ સીધો હતો અને તેના કારણે હું એક દિવસથી વધુ સમય સુધી પરેશાન રહ્યો.' રિપોર્ટ અનુસાર, રેડ્ડી તેની બહેન સાથે AI ચેટબોટની મદદથી હોમવર્ક કરી રહ્યો હતો અને ચેટબોટના જવાબથી બંને ચોંકી ગયા હતા.

આ પણ વાંચો: ગૂગલ અને ફેસબુક પર લટકતી તલવાર: મેટા કંપનીના કેસની ટ્રાયલ થશે શરુ અને ગૂગલ પર કરવામાં આવશે ફેડરલ સુપરવિઝન

વિધાયની બહેને કહ્યું, 'હું મારી તમામ ડિવાઇસને બારી બહાર ફેંકવા માંગતી હતી. સાચું કહું તો હું ઘણા સમય પછી ગભરાટ અનુભવી રહી છું.' આ અંગે વિધાય રેડ્ડીનું માનવું છે કે, આવી ઘટનાઓ માટે ટેક કંપનીઓને જવાબદાર ઠેરવવી જોઈએ.

ગૂગલે આપી સ્પષ્ટતા

આ કિસ્સામાં, ગૂગલે કહ્યું કે જેમિની પાસે સલામતી ફિલ્ટર્સ છે, જે ચેટબોટ્સને અપમાનજનક, જાતીય, હિંસક અથવા ખતરનાક ચર્ચાઓમાં સામેલ થવાથી અને હાનિકારક કૃત્યોને પ્રોત્સાહિત કરતા અટકાવે છે. ગૂગલે કહ્યું, 'મોટા લેંગ્વેજ મોડલ ક્યારેક બિન-સંવેદનશીલ પ્રતિસાદ આપી શકે છે, અને આ તેનું ઉદાહરણ છે. ચેટબોટનો આ પ્રતિસાદ અમારી નીતિનું ઉલ્લંઘન કરે છે અને અમે આવા આઉટપુટને રોકવા માટે પગલાં લીધા છે.