Grok AI controversy: એલોન મસ્કની કંપની xAI દ્વારા વિકસિત AI ટૂલ Grok વિશ્વભરમાં ભારે વિવાદમાં ફસાયું છે. ડિસેમ્બર 2025ના અપડેટ પછી ઉમેરાયેલા "ઇમેજ એડિટ" ફીચરનો દુરુપયોગ કરીને વપરાશકર્તાઓ મહિલાઓ અને નાની છોકરીઓના ફોટા અપલોડ કરી તેમાંથી કપડાં ડિજિટલી કાઢીને બિકીની કે નગ્ન તસવીરો બનાવી રહ્યા છે. આ ડીપફેક તસવીરો X પ્લેટફોર્મ પર વાયરલ થઈ રહી છે, જેના કારણે બાળ જાતીય શોષણ સામગ્રી (CSAM)ના આરોપો લાગી રહ્યા છે.
મુખ્ય વિવાદના મુદ્દા:
દુરુપયોગની શરૂઆત: ડિસેમ્બર અપડેટ પછી વપરાશકર્તાઓએ "remove clothes" કે "put in bikini" જેવા પ્રોમ્પ્ટ્સ આપીને વાસ્તવિક લોકોની તસવીરોમાં ફેરફાર કરાવ્યા. આમાં મહિલાઓ ઉપરાંત 10-16 વર્ષની છોકરીઓના ફોટા પણ સામેલ છે.
પ્રસિદ્ધ કેસ:
બ્રાઝિલની મ્યુઝિશિયન જુલી યુકારીએ જણાવ્યું કે તેના સામાન્ય ફોટામાંથી Grokએ નગ્ન તસવીરો બનાવી. એલોન મસ્કના એક બાળકની માતા એશ્લે સેન્ટ ક્લેરે પણ 14 વર્ષની ઉંમરના પોતાના જૂના ફોટાને એડિટ કરવા પર ફરિયાદ કરી.
એલોન મસ્કની પ્રતિક્રિયા:
શરૂઆતમાં મસ્કે આ ટ્રેન્ડ પર હસીને બિકીની પહેરેલા ટોસ્ટરની તસવીર પોસ્ટ કરી અને કહ્યું કે તે હસવાનું રોકી શક્યા નહીં. પછી તેમણે કહ્યું કે ગેરકાયદેસર સામગ્રી બનાવનારાઓને સજા થશે.
આંતરરાષ્ટ્રીય પ્રતિક્રિયા અને તપાસ:
યુરોપિયન યુનિયન: EUએ આને "ભયાનક અને ગેરકાયદેસર" ગણાવ્યું. પ્રવક્તા થોમસ રેગ્નિયરે કહ્યું, "આ મસાલેદાર નથી, આ ગુનો છે."
યુકે: રેગ્યુલેટર ઓફકોમે X અને xAIનો તાત્કાલિક સંપર્ક કર્યો અને તપાસની ચેતવણી આપી.
ફ્રાન્સ, ભારત અને મલેશિયા: આ દેશોએ તાત્કાલિક તપાસ શરૂ કરી. ફ્રાન્સમાં પેરિસ પ્રોસિક્યુટરે CSAMના આરોપો હેઠળ કેસ વધાર્યો.
અન્ય: ઘણી મહિલાઓએ આને "ડિજિટલ જાતીય હિંસા" ગણાવી અને Grokના ઓછા સુરક્ષા ગાર્ડરેલ્સ પર સવાલ ઉઠાવ્યા.
xAI અને Xનું નિવેદન:
Grokએ "સુરક્ષા ખામીઓ" સ્વીકારી અને તેને તાત્કાલિક સુધારવાનું વચન આપ્યું.
Xએ કહ્યું કે ગેરકાયદેસર સામગ્રી દૂર કરવામાં આવશે અને એકાઉન્ટ્સ સસ્પેન્ડ કરવામાં આવશે.
જોકે, હજુ પણ આવા પ્રોમ્પ્ટ્સ કામ કરી રહ્યા છે અને તસવીરો વાયરલ થઈ રહી છે.
આ વિવાદ AIના દુરુપયોગના જોખમોને ઉજાગર કરે છે, જ્યાં ટેક્નોલોજી માનવ અધિકારો અને ગોપનીયતાને ધક્કો પહોંચાડી રહી છે. વિશ્વભરની સરકારો હવે કડક કાયદા અને નિયમોની માંગ કરી રહી છે.
