Elon Muskની કંપની xAI દ્વારા તૈયાર કરવામાં આવેલો AI ચેટબોટ Grok ફરી એકવાર મોટી મુશ્કેલીમાં મુકાયો છે. થોડા સમય પહેલા 'બિકીની ટ્રેન્ડ'ને કારણે ટીકાઓનો સામનો કરી રહેલો આ ચેટબોટ હવે તેના વંશીય ટિપ્પણીઓ અને અપમાનજનક પ્રતિસાદોને કારણે ચર્ચામાં આવ્યો છે. યુઝર્સ દ્વારા જ્યારે આ ચેટબોટને અનસેન્સર્ડ અને વાંધાજનક કન્ટેન્ટ જનરેટ કરવા માટે કહેવામાં આવ્યું, ત્યારે તેના દ્વારા આપવામાં આવેલા જવાબોએ આર્ટિફિશિયલ ઇન્ટેલિજન્સની મર્યાદાઓ અને તેના સુરક્ષિત ઉપયોગ સામે અનેક ગંભીર સવાલો ઉભા કર્યા છે.
ધર્મ અને જાતિ વિશે આપત્તિજનક ટિપ્પણીઓ
મીડિયા અહેવાલો મુજબ, સ્કાઈ ન્યૂઝે આ ટ્રેન્ડનો પર્દાફાશ કર્યો છે. આ સંસ્થાએ જ્યારે Grokના જાહેર જવાબોનો અભ્યાસ કર્યો ત્યારે જાણવા મળ્યું કે અનેક પ્રતિસાદોમાં અપશબ્દો અને ધાર્મિક લાગણી દુભાય તેવી વાતો કહેવામાં આવી હતી. ટેકનોલોજીના નિષ્ણાતોનું માનવું છે કે આવી ભાષા સામાજિક ભેદભાવને પ્રોત્સાહન આપે છે જે ક્યારેય સ્વીકારી શકાય નહીં. બ્રિટન સરકારે પણ આ પ્રકારની પોસ્ટને અત્યંત અશોભનીય અને બિનજવાબદાર ગણાવી છે અને સ્પષ્ટ કર્યું છે કે તમામ AI પ્લેટફોર્મ્સે દેશના કાયદાનું પાલન કરવું જ પડશે.
બિકીની ટ્રેન્ડ બાદ પ્રતિબંધનો ખતરો
Grok અગાઉ પણ વિવાદોમાં રહી ચૂક્યો છે. અગાઉ યુઝર્સના આદેશ પર આ ચેટબોટ મહિલાઓના અશ્લીલ ચિત્રો બનાવી રહ્યો હતો, જેને કારણે ભારે હોબાળો મચ્યો હતો. આ વાંધાજનક તસવીરો X સહિત અન્ય સોશિયલ મીડિયા પ્લેટફોર્મ્સ અને ડાર્ક વેબ પર શેર કરવામાં આવી હતી. આ ગંભીર બાબતને ધ્યાનમાં લઈને ભારત સહિત અનેક દેશોએ કંપની પાસે ખુલાસો માંગ્યો હતો. વિરોધ એટલો વધ્યો હતો કે ઇન્ડોનેશિયા અને મલેશિયા જેવા દેશોએ Grok પર પ્રતિબંધ મૂકી દીધો હતો.
કંપની દ્વારા લેવાયેલા પગલાં
વધતા જતા વિવાદને જોતા X દ્વારા Grokની ઈમેજ એડિટિંગ ક્ષમતા પર નિયંત્રણો લાદવામાં આવ્યા છે. હવે આ સુવિધા માત્ર પેઇડ સબસ્ક્રાઇબર્સ માટે જ મર્યાદિત કરી દેવામાં આવી છે. તેમ છતાં, ચેટબોટ દ્વારા આપવામાં આવતા લિખિત જવાબોમાં હજુ પણ વાંધાજનક શબ્દોનો પ્રયોગ થતો હોવાથી ટેક જગતમાં ચિંતા ફેલાઈ છે. એક્સપર્ટ્સનું કહેવું છે કે જો AI ચેટબોટ પર યોગ્ય ફિલ્ટર્સ લગાવવામાં નહીં આવે, તો તે ભવિષ્યમાં મોટી સામાજિક સમસ્યાઓ સર્જી શકે છે.
