Meta AI Safety Feature: આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI)નો ઉપયોગ ઝડપથી વધી રહ્યો છે ત્યારે બાળકો અને કિશોરોની ઓનલાઈન સુરક્ષા સૌથી મોટો મુદ્દો બની રહ્યો છે. ખાસ કરીને AI ચેટબોટ્સ સાથે થતી વ્યક્તિગત વાતચીતમાં જો કોઈ ટીનેજર આત્મહત્યા, સેલ્ફ-હાર્મ અથવા માનસિક સંકટ જેવી ગંભીર બાબતો શેર કરે તો તેની સમયસર ઓળખ કેવી રીતે કરવી તે ટેક કંપનીઓ માટે મોટો પડકાર બની ગયો છે. આ પડકારને ધ્યાનમાં રાખીને Meta પોતાના AI ચેટબોટમાં એક મહત્વપૂર્ણ સેફ્ટી ફીચર ઉમેરવાની તૈયારીમાં છે. નવા ફીચર હેઠળ જો કોઈ ટીનેજર યુઝર Meta AI સાથે આત્મહત્યા અથવા પોતાની જાતને નુકસાન પહોંચાડવા સંબંધિત વાત કરશે, તો સિસ્ટમ તેની ઓળખ કરીને માતા-પિતાને એલર્ટ મોકલશે. કંપનીના જણાવ્યા અનુસાર, આ એલર્ટ માત્ર AIના નિર્ણયના આધારે નહીં પરંતુ મેન્યુઅલ રિવ્યૂ બાદ જ મોકલવામાં આવશે, જેથી ખોટા એલર્ટની શક્યતા ઘટાડી શકાય.
કેવી રીતે કામ કરશે Meta AIનું નવું સેફ્ટી ફીચર?
Metaએ આ માટે ખાસ AI આધારિત મોનિટરિંગ સિસ્ટમ વિકસાવી છે. જો કોઈ ટીનેજર Meta AI સાથેની વાતચીત દરમિયાન આત્મહત્યા, સેલ્ફ-હાર્મ અથવા ગંભીર માનસિક સંકટનો સંકેત આપતી વાત કરશે, તો AI સૌથી પહેલાં તે વાતચીતને ઓળખશે. ત્યારબાદ આ કન્વર્સેશનનું તાલીમપ્રાપ્ત ટીમ દ્વારા મેન્યુઅલ રિવ્યૂ કરવામાં આવશે. જો ટીમને લાગશે કે પરિસ્થિતિ ગંભીર હોઈ શકે છે, તો માતા-પિતાને નોટિફિકેશન મોકલવામાં આવશે. કંપનીએ સ્પષ્ટ કર્યું છે કે માત્ર AI પોતે એલર્ટ મોકલવાનો નિર્ણય નહીં લે.
ક્યારેક ખોટા એલર્ટ પણ મળી શકે
Metaના જણાવ્યા અનુસાર, જો કોઈ વાતચીતમાં યુઝરનો ઈરાદો સંપૂર્ણપણે સ્પષ્ટ ન હોય છતાં તેમાં જોખમની શક્યતા દેખાય તો પણ માતા-પિતાને સૂચના મોકલવામાં આવી શકે છે. કંપનીનું માનવું છે કે, આવી સ્થિતિમાં થોડા વધારાના એલર્ટ મોકલવા વધુ યોગ્ય છે, કારણ કે ગંભીર પરિસ્થિતિમાં સમયસર કાર્યવાહી કરવી વધુ મહત્વપૂર્ણ છે.
આ પણ વાંચો: 20,000થી ઓછી કિંમતમાં આવી રહ્યો છે iQOO Z11 Lite : 6500mAh બેટરી અને AI ફીચર્સથી મળશે જબરદસ્ત અનુભવ
શરૂઆત ક્યાંથી થશે?
હાલ આ ફીચર અમેરિકા, યુકે, કેનેડા અને ઓસ્ટ્રેલિયામાં Instagramના Parental Supervision Toolsનો ઉપયોગ કરતા માતા-પિતા માટે શરૂ કરવામાં આવ્યું છે. Metaની યોજના મુજબ વર્ષના અંત સુધીમાં આ સુવિધા ભારત સહિત અન્ય વૈશ્વિક બજારોમાં પણ તબક્કાવાર ઉપલબ્ધ કરાવવામાં આવશે.
Meta પહેલાથી જ વધારી રહ્યું છે ઓનલાઈન સુરક્ષા
છેલ્લા કેટલાક મહિનાઓમાં Metaએ ટીનેજર યુઝર્સની સુરક્ષા માટે અનેક નવા ફીચર્સ રજૂ કર્યા છે. Instagram પર જો કોઈ કિશોર વારંવાર આત્મહત્યા અથવા સેલ્ફ-હાર્મ સંબંધિત કન્ટેન્ટ શોધે છે, તો તેના માતા-પિતાને પહેલેથી જ નોટિફિકેશન મોકલવાની સુવિધા ઉપલબ્ધ છે. આ ઉપરાંત માતા-પિતા પોતાના બાળકો Meta AI સાથે કયા વિષયો પર વાત કરી રહ્યા છે તેની કેટેગરી જોઈ શકે છે, જોકે તેઓ સંપૂર્ણ ચેટ વાંચી શકતા નથી. આ વ્યવસ્થા દ્વારા યુઝરની પ્રાઇવસી અને સુરક્ષા વચ્ચે સંતુલન જાળવવાનો પ્રયાસ કરવામાં આવ્યો છે.
Meta AIમાં આવશે Instagramનું 'Limited Content' મોડ
Meta હવે Instagramમાં ઉપલબ્ધ Limited Content Modeને Meta AIમાં પણ ઉમેરવાની તૈયારી કરી રહ્યું છે. આ ફીચર ટીનેજર યુઝર્સ માટે સંવેદનશીલ અથવા જોખમી કન્ટેન્ટને મર્યાદિત કરશે, જેથી તેઓને ઉંમર અનુસાર વધુ સુરક્ષિત અનુભવ મળી શકે.
આ પણ વાંચો: 25,000માં કયો 5G સ્માર્ટફોન સૌથી બેસ્ટ? : જાણો Realme, OnePlus અને Pocoના લેટેસ્ટ ફોનની સંપૂર્ણ સરખામણી
ઈમરજન્સી સર્વિસને પણ મળી શકે જાણ
Meta ભવિષ્યમાં વધુ એક મહત્વપૂર્ણ સુરક્ષા ફીચર પર પણ કામ કરી રહ્યું છે. જો સિસ્ટમને લાગશે કે કોઈ યુઝર માટે આત્મહત્યાનો ગંભીર અને તાત્કાલિક ખતરો છે, તો ભવિષ્યમાં સંબંધિત ઈમરજન્સી રિસ્પોન્સ ટીમ અથવા અધિકારીઓને પણ જાણ કરવાની વ્યવસ્થા ઉમેરવામાં આવી શકે છે. જોકે આ સુવિધા અંગે હજુ વિચારણા ચાલી રહી છે અને તેના અમલીકરણ વિશે કંપનીએ અંતિમ જાહેરાત કરી નથી.
બાળકોની ડિજિટલ સુરક્ષા પર Metaનું વધતું ધ્યાન
AI ચેટબોટ્સનો ઉપયોગ સતત વધી રહ્યો છે ત્યારે બાળકો અને કિશોરોની માનસિક સુરક્ષા સુનિશ્ચિત કરવી ટેક કંપનીઓ માટે પ્રાથમિકતા બની રહી છે. Metaનું આ નવું સેફ્ટી ફીચર ઓનલાઈન સુરક્ષાને વધુ મજબૂત બનાવવાનો પ્રયાસ માનવામાં આવી રહ્યો છે, જેમાં AI અને માનવીય સમીક્ષાનું સંયોજન કરીને જોખમની સ્થિતિમાં સમયસર પગલાં ભરવામાં આવશે.
