Google એ Google Earth માટે લોન્ચ કરેલું નવું AI ઇમેજ જનરેશન ટૂલ માત્ર 24 કલાકમાં જ બંધ કરી દીધું છે. આ ફીચર યુઝર્સ દ્વારા ગેરમાર્ગે દોરતી મેપ કન્ટેન્ટ બનાવવાની ફરિયાદો બાદ બંધ કરવામાં આવ્યું, જેના કારણે પ્લેટફોર્મની વિશ્વસનીયતા પર પ્રશ્નો ઊભા થયા છે. રોકાણકારો આ પ્રકારની ઘટનાઓ પર નજર રાખે છે જેથી AI સલામતીના જોખમો અને સંભવિત નિયમનકારી તપાસના સંચાલનમાં કંપનીની પ્રગતિને સમજી શકાય.
Google Earth નું AI ટૂલ કેમ બંધ થયું?
Google એ તેના Google Earth પ્લેટફોર્મમાં તાજેતરમાં જ શરૂ કરાયેલ AI ઇમેજ જનરેશન ફીચરને ડીએક્ટિવેટ કરવાનો નિર્ણય લીધો છે. ગુરુવારે લોન્ચ થયેલ આ ટૂલ યુઝર્સને એપ્લિકેશનના હાલના સેટેલાઇટ ડેટામાં બનાવટી (fabricated) છબીઓ ઉમેરવાની સુવિધા આપતું હતું. જોકે કંપનીનો ઈરાદો તેને એક ક્રિએટિવ ટૂલ બનાવવાનો હતો, પરંતુ તે માત્ર એક દિવસમાં જ દૂર કરવામાં આવ્યું.
ભૂલ શું થઈ?
આ ઝડપી નિર્ણય પત્રકારો અને જીઓસ્પેશિયલ નિષ્ણાતો તરફથી તાત્કાલિક પ્રતિક્રિયા બાદ લેવાયો. વિવેચકોએ ચિંતા વ્યક્ત કરી હતી કે આ ફીચરનો સરળતાથી દુરુપયોગ કરીને ખોટો મેપ ડેટા જનરેટ અને શેર કરી શકાય છે, જેનાથી ખોટી માહિતી (misinformation) ફેલાવવાનું જોખમ વધી શકે છે. મુખ્ય મુદ્દો એ હતો કે Google Earth જેવા વિશ્વસનીય પ્લેટફોર્મ પર, અસલ સેટેલાઇટ ઇમેજરી અને AI-જનરેટેડ કન્ટેન્ટ વચ્ચેનો ભેદ પારખવો મુશ્કેલ બની જાય છે.
Google નું નિવેદન
એક સત્તાવાર નિવેદનમાં, Google એ પરિસ્થિતિનો સ્વીકાર કર્યો અને જણાવ્યું કે ફીચરના કેટલાક રચનાત્મક ઉપયોગો હોવા છતાં, એવા કિસ્સાઓ પણ સામે આવ્યા જ્યાં જનરેટ થયેલ કન્ટેન્ટ તેની સુરક્ષા નીતિઓનું ઉલ્લંઘન કરે છે. કંપનીએ પુષ્ટિ કરી છે કે તે હાલમાં ટૂલને ફરીથી રજૂ કરતા પહેલા આવા નીતિ ઉલ્લંઘનોને રોકવા માટે વધુ મજબૂત સુરક્ષા વ્યવસ્થા (guardrails) બનાવી રહી છે.
રોકાણકારો માટે શું મહત્વનું?
આ ઘટના દર્શાવે છે કે મોટી ટેકનોલોજી કંપનીઓ ઝડપી પ્રોડક્ટ ઇનોવેશન અને આર્ટિફિશિયલ ઇન્ટેલિજન્સના દુરુપયોગને રોકવાની જરૂરિયાત વચ્ચે સંતુલન જાળવવામાં કેવી રીતે પડકારોનો સામનો કરે છે. હિતધારકો માટે, આવા બનાવો પર નજર રાખવી મહત્વપૂર્ણ છે, કારણ કે તે AI સુવિધાઓને સ્કેલ કરતી વખતે યુઝરનો વિશ્વાસ જાળવી રાખવા અને બદલાતા કન્ટેન્ટ સલામતી ધોરણોનું પાલન કરવાના ખર્ચ અને ઓપરેશનલ જટિલતાઓને પ્રતિબિંબિત કરે છે. આગળ જતા, બજારનું મુખ્ય ધ્યાન Google તેની AI સુરક્ષા વ્યવસ્થાને કેટલી અસરકારક રીતે સુધારી શકે છે તેના પર રહેશે. રોકાણકારો આ ફીચર પરના ભવિષ્યના અપડેટ્સ, તેમજ કંપની તેની લોકપ્રિય ડિજિટલ સેવાઓમાં AI-જનરેટેડ કન્ટેન્ટના જોખમોનું સંચાલન કેવી રીતે કરે છે તેમાં કોઈપણ વ્યાપક ફેરફારો પર નજર રાખી શકે છે. કોઈપણ સંભવિત પુનઃલોન્ચનો સમયગાળો, ખોટી માહિતીના નિર્માણને સફળતાપૂર્વક ઓળખવા અને અવરોધિત કરવાની તેની ક્ષમતા દર્શાવવા પર નિર્ભર રહેશે.