ભારતીય ફિનટેક અને કન્ઝ્યુમર ટેક કંપનીઓના AI મોડલ્સ અટકળો અને ડેટાના આધારે સામાજિક ભેદભાવ કરી રહ્યા હોવાના અહેવાલો છે. PIN કોડ અને અટક જેવી પ્રોક્સી વિગતોનો ઉપયોગ કરીને લોન અને સર્વિસમાં પૂર્વગ્રહ રાખતા આ AI મોડલ્સ સામે હવે રેગ્યુલેટરી તપાસનો ગાળિયો કસાય તેવી શક્યતા છે.
ભારતીય પ્રાઈવેટ સેક્ટરમાં આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) નો ઝડપી સ્વીકાર ડેટા એથિક્સ અને સામાજિક પૂર્વગ્રહના નવા પડકારો ઉભા કરી રહ્યો છે. તાજેતરના રિપોર્ટ્સ મુજબ, ફિનટેક અને કન્ઝ્યુમર પ્લેટફોર્મ્સના અલ્ગોરિધમ્સ કોઈ પણ પ્રોગ્રામિંગ વિના પણ જાતિ કે સામાજિક પૃષ્ઠભૂમિનો અંદાજ લગાવવામાં સક્ષમ બન્યા છે. આ સિસ્ટમો રેસિડેન્શિયલ PIN કોડ, શિક્ષણ અને અટક જેવી પ્રોક્સી માહિતીનો ઉપયોગ કરીને એક 'શેડો ડેટાબેઝ' તૈયાર કરે છે.\n\n### ફિનટેક અને ક્રેડિટ સ્કોરિંગની સમસ્યા\n\nરોકાણકારો માટે સૌથી મોટું જોખમ ફાઇનાન્શિયલ સર્વિસિસ સેક્ટરમાં છે. લોન આપતી ફિનટેક કંપનીઓ અને બેન્કોના ક્રેડિટ-સ્કોરિંગ મોડલ્સ વિશાળ ડેટા પર આધારિત હોય છે. જો આ મોડલ્સ નાણાકીય ક્ષમતાને બદલે સામાજિક ડેટાના આધારે લોન રિજેક્ટ કરે, તો તે ક્રેડિટ ક્વોલિટીને અસર કરી શકે છે. Reserve Bank of India (RBI) અગાઉ પણ ઓટોમેટેડ નિર્ણયોની પારદર્શિતા અંગે ચિંતા વ્યક્ત કરી ચૂકી છે. હવે, 'બ્લેક-બોક્સ' AI ના જમાનામાં કંપનીઓએ સાબિત કરવું પડશે કે તેમની લેન્ડિંગ પ્રોસેસ ભેદભાવ વગરની છે.\n\n### કન્ઝ્યુમર પ્લેટફોર્મ્સ અને અલ્ગોરિધમિક સોર્ટિંગ\n\nમાત્ર બેન્કિંગ જ નહીં, પણ મેટ્રિમોનિયલ સાઇટ્સ અને ગીગ ઈકોનોમી એપ્સ પણ તપાસના દાયરામાં છે. આ પ્લેટફોર્મ્સ અજાણતા જ પરંપરાગત સામાજિક પૂર્વગ્રહોને મજબૂત કરી રહ્યા છે. શોર્ટ-ટર્મ એન્ગેજમેન્ટ વધારવા માટે અલ્ગોરિધમ્સ જે રીતે યુઝરને સોર્ટિંગ કરે છે, તે કંપનીની પ્રતિષ્ઠા અને બ્રાન્ડ વેલ્યુ માટે મોટું જોખમ બની શકે છે.\n\n### રોકાણકારો માટે ચેતવણી\n\nવર્ષ 2027 માં સરકાર ડિજિટલ કાસ્ટ એન્યુમરેશન (Caste Enumeration) ની તૈયારી કરી રહી છે, ત્યારે પ્રાઈવેટ સેક્ટરનું આ 'અનધિકૃત' કેટેગરાઈઝેશન ગવર્નન્સ ગેપ ઉભો કરે છે. શેરધારકો માટે જોખમ 'રેપ્યુટેશનલ ટેક્સ' અને ભારે દંડનું છે. હવે રોકાણકારોએ એ જોવું પડશે કે કઈ કંપનીઓ 'Explainable AI' અને અલ્ગોરિધમિક ઓડિટ તરફ વળી રહી છે. જે કંપનીઓ આ બાબતે પ્રોએક્ટિવ હશે, તે ભવિષ્યના કડક નિયમો સામે વધુ સુરક્ષિત રહેશે.