एक नए अध्ययन ने एआई भाषा मॉडल के भीतर अंतर्निहित गुप्त नस्लवाद को उजागर किया है, विशेष रूप से अफ्रीकी अमेरिकी अंग्रेजी (एएई) के उनके उपचार में। प्रत्यक्ष नस्लवाद पर केंद्रित पिछले शोध के विपरीत (जैसे कि नकाबपोश एलएलएम में सामाजिक पूर्वाग्रहों को मापने के लिए क्रोएस-पेयर अध्ययन), यह अध्ययन इस बात पर विशेष जोर देता है कि कैसे एआई मॉडल बोली संबंधी पूर्वाग्रह के माध्यम से नकारात्मक रूढ़िवादिता को सूक्ष्मता से बनाए रखते हैं। ये पूर्वाग्रह तुरंत दिखाई नहीं देते हैं लेकिन स्पष्ट रूप से प्रकट होते हैं, जैसे कि एएई वक्ताओं को निचले स्तर की नौकरियों और कठोर आपराधिक निर्णयों के साथ जोड़ना।

अध्ययन में पाया गया कि प्रत्यक्ष पूर्वाग्रह को कम करने के लिए प्रशिक्षित मॉडलों में भी अभी भी गहरे पूर्वाग्रह मौजूद हैं। इसके दूरगामी प्रभाव हो सकते हैं, खासकर तब जब एआई सिस्टम रोजगार और आपराधिक न्याय जैसे महत्वपूर्ण क्षेत्रों में तेजी से एकीकृत हो रहे हैं, जहां निष्पक्षता और समता अन्य सभी से ऊपर महत्वपूर्ण है।

शोधकर्ताओं ने इन पूर्वाग्रहों को उजागर करने के लिए "मैच्ड गाइज़ प्रोबिंग" नामक एक तकनीक का इस्तेमाल किया। एआई मॉडल ने मानक अमेरिकी अंग्रेजी (एसएई) बनाम एएई में लिखे गए पाठों पर कैसे प्रतिक्रिया दी, इसकी तुलना करके, वे यह प्रदर्शित करने में सक्षम थे कि मॉडल लगातार एएई को नकारात्मक रूढ़िवादिता के साथ जोड़ते हैं, भले ही सामग्री समान थी। यह वर्तमान एआई प्रशिक्षण विधियों में एक घातक दोष का एक स्पष्ट संकेतक है - प्रत्यक्ष नस्लवाद को कम करने में सतही स्तर पर सुधार जरूरी नहीं कि पूर्वाग्रह के गहरे, अधिक घातक रूपों के उन्मूलन में तब्दील हो।

एआई निस्संदेह विकसित होता रहेगा और समाज के अधिक पहलुओं में एकीकृत होगा। हालाँकि, इससे मौजूदा सामाजिक असमानताओं को कम करने के बजाय उन्हें बनाए रखने और यहां तक ​​कि बढ़ने का जोखिम भी बढ़ जाता है। इस तरह के परिदृश्य ही कारण हैं कि इन विसंगतियों को प्राथमिकता के रूप में संबोधित किया जाना चाहिए।