यह कोई आश्चर्य की बात नहीं है कि एआई हमेशा चीजें सही नहीं करता है। कभी-कभी, यह मतिभ्रम भी कर देता है। हालाँकि, Apple शोधकर्ताओं के एक हालिया अध्ययन ने औपचारिक तर्क के लिए AI द्वारा उपयोग किए जाने वाले गणितीय मॉडल के भीतर और भी महत्वपूर्ण खामियाँ दिखाई हैं। (एलएलएम) एक प्रश्न, कई बार, थोड़े अलग-अलग तरीकों से, और जब उन्होंने पाया कि एलएलएम ने उत्तरों में अप्रत्याशित विविधताएं पेश कीं तो वे आश्चर्यचकित रह गए। जब संख्याएँ शामिल थीं तब ये विविधताएँ सबसे प्रमुख थीं। एक ही प्रश्न के विभिन्न तात्कालिकता, वर्तमान GSM8K परिणामों की विश्वसनीयता को चुनौती देते हैं जो एकल बिंदु सटीकता मेट्रिक्स पर निर्भर करते हैं। GSM8K एक डेटासेट है जिसमें 8000 से अधिक विविध ग्रेड-स्कूल गणित प्रश्न और उत्तर शामिल हैं।

✕ विज्ञापन हटाएं

Apple शोधकर्ताओं ने पहचाना कि इस प्रदर्शन में भिन्नता 10% तक हो सकती है। और संकेतों में थोड़ी सी भी भिन्नता एलएलएम के उत्तरों की विश्वसनीयता के साथ भारी समस्याएं पैदा कर सकती है।

दूसरे शब्दों में, जब भी आप ChatGPT जैसी किसी चीज़ का उपयोग करते हैं, तो आप अपने उत्तरों की तथ्य-जांच करना चाह सकते हैं। ऐसा इसलिए है, क्योंकि कभी-कभी ऐसा लग सकता है कि एआई आपकी पूछताछ का उत्तर देने के लिए तर्क का उपयोग कर रहा है, तर्क वह नहीं है जिसका उपयोग किया जा रहा है।

एआई, इसके बजाय, संकेतों पर प्रतिक्रिया प्रदान करने के लिए पैटर्न पहचान पर निर्भर करता है। हालाँकि, Apple अध्ययन से पता चलता है कि कैसे कुछ महत्वहीन शब्दों को बदलने से भी उस पैटर्न की पहचान बदल सकती है।

प्रस्तुत महत्वपूर्ण भिन्नता का एक उदाहरण कई दिनों में कीवी इकट्ठा करने से संबंधित एक समस्या के माध्यम से आया। Apple शोधकर्ताओं ने एक नियंत्रण प्रयोग किया, फिर कीवी के आकार के बारे में कुछ अप्रासंगिक जानकारी जोड़ी। फिर कीवी आकार के डेटा का समस्या के परिणाम पर कोई ठोस प्रभाव नहीं होने के बावजूद नियंत्रण से समस्या के अपने उत्तर बदल दिए। एलएलएम को दिए गए डेटा में छोटे बदलाव पेश करते समय ओपनएआई के जीपीटी-4ओ के प्रदर्शन में भी समस्याएं थीं।

चूंकि एलएलएम हमारी संस्कृति में अधिक प्रमुख होते जा रहे हैं, यह खबर इस बारे में जबरदस्त चिंता पैदा करती है कि क्या हम एआई पर भरोसा कर सकते हैं हमारी पूछताछ का सटीक उत्तर प्रदान करने के लिए। खासकर वित्तीय सलाह जैसे मुद्दों के लिए. यह बड़े भाषा मॉडल का उपयोग करते समय आपको प्राप्त होने वाली जानकारी को सटीक रूप से सत्यापित करने की आवश्यकता को भी पुष्ट करता है।

इसका मतलब है कि आप एआई पर आंख मूंदकर भरोसा करने के बजाय कुछ महत्वपूर्ण सोच और उचित परिश्रम करना चाहेंगे। फिर, यदि आप ऐसे व्यक्ति हैं जो नियमित रूप से AI का उपयोग करते हैं, तो आप शायद यह पहले से ही जानते होंगे।

✕ विज्ञापन हटाएँ