GPT-4o को ChatGPT के लिए एक बेहद बेहतर मॉडल के रूप में पेश किया गया था। इसकी शुरुआत के बाद से, लोगों ने चैटजीपीटी-4ओ की मानव-जैसी बातचीत के लिए प्रशंसा की है। हालांकि यह बहुत अच्छा लगता है, ओपनएआई ने एक समस्या देखी है: लोग चैटबॉट को एक इंसान के रूप में मानना ​​​​शुरू कर रहे हैं और भावनात्मक बंधन बनाते हैं।

ओपनएआई ने लोगों को ऐसी भाषा का उपयोग करते हुए देखा है जो "संबंध बनाने का संकेत दे सकती है।" कंपनी नोट करती है कि उसे ऐसे उदाहरण मिले हैं जहां लोगों ने "साझा बंधन" व्यक्त करने वाली भाषा का इस्तेमाल किया। इसे दो मुख्य कारणों से बुरी खबर बताया गया है।

सबसे पहले, जब चैटजीपीटी-4ओ मानव जैसा प्रतीत होता है, तो उपयोगकर्ता चैटबॉट से निकलने वाले किसी भी मतिभ्रम को नजरअंदाज कर सकते हैं। संदर्भ के लिए, एआई मतिभ्रम मूल रूप से मॉडल द्वारा उत्पन्न गलत या भ्रामक आउटपुट है। यह त्रुटिपूर्ण या अपर्याप्त प्रशिक्षण डेटा के कारण हो सकता है।

दूसरा, चैटबॉट के साथ मानव-जैसी बातचीत उपयोगकर्ताओं के बीच वास्तविक सामाजिक बातचीत को कम कर सकती है। ओपनएआई का कहना है कि चैटबॉट इंटरैक्शन संभावित रूप से "अकेले व्यक्तियों" के लिए फायदेमंद हो सकता है, लेकिन वे स्वस्थ रिश्तों को भी प्रभावित कर सकते हैं। कंपनी आगे नोट करती है कि लोग इस धारणा के साथ इंसानों से बात करना भी शुरू कर सकते हैं कि दूसरा व्यक्ति एक चैटबॉट है।

यह बुरा होगा क्योंकि OpenAI ने GPT-4o को डिज़ाइन किया है ताकि जब उपयोगकर्ता इस पर बात करना शुरू करे तो वह बात करना बंद कर दे। इन सभी चिंताओं के साथ, कंपनी का कहना है कि वह अब निगरानी करेगी कि उपयोगकर्ता चैटजीपीटी-4ओ के साथ भावनात्मक बंधन कैसे विकसित करते हैं। ओपनएआई का यह भी कहना है कि वह जहां आवश्यक होगा, मॉडल में समायोजन करेगा।

अमेज़ॅन से PLAUD नोट AI-संचालित वॉयस रिकॉर्डर प्राप्त करें