सावधान 

AI पर आंख बंदकर भरोसा न करें - Sam Altman

दोस्तों,हालही में OpenAI के फाउंडर सैम ऑल्टमैन ने हाल ही में ChatGPT को लेकर लोगों को सावधान किया है। उन्होंने कहा कि इस AI चैटबॉट को लेकर लोगों में अत्यधिक भरोसा देखा जा रहा है, लेकिन यह हमेशा भरोसेमंद नहीं है।

OpenAI की पहली आधिकारिक पॉडकास्ट में बोलते हुए ऑल्टमैन ने कहा, "लोगों का ChatGPT पर बहुत ज्यादा भरोसा है, जो दिलचस्प है। चूंकि, AI में हैलुसिनेशन की संभावना होती है। यह टेक्नोलॉजी ऐसी है जिसपर अभी बहुत ज्यादा भरोसा नहीं करना चाहिए।"

मीडिया रिपोर्ट्स की माने तो AI चैटबॉट्स में हैलुसिनेशन यानी गलत या गढ़ी हुई जानकारी देने की समस्या आम है। इसके पीछे कई कारण हो सकते हैं, जैसे कि पक्षपाती ट्रेनिंग डेटा, वास्तविक दुनिया की जानकारी का अभाव, हर सवाल का जवाब देने का दबाव और सिर्फ टेक्स्ट जनरेट करने की प्रवृत्ति। यही वजह है कि अब तक कोई भी AI कंपनी यह दावा नहीं कर रही है कि उसका मॉडल हैलुसिनेशन से मुक्त है।

दरअसल आज कल लोग रिलेशनशिप एडवाइस से लेकर कानूनी सहायता तक के लिए एआई टूल्स की मदद ले रहे हैं। लोग एआई से मिलने वाले सवालों के जवाब पर ज्यादा भरोसा करने लगे हैं। लेकिन हर छोटी-बड़ी एडवाइस के लिए चैटजीपीटी का सहायता लेना आपको नुकसान भी पहुंचा सकता है। ये बात कोई और नहीं बल्कि खुद OpenAI के फाउंडर सैम अल्टमैन ने कही है।

बिज़नेस खबरी