होम › सभी पाठ › AI की समझ — गहराई

🌫️ AI चीज़ें क्यों गढ़ता है — Hallucination

जब AI आत्मविश्वास से गलत जवाब दे — पहचानें और घटाएँ

हर AI उपयोगकर्ता — छात्र, पेशेवर, शोधकर्ता

Hallucination क्या है

जब AI (ChatGPT, Gemini, Claude जैसे टूल) कोई बात पूरे आत्मविश्वास से बताए जो असल में गलत या मनगढ़ंत हो, उसे 'hallucination' कहते हैं। यह झूठ बोलने की नीयत नहीं है — AI को सच-झूठ का पता ही नहीं होता।

ऐसा होता क्यों है

• AI अगला शब्द 'अनुमान' से चुनता है — वह शब्दों का सबसे संभावित पैटर्न बनाता है, तथ्यों का डेटाबेस नहीं देखता।
• उसकी ट्रेनिंग एक तारीख पर रुक जाती है — उसके बाद की घटनाएँ वह नहीं जानता।
• सटीक आँकड़े, तारीखें, नाम, कानून की धाराएँ और संदर्भ (citations) सबसे ज़्यादा गलत होते हैं — AI कभी-कभी असली दिखने वाली नकली किताब या लिंक तक गढ़ देता है।
• अगर आप गलत मान लेकर सवाल पूछें, तो AI अक्सर उसी गलत मान के साथ बह जाता है।
• बहुत नया, बहुत दुर्लभ या बहुत स्थानीय विषय हो तो गढ़ने की संभावना बढ़ जाती है।

इसे कैसे पहचानें और घटाएँ

1. स्रोत माँगें: 'इसका भरोसेमंद स्रोत और लिंक भी दो' — फिर लिंक खुद खोलकर जाँचें।
2. अहम तथ्य (दवा की मात्रा, कानून, आँकड़े, मेडिकल/कानूनी सलाह) हमेशा मूल स्रोत या विशेषज्ञ से मिलाएँ।
3. AI से कहें: 'अगर पक्का न पता हो तो साफ़ बोलो पता नहीं' — इससे मनगढ़ंत जवाब घटते हैं।
4. ज़रूरी सामग्री AI के साथ चिपकाएँ (paste) और कहें 'सिर्फ़ इसी के आधार पर जवाब दो' — तब सटीकता बढ़ती है।
5. एक ही सवाल दो तरीकों से पूछें; जवाब बदल जाएँ तो समझिए AI अनिश्चित है।

समझदारी से पूछना ही असली कौशल है — और यही हम सिखाते हैं।

इसे आज़माएँ — तैयार प्रॉम्प्ट

यह प्रॉम्प्ट कॉपी करके किसी भी AI ऐप में पूछिए:

अपनी समझ जाँचिए

इसी विषय के और पाठ

• मशीन कैसे सीखती है — आसान भाषा मेंडेटा, पैटर्न और अनुमान — बिना गणित की झंझट के
• न्यूरल नेटवर्क — आसान भाषा मेंन्यूरॉन, परतें और वज़न — दिमाग़ वाली मिसाल से
• डीप लर्निंग क्या है — परतों वाली सीख'गहरी' क्यों कहते हैं, और यह पुराने तरीकों से बेहतर कैसे
• ChatGPT जैसे LLM असल में कैसे काम करते हैंअगला शब्द ताड़ना — और यह 'सोचना' क्यों नहीं है
• टोकन और कॉन्टेक्स्ट — AI 'भूलता' क्यों हैटोकन क्या है, याददाश्त की सीमा, और काम के टिप्स