होम › सभी पाठ › प्रो धारा — बिल्डर व इंजीनियर

🛡️ ज़िम्मेदार AI Builder बनो

Bias, privacy, testing, hallucination — भरोसेमंद AI बनाना सीखो

इंजीनियरिंग/टेक की राह पर

भरोसा ही असली product है

2026 में AI app बनाना आसान हो गया है — असली मुश्किल है ऐसा AI बनाना जिस पर लोग भरोसा कर सकें। एक गलत medical answer, एक leaked phone number, एक biased decision — और user हमेशा के लिए चला जाता है। बड़ी companies में अब 'Responsible AI' एक अलग role है, और हर serious engineer से यह skill expect की जाती है। यह lesson वही सिखाता है जो production teams रोज़ practice करती हैं।

Bias कहाँ से आता है? Data से

Model कोई जादू नहीं है — वह अपने training data का आईना है। अगर data में कोई group missing है, तो model उस group के लिए fail करेगा। सोचो: एक crop-disease app जो सिर्फ एक इलाके की फसलों की photos पर train हुआ — दूसरे इलाके के किसान को वह गलत जवाब देगा। या एक voice assistant जो सिर्फ शहरी English accent पर train हुआ — गाँव की हिंदी सुनते ही अटक जाएगा। Engineers इसे कहते हैं: garbage in, garbage out। Bias कोई 'बुरा programmer' जानबूझकर नहीं डालता — वह चुपचाप data से घुस आता है।

Data source पूछो: यह data कहाँ से आया, किसने बनाया, कितना पुराना है?
Missing कौन है: कौन से users, भाषाएँ, इलाके data में हैं ही नहीं?
Slice-wise testing करो: सिर्फ overall accuracy मत देखो — हर user group पर अलग-अलग test करो
Feedback loop दो: 'यह जवाब गलत है' वाला बटन सबसे सस्ता bias detector है

Privacy-first design: data बेचना business model नहीं है

Rule #1 — data minimization: सिर्फ वही data collect करो जो feature के लिए सच में ज़रूरी है। Rule #2 — users का data बेचना या बिना बताए किसी third-party API को भेजना भरोसे का सौदा है, और India का DPDP Act 2023 इस पर भारी penalty भी लगाता है। Practical habit: AI API को text भेजने से पहले PII (जैसे 10-digit phone numbers) mask कर दो। Python में एक line काफी है: clean_text = re.sub(r'[0-9]{10}', '[PHONE]', user_text) — अब API को असली number कभी दिखेगा ही नहीं।

API keys हमेशा server-side .env file में — code या GitHub पर कभी नहीं
Logs में user का raw data मत छापो — masked version ही log करो
User को delete का हक़ दो: 'मेरा data हटाओ' एक बटन होना चाहिए, एक लड़ाई नहीं
याद रखो: OTP, PIN, bank password — कोई भी genuine app यह user से माँगकर AI को नहीं भेजती

Evals: AI outputs को test करना

Normal code का unit test होता है, AI का eval होता है। तरीका simple है: 50-100 असली सवालों का एक golden set बनाओ जिनके सही जवाब तुम्हें पहले से पता हैं। जब भी prompt या model बदलो, पूरा set दोबारा चलाओ और score compare करो। Pseudo-code: for q, expected in golden_set: score += check(model_answer(q), expected)। बिना eval के prompt बदलना अंधेरे में तीर चलाना है — आज एक चीज़ ठीक की, कल तीन चुपचाप टूट गईं। इसे regression कहते हैं, और evals ही इसे पकड़ते हैं।

Hallucination: production में कैसे संभालें

Grounding (RAG): model को अपने documents दो और prompt में साफ लिखो — 'सिर्फ इसी material से जवाब दो'
Escape hatch: prompt में 'जवाब न मिले तो मुझे नहीं पता कहो' allow करो — बिना इसके model जवाब बनाकर देगा
Critical numbers AI से नहीं: price, balance, dosage हमेशा database से आएँ, model के मुँह से कभी नहीं
Human escalation: doubt हो तो conversation इंसान को transfer हो — यह failure नहीं, अच्छा design है
Source दिखाओ: जवाब के साथ citation दो कि यह किस document से आया, ताकि user खुद verify कर सके

कब AI use नहीं करना चाहिए

जहाँ simple code काफी है: 2 numbers जोड़ने के लिए LLM मत लगाओ — plain code सस्ता, तेज़ और 100% सही है
Final medical, legal या financial फैसले: AI draft बना सकता है, फैसला हमेशा qualified इंसान का होगा
Irreversible actions: पैसे भेजना, data delete करना — बिना human confirmation के AI को यह power कभी मत दो
जहाँ गलती की कीमत बड़ी है और verify करना मुश्किल — वहाँ 'AI + human review' रखो, या AI हटा दो

हर AI feature से पहले खुद से एक सवाल पूछो: 'अगर यह जवाब गलत निकला तो user का ज़्यादा से ज़्यादा क्या नुकसान होगा?' नुकसान छोटा है (movie suggestion) तो ship करो। नुकसान बड़ा है (सेहत, पैसा) तो human-in-the-loop रखो। यही एक आदत तुम्हें 90% responsible-AI मुसीबतों से बचा लेगी।

❝ मैं एक AI app बना रहा हूँ जो किसानों को photo से फसल की बीमारी बताता है। एक responsible-AI reviewer की तरह जवाब दो: (1) मेरे training data में कौन से किसान, फसलें या इलाके miss हो सकते हैं, (2) 5 concrete test cases जिनसे मैं bias पकड़ सकूँ, (3) किन situations में app को खुद कहना चाहिए 'यह expert को दिखाओ'। ❞→ कोई भी AI चैटबॉट तुम्हारे blind spots की list, ready-made test cases और escalation rules देगा — यह एक mini bias-audit है जो production teams हर feature पर करती हैं❝ मेरे customer-support bot के लिए एक system prompt लिखो जो: सिर्फ दिए गए FAQ text से जवाब दे, बाहर की जानकारी guess न करे, price या refund amount खुद कभी न बनाए, और जवाब न मिलने पर विनम्रता से कहे — 'यह मुझे नहीं पता, मैं आपको team से जोड़ता हूँ'। ❞→ एक production-ready grounded system prompt मिलेगा जिसमें hallucination-guard के तीनों rules (grounding, escape hatch, critical data बाहर) built-in होंगे

इस पाठ को इंटरैक्टिव तरीके से सीखिए

अभ्यास, क्विज़, सुनने की सुविधा और आपके नाम का प्रमाणपत्र — सब मुफ़्त, बिना इंटरनेट भी चलता है।

यह पाठ खोलें →

इसे आज़माएँ — तैयार प्रॉम्प्ट

यह प्रॉम्प्ट कॉपी करके किसी भी AI ऐप में पूछिए:

मैं एक AI feature बना रहा हूँ: [यहाँ अपना feature लिखो]। एक senior responsible-AI engineer की तरह इसका पूरा audit करो: (1) Bias — यह किन users के लिए fail कर सकता है और training data में कौन missing होगा, (2) Privacy — मैं कौन सा data collect कर रहा हूँ जो ज़रूरी नहीं है, (3) Hallucination — कौन से गलत जवाब user को असली नुकसान पहुँचाएँगे, (4) 10 सवालों का eval golden set बनाओ, (5) साफ बताओ कि इस feature में AI कहाँ use नहीं होना चाहिए। हर point concrete रखो — general ज्ञान नहीं, मेरे feature पर लागू होने वाली बातें।

अपनी समझ जाँचिए

AI model में bias का सबसे बड़ा source क्या है?

GPU की speed कम होना
Training data — model वही सीखता है जो data में है
Internet connection slow होना
Programming language का गलत choice

सही उत्तर: Training data — model वही सीखता है जो data में है

Model अपने training data का आईना है — data में जो group missing है या जो झुकाव है, model वही दोहराएगा। इसीलिए data source, missing groups और slice-wise testing की जाँच पहला step है।

Production app में hallucination handle करने का सही तरीका क्या है?

Model को prompt में डाँटना कि गलत जवाब मत दो
Grounding (सिर्फ दिए गए documents से जवाब) + 'मुझे नहीं पता' का option + critical numbers database से
Users को बता देना कि AI कभी गलत नहीं होता
App launch से पहले एक बार test करना काफी है

सही उत्तर: Grounding (सिर्फ दिए गए documents से जवाब) + 'मुझे नहीं पता' का option + critical numbers database से

तीन-layer defense काम करता है: model को अपने documents से ground करो, उसे 'मुझे नहीं पता' कहने की इजाज़त दो, और price/balance जैसे critical numbers हमेशा database से लाओ — model के मुँह से कभी नहीं।