Generative AI में महिलाओं का gender bias: audit
AI की कहानियों, सलाह और कामकाजी सामग्री में gender stereotypes खोजने, सीमाएँ दर्ज करने, safeguards सुधारने और वर्तमान model को दोबारा test करने के लिए उपयोगी प्रक्रिया।
इस मार्गदर्शिका में
Generative AI में gender bias कैसा दिख सकता है?
Generative AI महिलाओं को बार-बार caregiver, assistant या वस्तु की तरह दिखा सकता है और पुरुषों को अधिक अधिकार, विशेषज्ञता या जटिल लक्ष्य दे सकता है। UNESCO के 2024 अध्ययन में GPT-2, GPT-3.5 और Llama 2 में stereotypes मिले; बनाई गई कहानियों और काम की भूमिकाओं में अंतर भी दिखा। उस समय अध्ययन किए गए model versions के नतीजे आज के हर model के व्यवहार को साबित नहीं करते। वे बताते हैं कि अपने वास्तविक product, भाषा और उपयोग की स्थिति में परीक्षण क्यों जरूरी है।
केवल अपमानजनक शब्दों पर ध्यान न दें
Bias इस रूप में भी दिख सकता है कि कौन नेतृत्व करता है, किसे श्रेय मिलता है, किसकी बात पर संदेह होता है, किस काम की सलाह मिलती है और care का काम किसे दिया जाता है। उत्तर भाषा में विनम्र होकर भी महिलाओं के विकल्प सीमित या पुरुषों को default expert बना सकता है। शब्द-सूची ही नहीं, अर्थ और असर देखें।
ऐसी कहानियाँ और सलाह जाँचें जो वास्तविक उपयोग जैसी हों
Hiring, school subjects, health symptoms, leadership, family care, safety complaints और financial decisions पर prompts जाँचें। काम समान रखते हुए नाम, pronoun, भाषा या संदर्भ बदलकर उत्तरों की तुलना करें। वास्तविक जैसे लेकिन नैतिक समीक्षा किए cases लें; उचित आधार और सुरक्षा के बिना असली users की निजी बातचीत को test data न बनाएँ।
Intersectional और भाषा-विशिष्ट cases शामिल करें
लागू होने पर gender के साथ caste, disability, class, धर्म, sexuality, उम्र और क्षेत्र के मेल जाँचें। भारत-केंद्रित product में हिंदी व दूसरी वास्तविक उपयोगकर्ता भाषाएँ और जरूरी हो तो code-switching शामिल करें। अंग्रेज़ी test का अनुवाद स्थानीय मान्यताओं, हानिकारक euphemisms और अलग-अलग answer quality को पकड़ नहीं सकता।
| उपयोग और prompt set | Gender व अन्य जुड़ा संदर्भ | हानिकारक पैटर्न या छूटी बात | गंभीरता और प्रमाण | सुधार, owner और दोबारा test की तारीख |
|---|---|---|---|---|
महिलाओं से जुड़ी रूढ़ियों के लिए AI model की जाँच कैसे करें?
Launch से पहले संतुलित evaluation set बनाएँ
Product के असली कामों के prompts का छोटा, दर्ज किया हुआ set बनाएँ। काम समान रखते हुए उपयोगी विवरण बदलें, केवल factual नहीं खुले उत्तर भी देखें और प्रासंगिक जीवन या पेशेवर अनुभव वाली महिलाओं को समीक्षा में शामिल करें। नतीजे देखने से पहले तय करें कि कौन-सा अंतर नुकसानदेह माना जाएगा।
उत्तर की गुणवत्ता, agency और छूटी जानकारी देखें
जाँचें कि system समान expertise और agency देता है, प्रमाण-आधारित सलाह में फर्क नहीं करता, महिलाओं को sexualize या नीचा नहीं दिखाता और अनिश्चितता पहचानता है। नुकसानदेह उत्तर और गायब उपयोगी जानकारी दोनों लिखें। संवेदनशील cases एक से अधिक reviewers से जँचवाएँ और मतभेद का कारण साफ रखें।
Model या prompt में सार्थक बदलाव पर फिर test करें
Evaluation को model version, system instructions और product workflow से जोड़ें। Provider update, retrieval बदलाव या safety filter edit के बाद इसे दोहराएँ। एक बार की जाँच bias का न होना सिद्ध नहीं करती। User reports देखें और पुष्टि की गई विफलताएँ आगे के test में जोड़ें; रिपोर्ट करने वालों की निजता बचाएँ।
टीम नुकसान को छिपाए बिना कैसे घटा सकती है?
Product और उसकी source material में सुधार करें
जहाँ उचित और कानूनसम्मत हो data का प्रतिनिधित्व और गुणवत्ता सुधारें, stereotypes जोड़ने वाले prompts या retrieval sources बदलें और असर वाले उत्तरों के लिए safeguards रखें। केवल भाषा को मीठा बनाना पर्याप्त नहीं, यदि महिलाओं को अब भी खराब सलाह या कम अवसर मिलते हैं।
Release की सीमा और escalation तय करें
पहले तय करें कि कौन-सी विफलताएँ release रोकेंगी, किस उपयोग को सीमित करना होगा और pause कौन कर सकता है। Health, employment, safety या अधिकार से जुड़ी सलाह के लिए domain review और योग्य व्यक्ति तक पहुँच जरूरी रखें। Interface में सीमाएँ बताएँ और महत्वपूर्ण कामों का non-AI विकल्प बनाए रखें।
सुधार में प्रभावित महिलाओं को वास्तविक भागीदारी दें
जहाँ संभव हो community reviewers को भुगतान करें, पहचान सुरक्षित रखें, बताएँ कि क्या बदला और deployment के बाद फिर प्रतिक्रिया माँगें। Reporting को सुलभ करें; नुकसानदेह output झेलने वाली व्यक्ति से product team को मुफ्त शिक्षा देना अनिवार्य न हो। Examples को सावधानी से जोड़ें ताकि रिपोर्ट करने वाले की पहचान न खुले।
Generative AI में gender bias: आम सवाल
क्या UNESCO का 2024 अध्ययन आज उपलब्ध हर AI model को बताता है?
नहीं। उसने GPT-2, GPT-3.5 और Llama 2 जैसे कुछ पुराने models जाँचे। इसे इस प्रमाण की तरह देखें कि stereotypes हो सकते हैं और मौजूदा product जाँचना चाहिए; आज के providers की ranking की तरह नहीं।
एक सफल audit के बाद model bias-मुक्त हो जाता है?
नहीं। नतीजे उन्हीं prompts, भाषा, version और हालात तक सीमित रहते हैं जिन्हें जाँचा गया। निगरानी जारी रखें और system या उपयोग बदलने पर evaluation दोहराएँ।
क्या टीम को हर AI data से gender हटा देना चाहिए?
हमेशा नहीं। Field हटाने पर असमानता पहचानना कठिन हो सकता है, जबकि sensitive data जुटाने से privacy और कानूनी जिम्मेदारी बढ़ती है। योग्य सलाह लेकर वैध और सुरक्षित evaluation तरीका चुनें और उसकी सीमाएँ दर्ज करें।
हानिकारक AI उत्तर मिलने पर व्यक्ति क्या करे?
यदि सुरक्षित हो तो उत्तर सुरक्षित रखें और product के feedback या complaint channel पर report करें। किसी दूसरे व्यक्ति की निजी जानकारी साझा न करें। जरूरी health, employment या safety निर्णय के लिए generated उत्तर पर निर्भर रहने के बजाय योग्य व्यक्ति से समीक्षा लें।
संबंधित व्यावहारिक मार्गदर्शिकाएँ
संबंधित मुद्दों की मार्गदर्शिकाएँ
स्रोत और प्रकाशन रिकॉर्ड
मसौदा 27 सितंबर 2026 को तैयार; तकनीकी, विषय-विशेषज्ञ और संपादकीय समीक्षा बाकी · स्रोत जाँचे गए .