Formative चैटजीपीटी के आर्टिफिशियल इंटेलिजेंस (एआई) द्वारा संचालित उपकरण लॉन्च कर रहा है। इन प्लेटफ़ॉर्म एकीकरणों में इतनी क्षमता है, दोनों किसकी सीमाओं का विस्तार करने के लिएFormative शिक्षकों और छात्रों को कक्षा में मूल्यवान समय वापस दे सकते हैं। हालांकि, Formative हम यह भी समझते हैं कि महान शक्ति के साथ बड़ी जिम्मेदारी आती है। AI या ChatGPT के बारे में एक Google खोज चलाएँ, और आपको पूर्वाग्रह के बारे में लेख मिलने की संभावना है।

चूंकि एआई उपकरण वर्ल्ड वाइड वेब का उपयोग करके "प्रशिक्षित" हैं, इसलिए सीखने की उनकी क्षमता ऑनलाइन मौजूद तक सीमित है। इंटरनेट जितना विशाल है, आप जो पाएंगे वह बहुत सीमित जनसांख्यिकीय को दर्शाता है: मुख्य रूप से पश्चिमी दुनिया के लोग, जबकि दुनिया भर में, हमारे पास विचारों, जातियों, लिंगों, विश्वास प्रणालियों और सामाजिक-आर्थिक स्थिति की विविधता है।

एआई उपकरण आम तौर पर इन व्यापक दृष्टिकोणों का प्रतिनिधित्व नहीं करते हैं। जब ऐसे उपकरण मुख्य रूप से एक जनसांख्यिकीय से सीखते हैं, तो यह बहुत सारे विशेषाधिकार वाले लोगों के प्रति समान पूर्वाग्रह रखने के लिए उनके आउटपुट को कम करता है। उदाहरण के लिए, डीएएल-ई 2 और स्थिर प्रसार फोटो-जनरेटिंग टूल दोनों मुख्य रूप से मनुष्यों के बारे में संकेतों के बहुमत पर सफेद व्यक्तियों को आउटपुट करते हैं।

उस ने कहा, इन कार्यक्रमों का निर्माण करने वाले डेवलपर्स - और उनके जैसे कई और - अपने आउटपुट में विविधता लाने का प्रयास कर रहे हैं। पूर्वाग्रह की क्षमता को स्वीकार करना और संबोधित करना - और पक्षपाती सामग्री के लिए एआई परिणामों से सोच-समझकर पूछताछ करने का ध्यान रखना - ऐसे किसी भी उदाहरण को कम करने में मदद करता है जो दिखाई दे सकता है। Formative एआई के लिए उपयोग विकसित करते समय हमेशा इन मामलों को दिमाग में रखने का प्रयास करता है।

उस अंत तक, हमने एआई-एकीकृत शिक्षण उपकरणों का उपयोग करते समय पूर्वाग्रह को कम करने में आपकी सहायता करने के लिए पांच युक्तियां तैयार की हैं। आखिरकार, किसी भी मुद्दे को रोकने का सबसे अच्छा तरीका सक्रिय होना है, समय से पहले उनके बारे में सोचना है। इसके अलावा, यह काम उपकरण की गुणवत्ता को भी बढ़ाता है।

• विशिष्ट रहें! अपने शब्दों को जानबूझकर चुनें। एक संकेत के लिए एआई से पूछते समय, एआई के दायरे को व्यापक बनाने के लिए विशिष्ट शब्दों में जोड़ें। पार्क में जाने वाले हर किसी के बारे में निबंध मांगने के बजाय, आप ठीक पांच पैराग्राफ का एक विश्लेषणात्मक निबंध मांग सकते हैं जो उन लोगों के विविध अनुभवों और प्रतिभाओं पर केंद्रित है जो पार्क का दौरा करते हैं।

• समीक्षा! यह मत समझो कि एआई का जवाब सही और त्रुटि मुक्त है। एआई उपकरण हमेशा एक विशिष्ट संदर्भ का समर्थन नहीं कर सकते हैं, और वे अक्सर व्यंग्यात्मक स्वर को समझने के लिए संघर्ष करते हैं। हमेशा एआई आपके लिए जो कुछ भी बनाता है उसकी समीक्षा करें: इसे पढ़ें, इस पर सवाल उठाएं, और सुनिश्चित करें कि कुछ भी जगह से बाहर नहीं है।

• आलोचनात्मक मूल्यांकन! एआई के काम की समीक्षा करने के बाद, महत्वपूर्ण बनें। यदि आप लिंगीय उदाहरणों का उपयोग कर रहे हैं, तो क्या वे समान रूप से विभाजित हैं? यदि आप पार्क के माध्यम से चलने वाले लोगों की सामग्री की तलाश कर रहे हैं, तो क्या एआई ने नस्ल, उम्र, लिंग अभिव्यक्ति, शरीर के आकार और क्षमताओं का विविध प्रतिनिधित्व प्रदान किया है?

• जोड़ना! यदि आप पाते हैं कि एआई-जनित कार्य में विभिन्न प्रतिनिधित्व की कमी है, खासकर जब किसी आवाज या व्यक्ति को किसी विशिष्ट विषय में शामिल किया जाना चाहिए, तो एआई द्वारा प्रदान की गई जानकारी से परे अतिरिक्त सामग्री जोड़ें।

• विविधीकरण को प्रोत्साहित करें! पूर्वाग्रह को संबोधित करने का सबसे अच्छा तरीका एसटीईएम (विज्ञान, प्रौद्योगिकी, इंजीनियरिंग और गणित) में काम करने वाले लोगों की जनसांख्यिकी का विस्तार करना है। इस प्रक्रिया का मतलब केवल एसटीईएम हितों का पता लगाने के लिए युवा दिमाग को प्रोत्साहित करना हो सकता है; इसका मतलब वी ऑल कोड जैसे संगठनों के साथ जुड़ना भी हो सकता है जो एसटीईएम को अक्सर अनदेखा और ऐतिहासिक रूप से बहिष्कृत समुदायों में लाने के लिए काम करते हैं।

एआई और चैटजीपीटी शक्तिशाली उपकरण हैं जो व्यक्तियों और व्यवसायों की शक्ति का विस्तार करते हैं। हम इन तकनीकी प्रगति के लिए बहुत उत्साहित हैं, लेकिन हम यह भी जानते हैं कि थोड़ा धीमा करने और एआई आउटपुट की समीक्षा करने से यह सुनिश्चित करने में मदद मिलेगी कि हम इन उपकरणों का उपयोग अत्यंत जिम्मेदारी के साथ कर रहे हैं।