एक स्वचालित प्रणाली उपयोगकर्ताओं को सिखाती है कि एआई सहायक के साथ कब सहयोग करना है एमआईटी समाचार

Posted by

छवियों में पैटर्न चुनने वाले कृत्रिम बुद्धिमत्ता मॉडल अक्सर मानव आंखों से बेहतर प्रदर्शन कर सकते हैं – लेकिन हमेशा नहीं। यदि कोई रेडियोलॉजिस्ट यह निर्धारित करने में सहायता के लिए एआई मॉडल का उपयोग कर रहा है कि क्या किसी मरीज के एक्स-रे में निमोनिया के लक्षण दिखाई देते हैं, तो उसे मॉडल की सलाह पर कब भरोसा करना चाहिए और कब इसे अनदेखा करना चाहिए?

एमआईटी और एमआईटी-आईबीएम वॉटसन एआई लैब के शोधकर्ताओं के अनुसार, एक अनुकूलित ऑनबोर्डिंग प्रक्रिया रेडियोलॉजिस्ट को उस प्रश्न का उत्तर देने में मदद कर सकती है। उन्होंने एक सिस्टम डिज़ाइन किया जो उपयोगकर्ता को सिखाता है कि एआई सहायक के साथ कब सहयोग करना है।

इस मामले में, प्रशिक्षण विधि उन स्थितियों का पता लगा सकती है जहां रेडियोलॉजिस्ट मॉडल की सलाह पर भरोसा करता है – सिवाय इसके कि उसे ऐसा नहीं करना चाहिए क्योंकि मॉडल गलत है। सिस्टम स्वचालित रूप से नियमों को सीखता है कि उसे एआई के साथ कैसे सहयोग करना चाहिए और प्राकृतिक भाषा में उनका वर्णन करता है।

ऑनबोर्डिंग के दौरान, रेडियोलॉजिस्ट इन नियमों के आधार पर प्रशिक्षण अभ्यासों का उपयोग करके एआई के साथ सहयोग करने का अभ्यास करता है, अपने प्रदर्शन और एआई के प्रदर्शन के बारे में प्रतिक्रिया प्राप्त करता है।

शोधकर्ताओं ने पाया कि जब मानव और एआई ने एक छवि भविष्यवाणी कार्य पर सहयोग किया तो इस ऑनबोर्डिंग प्रक्रिया में सटीकता में लगभग 5 प्रतिशत का सुधार हुआ। उनके परिणाम यह भी दिखाते हैं कि बिना प्रशिक्षण के उपयोगकर्ता को केवल यह बताने से कि एआई पर कब भरोसा करना है, खराब प्रदर्शन होता है।

महत्वपूर्ण बात यह है कि शोधकर्ताओं का सिस्टम पूरी तरह से स्वचालित है, इसलिए यह विशिष्ट कार्य करने वाले मनुष्यों और एआई के डेटा के आधार पर एक ऑनबोर्डिंग प्रक्रिया बनाना सीखता है। यह विभिन्न कार्यों के लिए भी अनुकूल हो सकता है, इसलिए इसे स्केल किया जा सकता है और कई स्थितियों में उपयोग किया जा सकता है जहां मानव और एआई मॉडल एक साथ काम करते हैं, जैसे कि सोशल मीडिया सामग्री मॉडरेशन, लेखन और प्रोग्रामिंग में।

“अक्सर, लोगों को बिना किसी प्रशिक्षण के उपयोग करने के लिए ये एआई उपकरण दिए जाते हैं ताकि उन्हें यह तय करने में मदद मिल सके कि वे कब मददगार होंगे। हम लोगों द्वारा उपयोग किए जाने वाले लगभग हर दूसरे टूल के साथ ऐसा नहीं करते हैं – यह लगभग हमेशा किसी न किसी प्रकार के ट्यूटोरियल के साथ आता है। लेकिन एआई के लिए, यह गायब है। इंस्टीट्यूट फॉर डेटा, सिस्टम्स एंड सोसाइटी (आईडीएसएस) में सोशल एंड इंजीनियरिंग सिस्टम्स डॉक्टरेट प्रोग्राम में स्नातक छात्र, मुख्य लेखक हुसैन मोज़ानेर कहते हैं, “हम इस समस्या से एक पद्धतिगत और व्यवहारिक परिप्रेक्ष्य से निपटने की कोशिश कर रहे हैं।” इस प्रशिक्षण प्रक्रिया के बारे में एक पेपर.

शोधकर्ताओं की कल्पना है कि इस तरह की ऑनबोर्डिंग चिकित्सा पेशेवरों के लिए प्रशिक्षण का एक महत्वपूर्ण हिस्सा होगी।

उदाहरण के लिए, कोई कल्पना कर सकता है कि एआई की मदद से उपचार संबंधी निर्णय लेने वाले डॉक्टरों को पहले हमारे द्वारा प्रस्तावित प्रशिक्षण के समान प्रशिक्षण से गुजरना होगा। हमें इस बात पर पुनर्विचार करने की आवश्यकता है कि निरंतर चिकित्सा शिक्षा से लेकर नैदानिक ​​​​परीक्षण कैसे डिज़ाइन किए जा सकते हैं।” वरिष्ठ कहते हैं लेखक डेविड सोंटेग, ईईसीएस के प्रोफेसर, एमआईटी-आईबीएम वॉटसन एआई लैब और एमआईटी जमील क्लिनिक के सदस्य और कंप्यूटर साइंस एंड आर्टिफिशियल इंटेलिजेंस लेबोरेटरी (सीएसएआईएल) में क्लिनिकल मशीन लर्निंग ग्रुप के नेता।

मोज़ैनर, जो क्लिनिकल मशीन लर्निंग ग्रुप के एक शोधकर्ता भी हैं, ने इलेक्ट्रिकल इंजीनियरिंग और कंप्यूटर विज्ञान में स्नातक जिमिन जे के साथ पेपर पर सहयोग किया। ली इसमें शामिल हो गए हैं; डेनिस वेई, आईबीएम रिसर्च के वरिष्ठ शोध वैज्ञानिक; और एमआईटी-आईबीएम वॉटसन एआई लैब के अनुसंधान स्टाफ सदस्य प्रसन्ना सत्तीगेरी और सुभ्रो दास। तंत्रिका सूचना प्रसंस्करण प्रणाली पर सम्मेलन में प्रस्तुत किया जाने वाला पेपर।

प्रशिक्षण जो विकसित होता है

मानव-एआई सहयोग के लिए मौजूदा ऑनबोर्डिंग विधियों में अक्सर विशिष्ट उपयोग के मामलों के लिए मानव विशेषज्ञों द्वारा उत्पादित प्रशिक्षण सामग्री शामिल होती है, जिससे इसे स्केल करना मुश्किल हो जाता है। कुछ संबंधित प्रौद्योगिकियां स्पष्टीकरण पर निर्भर करती हैं, जहां एआई उपयोगकर्ता को प्रत्येक निर्णय में उसके आत्मविश्वास के बारे में बताता है, लेकिन शोध से पता चलता है कि स्पष्टीकरण शायद ही कभी सहायक होते हैं, मोज़ानर कहते हैं।

“एआई मॉडल की क्षमताएं लगातार विकसित हो रही हैं, इसलिए ऐसे उपयोग के मामले जहां मनुष्य संभावित रूप से उनका लाभ उठा सकते हैं, समय के साथ बढ़ रहे हैं। साथ ही, मॉडल के प्रति उपयोगकर्ता की धारणा बदलती रहती है। इसलिए, हमें एक प्रशिक्षण प्रक्रिया की आवश्यकता है जो समय के साथ विकसित हो,” वह आगे कहते हैं।

इसे पूरा करने के लिए, उनकी ऑनबोर्डिंग विधि स्वचालित रूप से डेटा से सीखी जाती है। यह एक डेटासेट से बनाया गया है जिसमें कार्यों के कई उदाहरण शामिल हैं, जैसे धुंधली छवि से ट्रैफिक लाइट की उपस्थिति का पता लगाना।

सिस्टम का पहला कदम इस कार्य को करने वाले मनुष्यों और एआई के साथ डेटा एकत्र करना है। इस मामले में, मानव एआई की मदद से धुंधली छवियों से यह अनुमान लगाने की कोशिश की जाएगी कि ट्रैफिक लाइटें हैं या नहीं।

सिस्टम इन डेटा बिंदुओं को एक अव्यक्त स्थान पर एम्बेड करता है, डेटा का एक प्रतिनिधित्व जिसमें समान डेटा बिंदु एक साथ करीब होते हैं। यह इस स्थान के उन क्षेत्रों को खोजने के लिए एक एल्गोरिदम का उपयोग करता है जहां मनुष्य एआई के साथ गलत तरीके से सहयोग कर रहे हैं। ये क्षेत्र ऐसे मामलों को पकड़ते हैं जहां एक मानव ने एआई भविष्यवाणी पर भरोसा किया लेकिन भविष्यवाणी गलत थी, और इसके विपरीत।

जब तस्वीरें रात में राजमार्ग दिखाती हैं तो मनुष्य गलती से एआई पर भरोसा कर सकता है।

क्षेत्रों को खोजने के बाद, एक अन्य एल्गोरिदम प्राकृतिक भाषा का उपयोग करके प्रत्येक क्षेत्र को एक नियम के रूप में वर्णित करने के लिए एक बड़े भाषा मॉडल का उपयोग करता है। एल्गोरिथ्म परस्पर विरोधी उदाहरणों को ढूंढकर नियम को पुनरावृत्त रूप से ठीक करता है। वह इस क्षेत्र का वर्णन “रात में राजमार्ग होने पर एआई को अनदेखा करें” के रूप में कर सकते हैं।

इन नियमों का उपयोग प्रशिक्षण अभ्यास बनाने के लिए किया जाता है। ऑनबोर्डिंग सिस्टम मानव को एक उदाहरण दिखाता है, इस मामले में रात में एक धुंधला राजमार्ग दृश्य, साथ ही एआई की भविष्यवाणी, और उपयोगकर्ता से पूछता है कि क्या छवि ट्रैफिक लाइट दिखाती है। उपयोगकर्ता हाँ, नहीं में उत्तर दे सकता है या AI की भविष्यवाणी का उपयोग कर सकता है।

यदि मानव गलत है, तो कार्य के इन उदाहरणों पर मानव और एआई के लिए सही उत्तर और प्रदर्शन आँकड़े दिखाए जाते हैं। सिस्टम प्रत्येक क्षेत्र के लिए ऐसा करता है, और प्रशिक्षण प्रक्रिया के अंत में, उन अभ्यासों को दोहराता है जो मनुष्य गलत करते हैं।

मोज़ानेर कहते हैं, “उसके बाद, मनुष्यों ने इन क्षेत्रों के बारे में कुछ सीखा और हमें उम्मीद है कि वे भविष्य में अधिक सटीक भविष्यवाणियां करने के लिए इससे सीख ले सकते हैं।”

ऑनबोर्डिंग सटीकता बढ़ जाती है

शोधकर्ताओं ने उपयोगकर्ताओं के साथ दो कार्यों पर इस प्रणाली का परीक्षण किया – धुंधली छवियों में ट्रैफिक लाइट का पता लगाना और कई डोमेन (जैसे जीव विज्ञान, दर्शन, कंप्यूटर विज्ञान, आदि) से बहुविकल्पीय प्रश्नों का उत्तर देना।

उन्होंने सबसे पहले उपयोगकर्ताओं को एआई मॉडल के बारे में जानकारी के साथ एक कार्ड दिखाया, इसे कैसे प्रशिक्षित किया गया, और व्यापक श्रेणियों में इसके प्रदर्शन का विवरण दिया गया। उपयोगकर्ताओं को पांच समूहों में विभाजित किया गया था: कुछ को केवल कार्ड दिखाए गए थे, कुछ शोधकर्ताओं की ऑनबोर्डिंग प्रक्रिया से गुजरे थे, कुछ बेसलाइन ऑनबोर्डिंग प्रक्रिया से गुजरे थे, कुछ शोधकर्ताओं की ऑनबोर्डिंग प्रक्रिया से गुजरे थे और उन्हें सिफारिशें दी गई थीं कि उन्हें कब करना चाहिए या नहीं। . एआई पर भरोसा करें, और दूसरों को केवल सिफारिशें दी गईं।

सिफ़ारिशों के बिना शोधकर्ताओं की ऑनबोर्डिंग प्रक्रिया ने उपयोगकर्ताओं की सटीकता में काफी सुधार किया, जिससे ट्रैफिक लाइट पूर्वानुमान कार्य पर उनका प्रदर्शन धीमा हुए बिना लगभग 5 प्रतिशत बढ़ गया। हालाँकि, प्रश्न-उत्तर कार्य के लिए ऑनबोर्डिंग उतनी प्रभावी नहीं थी। शोधकर्ताओं का मानना ​​है कि ऐसा इसलिए है क्योंकि एआई मॉडल, चैटजीपीटी, प्रत्येक उत्तर के साथ स्पष्टता प्रदान करता है जो बताता है कि क्या इस पर भरोसा किया जाना चाहिए।

लेकिन ऑनबोर्डिंग के बिना सिफारिशें देने का विपरीत प्रभाव पड़ा – न केवल उपयोगकर्ताओं का प्रदर्शन खराब हुआ, बल्कि उन्हें पूर्वानुमान लगाने में अधिक समय लगा।

“जब आप किसी को सिफ़ारिशें देते हैं, तो ऐसा लगता है कि वे भ्रमित हैं और नहीं जानते कि क्या करना है। यह उनकी प्रक्रिया को पटरी से उतार देता है। लोगों को यह भी पसंद नहीं है कि उन्हें बताया जाए कि क्या करना है, इसलिए यह भी एक कारक है,” मोज़ैनर कहते हैं।

उन्होंने आगे कहा, अगर सिफारिशें गलत हैं तो अकेले सिफारिशें देने से उपयोगकर्ता को नुकसान हो सकता है। दूसरी ओर, ऑनबोर्डिंग के साथ, सबसे बड़ी सीमा उपलब्ध डेटा की मात्रा है। यदि पर्याप्त डेटा नहीं है, तो ऑनबोर्डिंग चरण उतना प्रभावी नहीं होगा, वह कहते हैं।

भविष्य में, वह और उनके सहयोगी ऑनबोर्डिंग के लघु और दीर्घकालिक प्रभावों का आकलन करने के लिए बड़े अध्ययन करना चाहते हैं। वे ऑनबोर्डिंग प्रक्रिया के लिए बिना लेबल वाले डेटा का भी लाभ उठाना चाहते हैं और महत्वपूर्ण उदाहरणों को छोड़े बिना क्षेत्रों की संख्या को कुशलतापूर्वक कम करने के तरीके ढूंढना चाहते हैं।

“लोग एआई सिस्टम को जबरदस्त तरीके से अपना रहे हैं, और वास्तव में एआई काफी संभावनाएं प्रदान करता है, लेकिन ये एआई एजेंट अभी भी कभी-कभी गलतियां करते हैं। इस प्रकार, एआई डेवलपर्स के लिए ऐसे तरीकों को ईजाद करना महत्वपूर्ण है जो बताएं कि एआई के सुझावों पर भरोसा करना मनुष्यों के लिए कब सुरक्षित है। हमारी मदद करने के लिए वाशिंगटन विश्वविद्यालय के पॉल जी. एलन स्कूल ऑफ कंप्यूटर साइंस एंड इंजीनियरिंग के एमेरिटस प्रोफेसर डैन वेल्ड कहते हैं, “जानिए क्या है।” लोगों को इसका वर्णन करें जिससे बेहतर मानव-एआई टीम इंटरैक्शन हो सके।”

यह कार्य आंशिक रूप से एमआईटी-आईबीएम वॉटसन एआई लैब द्वारा वित्त पोषित है।

#एक #सवचलत #परणल #उपयगकरतओ #क #सखत #ह #क #एआई #सहयक #क #सथ #कब #सहयग #करन #ह #एमआईट #समचर

Leave a Reply

Your email address will not be published. Required fields are marked *