चिकित्सा इमेजिंग के साथ निरंतर सीखने में भयावह भूल को कम करने के लिए गतिशील स्मृति

संपर्क: ऑड्रे हू Whatsapp/hp: 0086 13880143964 ईमेल:audrey.hu@wecistanche.com

मैथियास पेर्कोनिग 1, जोहान्स हॉफमैनिंगर 1, क्रिश्चियन जे। हेरोल्ड 1, जेम्स ए ब्रिंक 2, ओलेग पियानख 2, हेल्मुट प्रोश 1 और जॉर्ज लैंग्स1।

मेडिकल इमेजिंग नैदानिक ​​निदान और उपचार मार्गदर्शन का एक केंद्रीय हिस्सा है। मशीन लर्निंग ने तेजी से प्रासंगिकता प्राप्त की है क्योंकि यह रोग और उपचार प्रतिक्रियाओं की विशेषताओं को पकड़ती है जो चिकित्सीय निर्णय लेने के लिए प्रासंगिक हैं। नैदानिक ​​​​अभ्यास में, छवि अधिग्रहण प्रौद्योगिकी या नैदानिक ​​प्रक्रियाओं की निरंतर प्रगति, स्कैनर की विविधता, और विकसित इमेजिंग प्रोटोकॉल मशीन सीखने की उपयोगिता में बाधा डालते हैं, क्योंकि नए डेटा पर पूर्व-निर्धारण सटीकता बिगड़ती है, या इन डोमेन बदलाव के कारण मॉडल पुराने हो जाते हैं। . हम अज्ञात समय बिंदुओं पर होने वाले ऐसे डोमेन बदलाव से निपटने के लिए निरंतर सीखने के दृष्टिकोण का प्रस्ताव करते हैं। हम भयावह भूल का प्रतिकार करते हुए निरंतर डेटा स्ट्रीम में उभरती विविधताओं के लिए मॉडल को अनुकूलित करते हैं। एक गतिशीलस्मृतिमॉडल को नए डोमेन में विस्तारित करने में सक्षम करते हुए भूलने को कम करने के लिए विविध प्रशिक्षण डेटा के एक सबसेट पर पूर्वाभ्यास को सक्षम बनाता है। तकनीक संतुलनस्मृतिछद्म डोमेन का पता लगाकर, डेटा स्ट्रीम के भीतर विभिन्न शैली समूहों का प्रतिनिधित्व करते हैं। दो अलग-अलग कार्यों का मूल्यांकन, चुंबकीय अनुनाद इमेजिंग में हृदय विभाजन और कंप्यूटेड टोमोग्राफी में फेफड़े के नोड्यूल का पता लगाना, विधि का एक सुसंगत लाभ प्रदर्शित करता है।

याददाश्त में सुधार कर सकता है सिस्टैन्च

डीप लर्निंग (डीएल) एल्गोरिदम चिकित्सा इमेजिंग में तेजी से प्रासंगिकता प्राप्त कर रहे हैं, जिससे कम्प्यूटेशनल विभाजन 1, 2, वर्गीकरण या संरचनात्मक संरचनाओं का पता लगाने 3 और निदान, भविष्यवाणी, या निदान के लिए प्रासंगिक विसंगतियों को सक्षम किया जा रहा है। कुछ मामलों में, उनकी क्षमताएं मानव विशेषज्ञों से भी आगे निकल जाती हैं, जो उन्हें निदान के लिए इमेजिंग डेटा का उपयोग करने और उपचार निर्णयों का समर्थन करने के लिए एक केंद्रीय उपकरण बनाती हैं।

हालांकि, नैदानिक ​​इमेजिंग तकनीक, नैदानिक ​​कार्य, और यहां तक ​​कि रोगों के इमेजिंग मार्कर भी स्थिर नहीं हैं। इसके बजाय, वे एक सतत विकसित वातावरण के अधीन हैं जिसमें प्रासंगिक बने रहने के लिए डीएल एल्गोरिदम को अनुकूलित करना पड़ता है। वर्तमान में, डीएल मॉडल को एक बार प्रशिक्षित किया जाता है, जो उनके प्रशिक्षण अनुभव की तुलना में छवियों पर प्रभावशाली प्रदर्शन प्रदान करता है। फिर भी, उनकी स्थिरता सीमित है, क्योंकि प्रौद्योगिकी के विकास के दौरान वे पुराने हो जाते हैं। कुछ पहलुओं (डेटासेट शिफ्ट) में प्रशिक्षण डेटा से अलग नए डेटा को अनुकूलित करने में असमर्थता नैदानिक ​​​​अभ्यास में उनकी उपयोगिता और अपनाने को गंभीर रूप से बाधित करती है।

डेटासेट शिफ्ट तब होता है जब प्रशिक्षण डेटा वितरण मॉडल अनुमान 8,9 पर डेटा के वितरण से भिन्न होता है। स्कैनर तकनीक में तकनीकी प्रगति के कारण एक प्रकार की ऐसी शिफ्ट, डोमेन शिफ्ट (या अधिग्रहण शिफ्ट) हो सकती है। नैदानिक ​​​​अभ्यास में, और इसके परिणामस्वरूप, चिकित्सा इमेजिंग डेटा से जुड़े अध्ययनों में, अधिग्रहीत डेटा अक्सर विभिन्न स्कैनर, स्कैनर पीढ़ियों, निर्माताओं, या इमेजिंग प्रोटोकॉल से उत्पन्न होता है। बदलते परिवेश में तैनात गहन शिक्षण मॉडल को सफलतापूर्वक अनुकूलित करने के लिए, इन डोमेन बदलावों पर विचार करने वाली विधियों को विकसित करना और आगे बढ़ाना महत्वपूर्ण है।

यहां, हम निरंतर डेटा स्ट्रीम में अज्ञात समय पर होने वाली डोमेन शिफ्ट के लिए लेखांकन पर ध्यान केंद्रित करते हैं, नैदानिक ​​​​अभ्यास को दर्शाते हैं। एक डीएल मॉडल को एकल स्कैनर (आधार प्रशिक्षण) द्वारा प्राप्त छवियों के एक सेट पर प्रशिक्षित किया जाता है और बाद में नए स्कैनर जोड़े जाने पर डेटा स्ट्रीम में होने वाली छवि उपस्थिति में परिवर्तन के लिए लगातार अद्यतन किया जाता है। साथ ही, पहले देखे गए डोमेन के बारे में ज्ञान को नहीं भूलना चाहिए क्योंकि मॉडल में नई डोमेन जानकारी शामिल की गई है। चित्र 1 इस कार्य की सामान्य रूपरेखा को दर्शाता है। मॉडल को डोमेन ए डेटा के आधार प्रशिक्षण सेट पर अभिसरण के लिए प्रशिक्षित किया जाता है; बाद में, यह एक सतत डेटा स्ट्रीम के संपर्क में आता है, जिसमें कुछ समय बाद, डोमेन बी, सी और डी डेटा दिखाई देते हैं। बेस ट्रेनिंग (स्टैटिक डीप लर्निंग) के बाद मॉडल को अपडेट किए बिना, बाद के डोमेन पर सटीकता प्रभावित होती है, क्योंकि वे प्रशिक्षण डेटा के वितरण को छोड़ देते हैं। एक उदाहरण के लिए नीचे देखें, जहां बेस मॉडल बाद के स्कैनर से छवियों को विभाजित करने में विफल रहा। निरंतर सीखने के तरीके इस प्रभाव का मुकाबला करते हैं।

निरंतर सीखने का फोकस (जिसे आजीवन सीखने के रूप में भी जाना जाता है) एक मॉडल 10,11 में नए कार्यों (या, इस काम के संदर्भ में, नए डोमेन) को संभालने की क्षमता जमा करने के लिए मशीन सीखने की तकनीक है। निरंतर सीखने के तरीकों द्वारा प्रतिकारित एक प्रमुख अवांछित प्रभाव भयावह भूल है, जब एक नए कार्य को सीखने के लिए एक मॉडल को अपडेट करने से पिछले कार्यों के प्रदर्शन में गिरावट आएगी। आदर्श रूप से, निरंतर सीखने से पिछले कार्यों के प्रदर्शन में सुधार हो सकता है जब बाद के कार्यों पर प्रशिक्षण, एक वांछनीय प्रभाव जिसे सकारात्मक पिछड़े हस्तांतरण के रूप में जाना जाता है, जो मॉडल के लिए प्रशिक्षण उदाहरणों की बढ़ी हुई विविधता के परिणामस्वरूप होता है।

हम गतिशील प्रस्तावित करते हैंस्मृति(डीएम) एक निरंतर सीखने की विधि के रूप में, चिकित्सा छवियों की एक सतत धारा में अज्ञात समय बिंदुओं पर नए डेटा स्रोतों के उद्भव से निपटने के लिए (चित्र 1)। डीएम एक पूर्वाभ्यास विधि है, जो डेटा स्ट्रीम के एक छोटे, विविध उपसमुच्चय को अंदर रखती हैस्मृतिविनाशकारी भूल को कम करने के लिए। डीएम ने दी विविधतास्मृतिनिरंतर डेटा स्ट्रीम में देखी गई विभिन्न शैलियों वाली छवियों को बनाए रखने के लिए शैली मीट्रिक का उपयोग करना। एक वैकल्पिक मॉड्यूल के रूप में, हम निरंतर स्ट्रीम से समान शैली के समूहों का पता लगाने के लिए एक छद्म-डोमेन (पीडी) मॉडल का उपयोग करते हैं। उन छद्म डोमेन को अज्ञात, वास्तविक डोमेन के लिए प्रॉक्सी के रूप में देखा जा सकता है और इनका उपयोग संतुलन के लिए किया जाता हैस्मृतिऔर प्रशिक्षण प्रक्रिया (डीएम-पीडी)। हमारी पद्धति की सामान्यता को प्रदर्शित करने के लिए, हम इसे अलग-अलग इमेजिंग तौर-तरीकों के साथ दो अलग-अलग कार्यों पर लागू करते हैं। सबसे पहले, हम चुंबकीय अनुनाद इमेजिंग (एमआरआई) में कार्डियक सेगमेंटेशन करते हैं, और दूसरा, हम कंप्यूटेड टोमोग्राफी (सीटी) में फेफड़े के नोड्यूल का पता लगाने के लिए अपना दृष्टिकोण लागू करते हैं। हम दिखाते हैं कि दोनों कार्यों पर, हमारी पद्धति निरंतर सीखने की आधारभूत विधियों से बेहतर प्रदर्शन करती है। ध्यान दें कि हम किसी भी कार्य के लिए एक नए एकल स्कैनर अत्याधुनिक पद्धति के विकास पर ध्यान केंद्रित नहीं कर रहे हैं, बल्कि हम यह दिखाना चाहते हैं कि एक मॉडल को एक सतत स्ट्रीम में अनुकूलित करने के लिए निरंतर सीखने की विधि कैसे लागू की जा सकती है स्पष्ट डोमेन ज्ञान के बिना, डोमेन शिफ्ट सहित इमेजिंग डेटा की।

सिस्टैंच सप्लीमेंट: याददाश्त में सुधार

परिणाम

डेटा सेट

हृदय विभाजन। बहु-केंद्र, बहु-विक्रेता चुनौती डेटा सेट से डेटा पर प्रयोग किए गए। डेटा सेट में चार अलग-अलग विक्रेताओं सीमेंस, जनरल इलेक्ट्रिक, फिलिप्स और कैनन के डेटा शामिल थे। हमने उनमें से प्रत्येक विक्रेता को एक डोमेन माना। हम डेटा को आधार प्रशिक्षण, निरंतर प्रशिक्षण, सत्यापन और रोगी स्तर पर परीक्षण सेट में विभाजित करते हैं। तालिका 1a उन डेटा सेट विभाजनों में प्रत्येक डोमेन के लिए अलग-अलग स्लाइस की संख्या दिखाती है।

फेफड़े के नोड्यूल का पता लगाना। फेफड़े के नोड्यूल का पता लगाने के लिए हमने LIDC-database15 से निकाले गए डेटा का उपयोग किया, जिसमें LUNA16-challenge16 के लिए दिए गए एनोटेशन हैं। इसके अलावा, हमने LNDb चुनौती डेटा सेट का उपयोग किया। सभी फेफड़े के नोड्यूल एनोटेशन के लिए, हमने एनोटेट घाव के चारों ओर बाउंडिंग बॉक्स का निर्माण किया और घावों के साथ 2डी स्लाइस निकाले। शिफ्टिंग डोमेन के साथ अपने निरंतर सीखने को प्रदर्शित करने के लिए, हमने एलआईडीसी में स्कैनर विक्रेता और पुनर्निर्माण कर्नेल के संदर्भ में तीन सबसे सामान्य डोमेन का डेटा सेट और चौथे डोमेन के रूप में एलएनडीबी डेटा सेट का निर्माण किया। एलआईडीसी के लिए, घावों सहित सबसे अधिक इस्तेमाल की जाने वाली सेटिंग्स जीई मेडिकल सिस्टम कम आवृत्ति पुनर्निर्माण एल्गोरिदम (जीई / एल, एन=527), जीई मेडिकल सिस्टम उच्च आवृत्ति पुनर्निर्माण एल्गोरिदम (जीई / एच, एन {{ 9}}), और B30f कर्नेल के साथ सीमेंस (सीमेंस, n=130)। IMDb डेटा सेट में कई सीमेंस स्कैनर का इस्तेमाल किया गया था। एलआईडीसी डेटाबेस में नोड्यूल परिभाषा से मेल खाने के लिए हमने <3 मिमी="" व्यास="" वाले="" नोड्यूल="" को="" बाहर="" रखा,="" जिसके="" परिणामस्वरूप="" कुल="" 625="" छवियां="" थीं।="" उन="" छवियों="" को="" आधार="" प्रशिक्षण,="" नित्य="" प्रशिक्षण,="" सत्यापन,="" और="" परीक्षण="" डेटा="" सेट="" में="" विभाजित="" किया="" गया="" था="" जो="" हृदय="" विभाजन="" प्रयोग="" के="" अनुरूप="" तालिका="" 1="" बी="" के="" अनुसार="" सेट="" किया="" गया="">

गतिशीलस्मृतिहृदय विभाजन के लिए भयावह भूल को कम करता है। गतिशील की क्षमता का मूल्यांकन करने के लिएस्मृतिविपत्तिपूर्ण भूल का प्रतिकार करते हुए अच्छा प्रदर्शन प्राप्त करने के लिए, हमने तीन लेबलों के साथ मल्टी-लेबल सेगमेंटेशन के रूप में 2डी एमआरआई स्लाइस पर कार्डियक सेगमेंटेशन किया: लेफ्ट वेंट्रिकल (एलवी), राइट वेंट्रिकल (आरवी), और लेफ्ट वेंट्रिकुलर मायोकार्डियम (एमवाईओ)। डेटा स्ट्रीम में उनकी उपस्थिति के क्रम में चार अलग-अलग विक्रेताओं के स्कैनर के साथ छवियां हासिल की गईं: सीमेंस (ए), जीई (बी), फिलिप्स (सी), और कैनन (डी)। आदेश को समझने में सुविधा के लिए हम उन्हें स्कैनर ए-डी के रूप में संदर्भित करते हैं। आधार प्रशिक्षण केवल स्कैनर ए डेटा पर किया गया था; बाद में, मॉडल को एक सतत डेटा स्ट्रीम पर प्रशिक्षित किया गया जिसमें छवि डोमेन धीरे-धीरे स्कैनर ए से डी (छवि 1) में बदल गया। हमने विभिन्न निरंतर सीखने की रणनीतियों की तुलना की: (1) डीएम विधि, (2) छद्म-डोमेन डिटेक्शन (डीएम-पीडी) के साथ डीएम विधि, (3) एक यादृच्छिकस्मृतिप्रतिस्थापन रणनीति, जिसमें प्रत्येक नया नमूना वर्तमान में यादृच्छिक रूप से चुने गए नमूने को बदल देता हैस्मृति(यादृच्छिक) और (4) भयावह भूल (Naive) का प्रतिकार किए बिना डेटा स्ट्रीम पर सीखने का एक भोला दृष्टिकोण। इसके अलावा, हमने अत्याधुनिक निरंतर सीखने के तरीकों के साथ परिणामों की तुलना की: (5) इलास्टिक वेट कंसोलिडेशन (ईडब्ल्यूसी) 18, और दो विधियाँ जिनके लिए डोमेन ज्ञान की आवश्यकता होती है (6) ग्रैडिएंट एपिसोडिकस्मृति(जीईएम)19 और (7) मैक्सिमली इनफर्ड रिट्रीवल (ईआर-एमआईआर)20 के साथ फिर से खेलना का अनुभव। ध्यान दें कि डीएम और डीएम-पीडी डोमेन ज्ञान के बिना काम करते हैं, नैदानिक ​​अभ्यास में अधिक यथार्थवादी धारणा का प्रतिनिधित्व करते हैं। तुलना के लिए, हमने दो बेसलाइन मॉडल को भी प्रशिक्षित किया: पहला, सभी प्रशिक्षण डेटा के साथ एक संयुक्त मॉडल (JModel) जिसने पूरे डेटा सेट को एकल काल्पनिक स्थिर डेटा सेट के रूप में माना; और दूसरा, डोमेन-विशिष्ट मॉडल (डीएसएम) प्रत्येक डोमेन पर अलग से एक स्थिर प्रशिक्षण योजना में प्रशिक्षित। अंत में, हम स्कैनर ए पर प्रशिक्षित एक स्थिर बेस मॉडल (बेस) के परिणामों की रिपोर्ट करते हैं, और स्कैनर ए से डी पर लागू होते हैं। सभी विधियों में विभाजन के लिए एक ही रीढ़ की हड्डी वाले तंत्रिका नेटवर्क (सीएनएन) का उपयोग किया जाता है, एक एफसी-रेसनेट 5021।

अंजीर। 1 विभिन्न मॉडल प्रशिक्षण और अनुकूलन रणनीतियाँ। 1 छवि विश्लेषण के लिए निरंतर डीएल नए डेटा गुणों के अनुकूल होता है और साथ ही, पुराने डेटा के साथ काम करने की क्षमता को बरकरार रखता है। एक स्टेटिक डीएल: डीएल मॉडल के प्रशिक्षण और तैनाती के बाद, प्रौद्योगिकी में परिवर्तन होता है और मॉडल की सटीकता कम हो जाती है। बी इस सीमा को हल करने के लिए एक सरल निरंतर सीखने का दृष्टिकोण डेटा की एक धारा पर एक मॉडल का प्रशिक्षण जारी रखना है। हालाँकि, इससे पुराने डेटा गुण भूल जाते हैं, और इन डेटा पर प्रदर्शन में कमी आती है। सी निरंतर सीखने के दृष्टिकोण के रूप में, गतिशीलस्मृतिनए उभरते डोमेन को पहचानता है, और तदनुसार एक सतत स्ट्रीम में डेटा का नमूना लेता है। एमएल मॉडल नई तकनीक के अनुकूल है लेकिन पहले देखे गए स्कैनर के विविध सेट पर सटीक रहता है। मॉडल की पिछड़ी संगतता सुनिश्चित करने और अधिक स्थिर मॉडल बनाने के लिए यह महत्वपूर्ण है जो नए स्कैनर के लिए तेजी से अनुकूल हो। 2 एक अलग परीक्षण सेट पर सत्यापन अवधि के अंत में डीएल मॉडल के प्रदर्शन का मूल्यांकन करता है।

हमने एक अलग परीक्षण सेट पर सभी दृष्टिकोणों की विभाजन सटीकता की तुलना की जिसमें प्रशिक्षण समाप्त होने के बाद सभी चार स्कैनर से डेटा शामिल था। इसके अलावा, हमने विशेष रूप से मूल्यांकन किया कि क्या एक स्कैनर पर मॉडल सटीकता बैकवर्ड ट्रांसफर (बीडब्ल्यूटी) और फॉरवर्ड ट्रांसफर (एफडब्ल्यूटी) का मूल्यांकन करके अन्य स्कैनर पर मॉडल प्रशिक्षण से लाभान्वित होती है।

तालिका 2 में, दृष्टिकोणों की तुलना LV, RV, और MYO पर औसत पासा स्कोर के रूप में की जाती है।स्मृतिएम का आकार {{0}}। LV, RV, और MYO विभाजन के मूल्यांकन ने अलग-अलग समान रुझान दिखाए (पूरक तालिकाएँ 1–3 देखें)। डीएम और डीएम-पीडी ने समान रूप से प्रदर्शन किया और अन्य सभी निरंतर सीखने की रणनीतियों को बेहतर प्रदर्शन किया, जिसके लिए डोमेन सदस्यता के बारे में कोई जानकारी की आवश्यकता नहीं है (Naive, Random, और EWC)। अंतिम डोमेन (स्कैनर डी) की छवियों के लिए, ईडब्ल्यूसी का उच्चतम औसत पासा स्कोर था (0.850 ± {{10}}।003) लेकिन एक उच्च नकारात्मक बीडब्ल्यूटी मूल्य (- 0.014 ± 0.007) की कीमत पर, यह दर्शाता है कि भयावह भूल हुई है। डीएम और डीएम-पीडी ने बिना किसी भूल के प्रदर्शित किया, जैसा कि क्रमशः 0. 000 और 0.003 के तटस्थ बीडब्ल्यूटी द्वारा दर्शाया गया है। GEM और ER-MIR ने DM-PD के समान प्रदर्शन दिखाया, लेकिन व्यक्तिगत नमूनों की डोमेन सदस्यता के बारे में जानकारी की आवश्यकता थी, जो नैदानिक ​​अभ्यास में संभव नहीं है। डीएम और डीएम-पीडी के लिए एक यादृच्छिक प्रतिस्थापन रणनीति के साथ एक स्मृति की तुलना से पता चला है कि डीएम के लिए इस्तेमाल की जाने वाली शैली मीट्रिक एक विविध बनाने के लिए नमूने चुनने के लिए प्रभावी थी।स्मृति. रैंडम प्रतिस्थापन के परिणामस्वरूप पिछले डोमेन को भूल गएनिरंतर प्रशिक्षण के दौरान (-0.011 का बीडब्ल्यूटी), जबकि डीएम और डीएम-पीडी ने सभी स्कैनर्स पर अच्छा प्रदर्शन किया।

स्कैनर बी के डेटा पर, जिसके लिए प्रशिक्षण के लिए 720 छवियों का एक अपेक्षाकृत छोटा नमूना आकार इस्तेमाल किया गया था, डीएम और डीएम-पीडी डोमेन सदस्यता जानकारी के बिना अच्छा प्रदर्शन प्राप्त करने में सक्षम थे। यादृच्छिक प्रतिस्थापन, ईडब्ल्यूसी, और भोले प्रशिक्षण के साथ सीखने के परिणामस्वरूप स्कैनर बी के लिए एक महत्वपूर्ण प्रदर्शन गिरावट आई। यह दर्शाता है कि ग्राम मैट्रिक्स-आधारित शैली मीट्रिक का उपयोग करके, डीएम अन्य निरंतर सीखने की रणनीतियों की तुलना में प्रति स्कैनर विक्रेता के नमूनों की संख्या के प्रति कम संवेदनशील था। .

जे मॉडल प्रशिक्षण प्राप्त करने की ऊपरी सीमा थी, विशेष रूप से कुछ नमूनों वाले डोमेन के लिए, यानी, स्कैनर बी के लिए, निरंतर सीखने और सभी डेटा तक पहुंचने वाले काल्पनिक स्थिर बैच प्रशिक्षण के बीच प्रदर्शन अंतर उच्च था ({{0 }}.763 ± 0.004 बनाम 0.798 ± 0.016)। यह इस तथ्य के कारण था कि निरंतर सीखने में, कम प्रतिनिधित्व वाले नमूने स्थिर प्रशिक्षण की तुलना में कम बार देखे गए थे। अनुपूरक तालिका 4 में, भिन्नस्मृतिडीएम और डीएम-पीडी के लिए एम=〈64, 128, 256, 512, 1024〉 के आकार की तुलना की गई। अधिक जोड़नास्मृतिबेहतर प्रदर्शन हुआ लेकिन प्रशिक्षण गतिकी में अंतर के कारण (JModel बैच-वार ट्रेन करता है और इस प्रकार निरंतर सीखने की सेटिंग की तुलना में अधिक बैच देख सकता है), JModel का प्रदर्शन प्राप्त करने योग्य नहीं था। एक छोटे . के साथ डीएमस्मृतिofM {{0}} प्रशिक्षण डेटा वितरण की विविधता को सटीक रूप से पकड़ने में सक्षम नहीं था और इस प्रकार भूल गया (BWT=- 0.005)।

सिस्टैंच का उपयोग किस लिए किया जाता है: याददाश्त में सुधार

चित्रा 2 दिखाता है कि निरंतर प्रशिक्षण के दौरान औसत डीएससी कैसे बदल गया। EWC और भोले नित्य सीखने के लिए, भयावह भूल देखी गई, और पिछले डोमेन पर सटीकता में गिरावट आई क्योंकि नए डोमेन ने मॉडल प्रशिक्षण में प्रवेश किया। डीएम और डीएम-पीडी के लिए, निरंतर प्रशिक्षण के चलते सभी क्षेत्रों में सटीकता अधिक स्थिर थी।

चित्र 3 में सिमेंटिक विभाजन के गुणात्मक मूल्यांकन ने विभिन्न निरंतर सीखने के दृष्टिकोणों के लिए तुलनीय प्रदर्शन परिणाम दिखाए। हालाँकि, जबकि अनुभवहीन निरंतर सीखने ने स्कैनर डी के लिए बेहतर परिणाम दिखाए, डीएम और डीएम-पीडी ने पहले देखे गए डोमेन सहित सभी स्कैनर पर अच्छा प्रदर्शन किया। आधार मॉडल के साथ तुलना (केवल स्कैनर ए डेटा पर प्रशिक्षित) ने दिखाया कि हमें मॉडल को बदलते दृश्य स्वरूप के अनुकूल बनाने के लिए एक निरंतर सीखने की विधि की आवश्यकता है। बेस मॉडल स्कैनर्स बी-डी के लिए सटीक विभाजन करने में विफल रहा, जिसके परिणामस्वरूप बड़ी संख्या में झूठे नकारात्मक परिणाम सामने आए।

गतिशीलस्मृतिफेफड़े के नोड्यूल का पता लगाने के लिए भयावह भूल को कम करता है। फेफड़े के नोड्यूल का पता लगाने को 2 डी सीटी स्लाइस पर बाउंडिंग बॉक्स डिटेक्शन के रूप में किया गया था और मूल्यांकन अनुभाग में परिभाषित औसत परिशुद्धता (एपी) में मापा गया था। डेटा स्ट्रीम में चार छवि डोमेन शामिल किए गए थे: कम आवृत्ति पुनर्निर्माण एल्गोरिथ्म (GE/L) के साथ GE; एक उच्च आवृत्ति पुनर्निर्माण एल्गोरिथ्म (जीई/एच) के साथ जीई; सीमेंस; और एलएनडीबी (विवरण के लिए 'डेटा सेट' अनुभाग देखें), निम्नलिखित स्कैनर्स ई-एच में। स्कैनर ई से डेटा पर आधार प्रशिक्षण किया गया था। ईडब्ल्यूसी की परिभाषा के कारण, कार्यों का पता लगाने के लिए सीधी तुलना संभव नहीं थी। डीएम और डीएम-पीडी की तुलना एक यादृच्छिक प्रतिस्थापन स्मृति और एक अनुभवहीन निरंतर सीखने के दृष्टिकोण से की गई थी।

विभाजन के अनुरूप, डोमेन लेबल (जो डीएम और डीएम-पीडी द्वारा आवश्यक नहीं है), GEM19 और ER-MIR20 की आवश्यकता वाले दो अत्याधुनिक तरीकों का मूल्यांकन संदर्भ के रूप में किया गया था। बेसलाइन मॉडल के रूप में, एक संयुक्त मॉडल (जेमोडेल) और डोमेन-विशिष्ट मॉडल (डीएसएम) की तुलना की गई थी, और स्थिर आधार मॉडल (बेस) के परिणामों का मूल्यांकन विभाजन प्रयोग के अनुरूप किया गया था। टास्क नेटवर्क के रूप में, ResNet-50 बैकबोन के साथ Faster R-CNN का उपयोग किया गया था।

कुल मिलाकर, डीएम-पीडी और डीएम ने भोले दृष्टिकोण की तुलना में एपी के संदर्भ में बेहतर प्रदर्शन किया, जैसा कि तालिका 3 में देखा गया है। दोनों ने भोले तरीके से बेहतर प्रदर्शन किया और भयावह भूल का प्रभावी ढंग से प्रतिकार किया। एलआईडीसी (स्कैनर्स ई, एफ, और जी) से निकाले गए सभी डोमेन के लिए, डीएम ने अच्छा प्रदर्शन किया। हालांकि, हमने सभी तरीकों के लिए स्कैनर एच के प्रदर्शन में गिरावट देखी। यह गिरावट बड़े डोमेन शिफ्ट के अलावा जनसंख्या में बदलाव के कारण हुई थी। एलआईडीसी डेटा में, फेफड़े के नोड्यूल का औसत व्यास 8.29 मिमी था, जबकि स्कैनर एच डेटा (एलएनडीबी से निकाला गया) में 5.99 मिमी के औसत व्यास के साथ छोटे घाव शामिल थे। डिजाइन के अनुसार, डीएम जनसंख्या परिवर्तन (यानी, इमेजिंग विशेषताओं के विपरीत घाव की विशेषताओं में परिवर्तन) का पता नहीं लगाता है, और इस प्रकार, स्कैनर एच डेटा को जल्दी से अनुकूलित नहीं कर सका। यादृच्छिक प्रतिस्थापन रणनीति सीखने के डोमेन के साथ संघर्ष करती थी जो प्रशिक्षण (स्कैनर एफ और जी) में कम बार मौजूद थे क्योंकि उन्हें समय के साथ स्कैनर एच डेटा द्वारा बदल दिया गया था, जिसके परिणामस्वरूप उन स्कैनर को भूल गए थे। स्कैनर ई डेटा के लिए यह प्रभाव कम गंभीर था क्योंकि इस स्कैनर के डेटा पर आधार प्रशिक्षण किया गया था। डीएम और डीएम-पीडी ने विविधता लाने के लिए शैली-आधारित मीट्रिक का उपयोग करके इस भूल का प्रतिकार कियास्मृतिऔर इस प्रकार सभी स्कैनरों के नमूने अंदर रखेस्मृति. डीएम-पीडी ने छद्म डोमेन का पता लगाए बिना डीएम से बेहतर प्रदर्शन किया, यह दर्शाता है कि प्रशिक्षण प्रक्रिया को संतुलित करना हमारी निरंतर सीखने की पद्धति के लिए एक महत्वपूर्ण कदम था। डीएम-पीडी ने एपी के मामले में सबसे अच्छा प्रदर्शन दिखाया और स्कैनर्स ई, एफ और जी के लिए लगभग 0.05 एपी से बेहतर प्रदर्शन किया। इसके अलावा, डीएम-पीडी / 128 के लिए सबसे अच्छा पिछड़ा और आगे हस्तांतरणीयता देखी गई। . इस प्रकार, यह फेफड़े के नोड्यूल का पता लगाने के लिए बेहतर मॉडल था।

अंजीर। 2 कार्डिएक एमआर विभाजन। यादृच्छिक प्रतिस्थापन और अनुभवहीन निरंतर सीखने की तुलना में डीएम और डीएम-पीडी के लिए एम=128 के प्रशिक्षण के दौरान सत्यापन सेट पर पासा स्कोर (डीएससी)। नीचे की टाइमलाइन एक सतत डेटा स्ट्रीम और स्ट्रीम में डोमेन के परिवर्तन का प्रतिनिधित्व करती है। स्कैनर ए के लिए डीएससी की एक बूंद तब देखी जा सकती है जब स्कैनर बी स्ट्रीम में होता है, डीएम और डीएम-पीडी इस ड्रॉप से ​​उबरने में सक्षम थे।स्मृति; b स्कैनर सी के साथ प्रशिक्षण के दौरान सभी विधियां स्थिर हैं, और जैसे ही स्कैनर डी डेटा आता है, हम स्कैनर डी सत्यापन नमूनों के लिए डीएससी की त्वरित वृद्धि देखते हैं। भोले और यादृच्छिक प्रतिस्थापन उस अवधि के दौरान कुछ डीएससी अंक खो देते हैं, जबकि डीएम स्थिर रहता है। यह महत्वपूर्ण और तीव्र परिवर्तन दर्शाता है कि स्कैनर डी दूसरों की तुलना में अलग है और स्कैनर बी और सी के रूप में निकटता से संबंधित नहीं है।

अनुपूरक तालिका 5 अलग-अलग तुलना करने के परिणाम दिखाती हैस्मृतिआकार एम=〈64, 128, 256, 512, 883〉 (883 निरंतर स्ट्रीम के सभी नमूनों को स्मृति में संग्रहीत करने के अनुरूप है)। डीएम के लिए, छोटे मेमोरी साइज की तुलना में बड़ा मेमोरी साइज फायदेमंद था। डीएम-पीडी के लिए, परिणामों से पता चला है कि छोटेस्मृति(एम=64 और एम=128) केवल डीएम की तुलना में स्यूडो-डोमेन (पीडी) डिटेक्शन द्वारा अधिक प्रदर्शन लाभ प्राप्त किया गया था। बड़े मेमोरी आकार के लिए, पीडी का लाभ गायब हो गया। प्रशिक्षण अनुक्रम में अंतर के कारण, M=883 के साथ प्रदर्शन DM JModel से भिन्न था। जबकि डीएम/883 ने स्कैनर ई और एफ पर बेहतर प्रदर्शन किया, जेमोडेल ने स्कैनर जी और एच के लिए उच्च एपी मान दिखाया।

चित्र 4 में, प्रशिक्षण के दौरान सत्यापन प्रदर्शन में परिवर्तन को यादृच्छिक प्रतिस्थापन की तुलना में एम=128 के साथ डीएम और डीएम-पीडी के लिए दर्शाया गया हैस्मृतिऔर भोले नित्य सीखने। जबकि यादृच्छिक प्रतिस्थापन और भोली रणनीति ने भूलने को दिखाया, विशेष रूप से स्कैनर जी के लिए, डीएम और डीएम-पीडी ने भयावह भूल के बिना प्रदर्शन को उच्च रखा।

फेफड़े के नोड्यूल का पता लगाने में डीएम के प्रदर्शन का विस्तार से विश्लेषण करने के लिए, एम=128 के साथ डीएम और डीएम-पीडी के लिए सटीक-रिकॉल कर्व्स की तुलना भोले नित्य सीखने और केवल पहले स्कैनर ई से डेटा पर प्रशिक्षित बेस मॉडल से की गई थी। अंजीर। 5 ए)। बेस मॉडल ने सभी डोमेन के लिए निरंतर सीखने के दृष्टिकोण से भी बदतर प्रदर्शन किया, यहां तक ​​​​कि उस डोमेन से परीक्षण डेटा पर भी जिस पर मॉडल को प्रशिक्षित किया गया था। इससे पता चला कि बाद के स्कैनर से ज्ञान स्कैनर ई पर अंतिम मॉडल के प्रदर्शन में सुधार कर सकता है। जैसा कि अपेक्षित था, बाद के स्कैनर के लिए बेस मॉडल का प्रदर्शन खराब हो गया। भोले नित्य सीखने के दृष्टिकोण के सटीक-रिकॉल कर्व्स ने आधार मॉडल पर सुधार दिखाया। डीएम और डीएम-पीडी की तुलना में, इसने स्कैनर ई-जी के लिए एक खराब प्रदर्शन और स्कैनर एच के लिए थोड़ा बेहतर प्रदर्शन प्रदर्शित किया। यह दर्शाता है कि कैसे भोले-भाले निरंतर सीखने नए स्कैनर के लिए अनुकूल हो सकते हैं, लेकिन डीएम और डीएम-पीडी के विपरीत-से पीड़ित हैं। मॉडल को स्कैनर एच डेटा में अपडेट करते समय भूल जाना।

अंजीर में। सभी चार डोमेन के लिए 5 बी बाउंडिंग बॉक्स डिटेक्शन दिखाए गए हैं। कुल मिलाकर, डीएम और डीएम-पीडी की तुलना में भोले-भाले दृष्टिकोण के लिए अधिक संख्या में झूठी सकारात्मकता आई। इस तथ्य को देखते हुए कि हमने केवल 2डी स्लाइस पर डिटेक्शन का प्रदर्शन किया, डीएम और डीएम-पीडी ने एक अच्छा समग्र प्रदर्शन दिखाया। फेफड़े के नोड्यूल का पता लगाने के लिए, हमने अज्ञात डोमेन शिफ्ट के साथ निरंतर सीखने की सेटिंग में अपनी डीएम पद्धति के साथ पूर्वाभ्यास का उपयोग करके एक स्पष्ट लाभ दिखाया।

छद्म डोमेन का पता लगाना अधिक संतुलित रखता हैस्मृति.

फेफड़े के नोड्यूल का पता लगाने के लिए, हमने एम=128 के लिए छद्म डोमेन मॉड्यूल के बिना छद्म डोमेन मॉड्यूल बनाम प्रशिक्षण के साथ डीएम के प्रशिक्षण के बीच अंतर का विश्लेषण किया। सबसे पहले, हमने मूल्यांकन किया कि नमूने कैसेस्मृतिप्रशिक्षण के अंत में t-वितरित स्टोकेस्टिक पड़ोसी एम्बेडिंग (TSNE)23 का उपयोग करके सभी प्रशिक्षण नमूनों के ग्राम मैट्रिक्स को एम्बेडिंग स्पेस में एम्बेड करके पूरे प्रशिक्षण कॉर्पस की तुलना में वितरित किया गया था।

चित्र 6ए स्कैनर एफ, स्कैनर एच, और स्कैनर्स ई और जी के डोमेन के बीच एक स्पष्ट अंतर दिखाता है। स्कैनर्स ई और जी उन डोमेन के लिए उपयोग किए गए समान पुनर्निर्माण कर्नेल के कारण उनकी शैली के अनुसार करीब थे। चित्र में मार्कर नमूनों को इंगित करते हैंस्मृतिनिरंतर प्रशिक्षण के अंत में। डीएम-पीडी के लिए, उन्हें पूरे प्रशिक्षण सेट में समान रूप से वितरित किया गया था।

इस अवलोकन की पुष्टि चित्र 6c में दर्शाए गए डेटा द्वारा की गई थी, जहां हमने छद्म डोमेन (DM-PD) के साथ संतुलन की तुलना में केवल DM के साथ प्रशिक्षण के लिए पहले डोमेन (स्कैनर E) के समग्र बाद के डोमेन का स्पष्ट अति-प्रतिनिधित्व देखा।

अंजीर। 3 हृदय विभाजन के लिए गुणात्मक उदाहरण। डीएम और डीएम-पीडी के लिए एम के साथ परिणाम=128 भोले नित्य सीखने और यादृच्छिक की तुलना मेंस्मृतिप्रतिस्थापन। गलत लेबल किए गए पिक्सेल को संदर्भित करता है जिन्हें लेबल किया गया था, लेकिन वर्ग सदस्यता मॉडल द्वारा भ्रमित थी। बेस मॉडल को केवल स्कैनर ए से डेटा पर एक स्थिर प्रशिक्षण दृष्टिकोण में प्रशिक्षित किया गया था।

चित्रा 6बी छद्म डोमेन को सौंपे गए डोमेन तत्वों की संख्या का विश्लेषण दिखाता है। एकल प्रशिक्षण चलाने के उदाहरण के लिए, पाँच छद्म डोमेन पाए गए। PD-1 स्कैनर E के वास्तविक डोमेन का प्रतिनिधित्व करता है। PD-4 और PD-5 दो स्कैनर, F और G से नमूनों का प्रतिनिधित्व करता है। PD-2 और PD{{7} में }, डोमेन के स्पष्ट भेद का प्रतिनिधित्व नहीं किया गया। कुल मिलाकर, हमने देखा

अंजीर। 4 फेफड़े के नोड्यूल का पता लगाना। औसत सटीकता (एपी) को डीएम और डीएम-पीडी के प्रशिक्षण के दौरान एम=128 के साथ-साथ एक यादृच्छिक प्रतिस्थापन के दौरान सत्यापन सेट पर मापा गया थास्मृतिऔर अनुभवहीन निरंतर सीखने का दृष्टिकोण। नीचे की टाइमलाइन डेटा स्ट्रीम में डोमेन में बदलाव को दर्शाती है। जैसे ही स्कैनर एफ डेटा स्ट्रीम में आया, सभी दृष्टिकोणों के लिए स्कैनर एफ (और स्कैनर जी) डोमेन पर किए गए सत्यापन में वृद्धि हुई। b स्कैनर एच डेटा पर प्रशिक्षण के कुछ चरणों के बाद, स्कैनर ई, एफ, और जी के लिए भोले और यादृच्छिक प्रतिस्थापन दृष्टिकोण के लिए प्रदर्शन में एक स्पष्ट गिरावट (एपी) हुई, जिसने भयावह भूल को चिह्नित किया। डीएम के लिए, प्रदर्शन पहले थोड़ा गिरा, लेकिन कुछ प्रशिक्षण चरणों के बाद ठीक हो गया, क्योंकि स्मृति से नमूने प्रशिक्षण के लिए उपयोग किए जाते हैं। स्कैनर्स ई, एफ, और जी सी के लिए डीएम-पीडी का प्रदर्शन स्थिर रहा। निरंतर प्रशिक्षण के अंत में, स्कैनर्स ई, एफ और जी के लिए बेहतर प्रदर्शन हासिल किया गया था, जब गतिशील मेमोरी का उपयोग किया गया था। स्कैनर एच के लिए, तीनों दृष्टिकोणों का प्रदर्शन समान था। डी स्कैनर ई के लिए प्रदर्शन सभी दृष्टिकोणों के लिए संपूर्ण निरंतर प्रशिक्षण प्रक्रिया के दौरान स्थिर था, एक आधार प्रशिक्षण दिखा रहा था जो स्कैनर ई के लिए संतृप्त था। एक संतुलित स्मृति बनाए रखने के लिए छद्म-डोमेन मॉड्यूल का उपयोग करना फायदेमंद था, जो संपूर्ण का प्रतिनिधि था प्रशिक्षण सेट वितरण।

सिस्टैंच समीक्षाएँ: याददाश्त में सुधार

बहस

मशीन लर्निंग निदान और निदान के लिए चिकित्सा इमेजिंग डेटा के उपयोग का विस्तार कर रहा है। गहन शिक्षण में प्रगति बीमारी से जुड़ी संस्थाओं की कम्प्यूटेशनल पहचान, विभाजन और वर्गीकरण को सक्षम बनाती है, इस प्रकार व्यक्तिगत उपचार निर्णयों को सूचित करती है। स्थिर डीएल के पहले पुनरावृत्ति के बाद, मॉडल प्रभावी साबित हुए हैं, चुनौती अब छवि अधिग्रहण प्रौद्योगिकी, प्रोटोकॉल, या यहां तक ​​​​कि उपचार विकल्पों में निरंतर प्रगति के वातावरण में उन्हें टिकाऊ बनाने की है। यहां, हम दिखाते हैं कि एक दृष्टिकोण जो विविध गतिशीलता को बनाए रखता हैस्मृतिबदलते इमेजिंग तकनीक के लिए मॉडल को अनुकूलित कर सकता है, क्योंकि यह डोमेन बदलाव के साथ मुकाबला करता है। महत्वपूर्ण रूप से, जबकि मॉडल ने नए डेटा से सीखा, इसने पूर्वाभ्यास की विविधता को बरकरार रखास्मृति, इसे देखे गए इमेजिंग स्रोतों के संपूर्ण प्रदर्शनों की सूची में सटीक और विश्वसनीय बने रहने के लिए। इसके अलावा, हमने देखा कि मॉडल ज्ञान को स्कैनरों में सफलतापूर्वक स्थानांतरित किया गया था। अन्य स्कैनर से प्रशिक्षण डेटा सहित एक व्यक्तिगत स्कैनर पर मॉडल सटीकता के लिए लाभ मिला।

स्कैनर परिवर्तनशीलता और मशीन लर्निंग (एमएल) एल्गोरिदम पर उनके हानिकारक प्रभावों के कारण डोमेन बदलाव अलग-अलग छवि तौर-तरीकों में देखे गए हैं, जैसे कि कंप्यूटेड टोमोग्राफी (सीटी) और चुंबकीय अनुनाद इमेजिंग (एमआरआई)। सीटी के लिए, एमएल भविष्यवाणियों के साथ-साथ मानव एनोटेशन पर स्कैनर और पुनर्निर्माण मापदंडों के प्रभाव का अध्ययन छाती सीटी परीक्षाओं के लिए किया गया है। यह प्रदर्शित करते हुए कि स्कैनर परिवर्तनशीलता का रेडियोमिक्स 24,25 और अन्य इमेजिंग विशेषताओं पर नकारात्मक प्रभाव पड़ता है, एमएल मॉडल डिजाइन करते समय इस पर विचार करने की आवश्यकता है। रेफरी में। 27 दिसंबर को, मस्तिष्क एमआरआई के लिए एमएल एल्गोरिदम पर कई एमआरआई स्कैनर का उपयोग करने के प्रभाव का अनुभवजन्य मूल्यांकन किया गया था। अनुदैर्ध्य, बहु-स्कैनर एमआरआई अध्ययनों में स्कैनर परिवर्तनशीलता के प्रभाव को कम करने के लिए, 28,29 सामंजस्य लागू किया गया है। हालांकि, हमारे काम से अलग, वे विधियां मानती हैं कि सभी डेटा एक ही बार में उपलब्ध हैं, जो कि नैदानिक ​​​​अभ्यास में तैनात मॉडल के मामले में नहीं है।

पहले, निरंतर सीखने की सेटिंग में भयावह भूल को कम करने के लिए विभिन्न तरीकों का प्रस्ताव किया गया है। इन दृष्टिकोणों को मोटे तौर पर तीन श्रेणियों में विभाजित किया जा सकता है: पूर्वाभ्यास और छद्म पूर्वाभ्यास विधियाँ19,30-33, नियमितीकरण-आधारित दृष्टिकोण18,34,35, और पैरामीटर अलगाव विधियाँ36,37। विस्तृत समीक्षा के लिए, रेफरी देखें। 10,11. उन दृष्टिकोणों में से अधिकांश वृद्धिशील कार्य सीखने के तरीके हैं। वे पिछले कार्यों के लिए आवश्यक ज्ञान को भूले बिना नए कार्यों को क्रमिक रूप से सीखने पर ध्यान केंद्रित करते हैं। हाल ही में, डोमेन बदलाव के लिए लेखांकन पर ध्यान केंद्रित करने वाली विधियों को 38-40 प्रस्तावित किया गया है। डोमेन अनुकूलन (डीए) अनुसंधान का एक संबंधित क्षेत्र है जो डोमेन शिफ्ट 41-43 से संबंधित है। डीए पर केंद्रित है

अंजीर। 5 फेफड़े के नोड्यूल का पता लगाने के लिए मात्रात्मक और गुणात्मक परिणाम। केवल स्कैनर ई डेटा पर प्रशिक्षित बेस मॉडल की तुलना में अंतिम भोले, डीएम और डीएम-पीडी प्रशिक्षित मॉडल का एक प्रेसिजन-रिकॉल कर्व। छायांकित क्षेत्र n=5 स्वतंत्र प्रशिक्षण रन के लिए कॉन्फिडेंस अंतराल का प्रतिनिधित्व करते हैं। b सभी चार डोमेन पर केवल स्कैनर ई डेटा पर प्रशिक्षित बेस मॉडल की तुलना में अंतिम भोले, डीएम और डीएम-पीडी प्रशिक्षित मॉडल के फेफड़े के नोड्यूल का पता लगाने के नमूने। ग्रीन बॉक्स ट्रू-पॉजिटिव, येलो बॉक्स फॉल्स-नेगेटिव और रेड बॉक्स फॉल्स-पॉजिटिव का संकेत देते हैं।

एक या एक से अधिक स्रोत डोमेन पर सीखे गए ज्ञान को लक्ष्य डोमेन के अनुकूल बनाना। चिकित्सा इमेजिंग में, DA का उपयोग विभिन्न इमेजिंग तौर-तरीकों या विभिन्न छवि अधिग्रहण सेटिंग्स के बीच अनुकूलन के लिए किया जाता है। यह एक ही बार में स्रोत और लक्ष्य डोमेन तक पहुंच मान लेता है, जो एक सतत डेटा स्ट्रीम का उपयोग करने वाली सेटिंग पर लागू नहीं होता है। इसके अलावा, DA को प्रत्येक नमूने के लिए एक डोमेन- या कार्य सदस्यता के ज्ञान की आवश्यकता होती है। वास्तविक दुनिया की चिकित्सा इमेजिंग में यह धारणा यथार्थवादी नहीं है। वहाँ मेटाडेटा एन्कोडिंग छवि अधिग्रहण जानकारी की परिवर्तनशीलता इमेजिंग विशेषताओं की तुलना के लिए सीधे मैप नहीं करती है। चूंकि हम इस ज्ञान तक पहुंच नहीं मानते हैं, इसलिए ये विधियां नैदानिक ​​​​दिनचर्या में निरंतर सीखने के लिए लागू नहीं होती हैं। इसलिए, आज तक, उन्हें व्यवहार में नहीं अपनाया गया है। एक तीसरा संबंधित क्षेत्र ट्रांसफर लर्निंग है। यहां, एक मौजूदा मॉडल को नए डेटा पर ट्यूनिंग करके एक नए कार्य या डोमेन में स्थानांतरित किया जाता है। एकमात्र उद्देश्य एक मॉडल है जो वहां अच्छा प्रदर्शन कर रहा है, भले ही प्रारंभिक डोमेन पर अच्छी तरह से काम करने की उसकी क्षमता कुछ भी हो। ne-ट्यूनिंग के दौरान प्रारंभिक डोमेन से कोई डेटा आवश्यक नहीं है।

हमारे परिणाम बताते हैं कि प्रारंभिक प्रशिक्षण वितरण के बाहर छवि अधिग्रहण मशीनों के साथ डेटा प्राप्त करने पर स्थिर मॉडल को खंड और पता लगाने की क्षमता सीमित है। उसी समय, नए स्कैनर पर लगातार प्रशिक्षण देने वाले भोले दृष्टिकोण पुरानी इमेजिंग विशेषताओं को भूल जाते हैं, पिछले अधिग्रहण विशेषताओं के साथ डेटा को संसाधित करने की उनकी क्षमता खो देते हैं। नए प्रशिक्षण डेटा को लगातार शामिल करके, विविध पूर्वाभ्यास सेट को बनाए रखते हुए, गतिशील मेमोरी देखे गए स्कैनर के पूरे सेट में अच्छा प्रदर्शन करती है। छद्म डोमेन का पता लगाने, उप-समूहों का प्रतिनिधित्व करते हैं जो समान शैली या इमेजिंग विशेषताओं को प्रदर्शित करते हैं, छवियों के समूह उत्पन्न करते हैं जो स्कैनर से मेल खाते हैं, या स्कैनर के समूह जो समान उपस्थिति गुण साझा करते हैं। प्रशिक्षण प्रक्रिया में उनका पता लगाना और इंजेक्शन लगाना

अंजीर। 6 बढ़ानास्मृतिविविधता। एम=128 के लिए डीएम बनाम डीएम-पीडी के लिए मेमोरी कंपोजिशन की तुलना। प्रशिक्षण सेट के ग्राम मैट्रिसेस पर एक TSNE डोमेन के भेद को दर्शाता है। मार्कर एक रन के लिए प्रशिक्षण के अंत में स्मृति तत्वों की स्थिति दिखाते हैं। डीएम-पीडी पूरे प्रशिक्षण सेट पर अधिक समान वितरण दिखाता है। बी डीएम-पीडी के एकल प्रशिक्षण चलाने के लिए पांच छद्म डोमेन का पता लगाया गया; बार छद्म-डोमेन को असाइन किए गए डोमेन तत्वों की संख्या दिखाते हैं। c डोमेन तत्वों की मात्रास्मृतिडीएम और डीएम-पीडी के लिए प्रशिक्षण के बाद। त्रुटि पट्टियाँ मानक विचलन और माध्य (मध्य रेखा), n=5 स्वतंत्र रन का प्रतिनिधित्व करती हैं।

डीएम मॉडल के प्रदर्शन में और सुधार करता है। महत्वपूर्ण रूप से, ये छद्म-डोमेन कई स्कैनरों को फैला सकते हैं यदि वे इमेजिंग विशेषताओं को साझा करते हैं। शैली-आधारित मीट्रिक का उपयोग डोमेन सदस्यता ज्ञान की आवश्यकता को कम करता है और इस जानकारी का उपयोग करने वाले अत्याधुनिक निरंतर शिक्षण विधियों के समान प्रदर्शन को प्रदर्शित करता है।

स्कैनर-विशिष्ट मॉडल के प्रशिक्षण की तुलना में दृष्टिकोण का एक और लाभ यह है कि किसी विशेष स्कैनर पर मॉडल का प्रदर्शन आम तौर पर अन्य स्कैनर पर प्रशिक्षण से लाभान्वित होता है। मॉडल के फीचर प्रतिनिधित्व संबंधित लेकिन अलग-अलग डेटा पर प्रशिक्षण से बेहतर सामान्यता प्राप्त करते हैं। इससे नए स्कैनर डेटा का प्रसंस्करण होता है जो पुराने स्कैनर (फॉरवर्ड ट्रांसफर) और इसके विपरीत (बैकवर्ड ट्रांसफर) पर प्रशिक्षण से लाभान्वित होता है। परिणाम विभिन्न इमेजिंग तौर-तरीकों (एमआरआई, सीटी) और छवि विश्लेषण कार्यों (विभाजन, पहचान) के अनुरूप थे।

हमारे कार्डिएक एमआरआई सेगमेंटेशन के परिणामों ने साबित कर दिया कि डीएम भोले नित्य सीखने की तुलना में फायदेमंद है, कम विनाशकारी भूलने का प्रदर्शन करता है और एक स्थिर प्रशिक्षण सेट पर प्रशिक्षित मॉडल की तुलना में परिणाम प्राप्त करता है जिसमें सभी डोमेन से डेटा शामिल होता है। इसी तरह के प्रभाव सीटी में फेफड़े के नोड्यूल का पता लगाने में हुए, और परिणामों से पता चला कि छद्म-डोमेन (डीएम-पीडी) का उपयोग करने से मानक गतिशील की तुलना में कम झूठी-सकारात्मक पहचान हुईस्मृति.

डेजर्ट सिस्टैंच ड्रैगन हर्ब्स

हमारा दृष्टिकोण चिकित्सा छवियों की एक सतत डेटा स्ट्रीम पर सीखने की रणनीति के डिजाइन की दिशा में एक कदम है जिसे संभावित रूप से नैदानिक ​​​​अभ्यास में तैनात किया जा सकता है। फिर भी, विधि की कई सीमाएँ हैं। सबसे पहले, यह प्रदर्शित करने के लिए और अधिक शोध की आवश्यकता है कि हम ऐसे सिस्टम तैयार कर सकते हैं जो गारंटी देते हैं कि भविष्य में कोई भयावह भूल नहीं है जब स्कैनर की संख्या में काफी वृद्धि हुई है। यह साबित करना कि भविष्य के डोमेन के साथ डीएल मॉडल का प्रदर्शन कम नहीं होगा, चुनौतीपूर्ण है। दूसरा, डीएम को प्रशिक्षण के दौरान पूर्वाभ्यास के लिए छवियों का एक सबसेट संग्रहीत करने की आवश्यकता होती है। हालांकि यह पूर्वाभ्यास सेट संपूर्ण डेटा सेट से काफी छोटा है, गोपनीयता संबंधी चिंताएं या भंडारण सीमाएं प्रासंगिक हो सकती हैं। अंत में, यह मानते हुए कि डेटा स्ट्रीम में प्रत्येक नमूने के लिए प्रशिक्षण के लिए लक्ष्य लेबल या बाउंडिंग बॉक्स उपलब्ध हैं, हम मामलों की व्याख्या करने की लागत को ध्यान में नहीं रखते हैं। नैदानिक ​​​​अभ्यास में, यह धारणा पकड़ में नहीं आती है, और अज्ञात डोमेन के लिए आर्थिक रूप से नए एनोटेशन एकत्र करने के लिए एक मानव-इन-द-लूप अवधारणा 7 जैसे सक्रिय सीखने की आवश्यकता होती है।