Classification of papaya fruit based on maturity using machine learning and transfer learning approach
Subject Areas : Sustainable production technologiesmohammad ghorbani 1 , Mostafa Ghazizadeh-Ahsaee 2 , Kazem Jafari Naeimi 3
1 - Biosystems Engineering Dept. Faculty of Agriculture, Shahid Bahonar University of Kerman, Kerman, Iran.
2 - Computer engineering department, Shahid Bahonar University of Kerman, Kerman, Iran
3 - Associate Professor، Department of Biosystems Engineering، Faculty of Agriculture، Shahid Bahonar University of Kerman، Kerman، Iran.
Keywords: Feature descriptors , Grading, Machine learning, Maturity, Transfer learning,
Abstract :
Grading and packing fruits based on visual inspections can be time-consuming, destructive, and unreliable. The objective of the conducted research is to provide an intelligent, fast and reliable classification method to detect the maturity of papaya fruit in three levels: immature, partially mature and mature. The total number of images used in this article is 300 images, 100 images have been collected for each level. In this paper, the use of two approaches, machine learning and transfer learning, is proposed to classify papaya fruit maturity status. The machine learning approach includes the use of three feature descriptors and three different classifiers, which are: local binary pattern (LBP), Gray Level Cooccurrence Matrix (GLCM), histogram of oriented gradients (HOG), k-nearest neighbor (KNN) classification algorithm, support vector machine(SVM) and Naïve Bayes classification algorithm. Transfer learning methods include the use of six pre-trained deep learning models Alexnet, Googlenet, Resnet101, Resnet50, Resnet18, VGG19. KNN classifier using HOG feature descriptor has achieved 95.4% accuracy and 3:52 seconds training time. The classifier based on transfer learning approach VGG19 was able to record better performance among other deep learning networks by obtaining 100% accuracy and training time of 10:42 seconds. Two classification methods using machine learning and transfer learning methods have been able to obtain accuracy of 95.4% and 100%, respectively, which are 0.7% and 6% more than the existing proposed methods.
32 پژوهشهای علوم کشاورزی پایدار/جلد 3/شماره 4/زمستان 1402/ ص 51-32
طبقه بندی میوه پاپایا برمبنای رسیدگی، با استفاده از یادگیری ماشین و رویکرد یادگیری انتقالی
محمد قربانی 1، مصطفی قاضیزاده احسائی2*، کاظم جعفری نعیمی3
1-دانشجوی دکتری مکانیک بیوسیستم، دانشکده کشاورزی ، دانشگاه شهید باهنر کرمان، کرمان، ایران
2- استادیارگروه مهندسی کامپیوتر، دانشکده فنی مهندسی، دانشگاه شهید باهنر کرمان، کرمان، ایران
3- دانشیار گروه مهندسی مکانیک بیوسیستم، دانشکده کشاورزی، دانشگاه شهید باهنرکرمان، کرمان، ایران
* ايميل نویسنده مسئول: mghazizadeh@uk.ac.ir
(تاریخ دریافت: 4/10/1402- تاريخ پذيرش: 29/12/1402)
چکیده
درجه بندی و بسته بندی میوه ها بر اساس بازرسی های بصری می تواند زمان بر، مخرب و غیر قابل اطمینان باشد. هدف از پژوهش انجام شده ارائه یک روش طبقهبندی هوشمند، سریع و قابل اطمینان جهت تشخیص میزان رسیدگی میوه پاپایا در سه سطح نارس، نمیه رسیده و رسیده میباشد. تعدادکل تصاویر مورد استفاده در این مقاله 300 تصویر میباشد که برای هر کدام از سطوح تعداد 100 تصویر جمع آوری گردیده است. در این پژوهش استفاده از دو رویکرد یادگیری ماشین و یادگیری انتقالی برای طبقه بندی وضعیت میزان رسیدگی میوه پاپایا پیشنهاد شده است. رویکرد یادگیری ماشین شامل استفاده از سه توصیف گر ویژگی و سه طبقه بندی کننده مختلف می باشدکه عبارت اند از: الگوریتم دو دویی محلی (LBP)، ماتریس هم رخداد سطح خاکستری (GLCM)، هیستوگرام گرادیان های جهت دار(HOG)، الگوریتم طبقه بندیk- نزدیک ترین همسایه(KNN)، ماشین بردار پشتیبان(SVM)، و الگوریتم طبقه بندی کننده بیزی ساده (Naïve Bayes). روشهاییادگیریانتقالیشامل استفاده از شش مدل یاد گیری عمیق از پیش آموزش داده شده Alexnet, Googlenet, Resnet101, Resnet50, Resnet18, VGG19 می باشد. طبقه بندیکننده KNN با استفاده از توصیف گر ویژگی HOG توانستهاست به صحت4/95 درصد و زمان آموزش 3:52 ثانیه دست پیدا کند. طبقه بندی کننده مبتنی بر رویکرد یادگیری انتقالی VGG19 با بدست آوردن صحت 100 درصدی و زمان آموزش 10:42 ثانیه توانست عملکرد بهتری را در میان سایر شبکه های یادگیری عمیق ثبت کند. دو روش طبقه بندی با استفاده از روش های یادگیری ماشین و یادگیری انتقالی توانستهاند هر کدام صحت 4/95، و 100 درصدی را بدست بیاورند که به ترتیب 7/0 و 6 درصد بیشتر از روشهای پیشنهادی موجود می باشد.
واژههاي کليدي: گل محمدي، برداشت مكانيزه، دستگاه قابل حمل، سوخت مصرفی، زمان برداشت
مقدمه
پاپایا (Carica papaya) میوهای با ارزش غذایی بالا و منبع غنی برای ویتامین های A و C میباشد(Pereira et al ., 2018) میوه پاپایا مخصوص مناطق گرمسیری است و در جنوب و جنوب شرقی ایران کشت میشود (sbaj.ir). استان سیستان و بلوچستان با سطح زیر کشت 50 هکتار بزرگترین تولید کننده میوه پاپایا در کشور ایران به شمار میرود (sbaj.ir). طبقهبندیمیوهها و ارزیابی کیفیتآنها با استفاده از بازرسیهای بصری باعث بروز خطا به دلیل وجود تأثیرات خارجی مانند خستگی، تعصبات و پیش داوری های شخصی و غلط می شود .(Savakar et al., 2015) با وجود اپراتورهای حرفه ای و افراد خبره و صاحب نظر، طبقه بندی میوه ها درصنعت میوه بدلیل وجود تفاوت در ادراکات بصری منجر به وجود تفاوت ها و تناقضاتی میشود. از این رو یک سیستم خودکار برای تجزیه و تحلیل میوه ها و ارائه اطلاعات قابل اعتماد تر مورد نیاز است.(Damez et al., 2008) کیفیت مصرف میوهها و تعیین زمان نگهداری آن ها قبل از مصرف به میزان زیادی به شناسایی میزان رسیدگی آن ها وابسته است.(Magwaza et al., 2015) تعیین این خواص به کمک کارشناسان انسانی زمان بر و مخرب خواهد بود، بنابراین تکنیک هایی سریع، هوشمند و غیر مخرب در این حوزهی کاربردی مورد نیاز است (Medina et al., 2014). امروزه بسیاری از تولید کنندگان داخلی به دلیل عدم توانایی در عرضه محصول خود به نحو بازارپسند متحمل خسارت می شوند(Khodaei et al., 2018) . برای درجه بندی میوهها روش های گوناگونی وجود دارد. روش های دستی و مکانیکی با توجه با آسیب هایی مانند لهیدگی که به میوه وارد می کنند کمتر مورد توجه هستند. درحالی که روش های غیرمخرب به دلیل دخالت کمتر توسط انسان و پایین تر بودن هزینه ها، راحت تر و با صرفه تر بوده و در حال حاضر بدلیل کاهش صدمات وارده به محصول مورد توجه هستند(Baigvand et al., 2015). بیناییماشین یکی از روشهای نوین و غیرمخربی است که برای درجه بندی میوه ها براساس خصوصیات ظاهری مورد توجه قرار گرفته است(Mohammadi et al., 2015) . در حوزهکشاورزی مطالعات زیادی در زمینه درجه بندی و طبقه بندی محصولات به کمک پردازش تصویر گزارش شده است (Kheiralipour , 2018; 2020; Farokhzad et al., 2020; Wang et al., 2020). ویژگیهایظاهری و بصری محصولات کشاورزی مانند رنگ، اندازه، شکل و بافت در ارزیابی کیفیت محصولات بسیار تاثیرگذار هستند. بنابراین توسعه و طراحی یک سامانه هوشمند برای درجه بندی محصولات به ویژگیهای اشاره شده بستگی دارد (Azadnia et al., 2022). در سال های اخیر تعدادی از محققان مطالعاتی را بر روی پیش بینی میزان رسیدگی میوه های مختلف انجام دادند. یک مدل فازی برای طبقهبندی سطوح متفاوت رسیدگی میوه آناناس پیشنهاد شده است. در این تحقیق ویژگی های مورد نظر از کانال های رنگی hue و فضای رنگی lab استخراج شده اند و مجددا از بهینه سازیهای ازدحام ذرات برای بهینهسازی مدل فازی استفاده شده و در نتایج خود به صحت 11/93 درصد دست یافته اند(Marimuthu et al ., 2017). در تحقیقی دیگر به منظور طبقه بندی میزان رسیدگی میوه موز در سه سطح، از دو الگوریتم خودکار یعنی شدت رنگ متوسط و الگوریتم استخراج ویژگیهایمحلی استفاده شده است. به منظور استخراج ویژگیها از توصیفگرهای ویژگی مانند ماتریس هم-رخداد سطح خاکستری (GLCM) و ویژگی های هندسی به منظور طبقه بندی استفاده شده است. الگوریتم ها با تعداد 120 تصویر از میوه های موز که شامل 40 تصویر از میوههای نارس، 40 تصویر از میوههای رسیده و 40 تصویر هم از میوه های کاملا رسیده است مورد بررسی قرار گرفتند. تجزیه و تحلیل ها نشان می دهند که ویژگیهایمیانگین رنگ و مساحت سطح میوه موز سهم اصلی را در این پژوهش تشکیل میدهند. الگوریتم شدت رنگ به کار گرفته شده توانسته است سه مرحله رسیدگی میوه موز را باصحت 1/99درصد طبقه بندی کند، همچنین دلیل ناکارآمدی الگوریتم استخراج ویژگی محلی ناتوانی در طبقه بندی میوههای موز رسیده و بیش از حد رسیده گزارش شده است (Prabha et al., 2015). سیستم دیگری برای طبقه بندی میوههای انبه بر اساس میزان رسیدگی آن ها به چهار دسته طراحی شده است. در این سیستم یک دوربین از یک نوار نقاله که میوههای انبه بر روی آن در حال حرکت کردن هستند فیلم برداری می کند، سپس تعداد 27 ویژگی از فریم سیگنالهای ویدیوییجمع آوری شده استخراج می شود. این محققان در پژوهش خود ازتکنیک حذف ویژگی های اضافی و طبقهبندیکنندهماشین بردار پشتیبان برایاهداف طبقه بندی استفاده کرده اند. در اینسیستم تعداد16400 تصویر مورد ارزیابی قرار گرفتُکه محققین توانستهاند به صحت 96 درصد دست پیداکنند (Nandi et al., 2014). یک مدل دیگر که براساس تصویربرداری چندطیفی بیان گردیده به منظور ارزیابی کیفیت و طبقهبندی میزان رسیدگی میوه های توت فرنگی پیشنهاد شده است. در پژوهش آن ها از دو روش تجزیه و تحلیل مولفه اصلی با شبکه عصبی پس انتشار و الگوریتم طبقه بندی ماشین بردار پشتیبان استفاده شده است. نتایج ارزیابیها نشانمیدهند که محققین توانستهاند به کمک طبقهبندی کننده ماشین بردار پشتیبان به صحت 100درصد دست یابند، این صحت بدست آمده برای مرحله رسیدگی میوه توت فرنگی بوده و از مجموعهای از دادهها که شامل 280 تصویر میباشد بدست آمده است (Liu et al., 2014). یک سیستم حسگر غیرمخرب و غیر تهاجمی برای پیش بینی میزان رسیدگی میوه دورین پیشنهاد شده است، در این روش از مفهوم ارتباط بی سیم با ضریب Rician k-factor برای پیش بینی میزان رسیدگی میوه دورین استفاده شده است، محققاندر این روش توانسته بودند به صحت 7/92 درصد دست پیداکنند (Leekl et al., 2016). در یک پژوهش دیگر مدل طبقهبندیکنندهای به منظور بررسی میزان رسیدگی میوه آلو بر اساس تکنیک پردازش تصویر پیشنهاد شده است، به منظور ارزیابی میزان رسیدگی میوه آلو از ویژگیهایکیفیخارجی مانندرنگ، بافت، و اندازه استفاده شده است. علاوه بر این تجزیه و تحلیل آزمایشها نشان میدهد که ویژگیهای رنگی(شاخصهای استخراجی با استفاده از کانالهای رنگی rgb ) ویژگیهای برجستهتری نسبت به ویژگی های بافت و اندازه هستند. نتایج آزمایش از آنالیز تصاویر صحت 66/99 درصد را در پژوهش هایشان گزارش داده است (Kaur et al., 2018) . دردهههایگذشته فعالیتها و پژوهشهای زیادیدر مورد جنبههای گوناگون صنعت میوه مانند تشخیص عیوب (Devi et al., 2013) ارزیابی کیفیت میوه ها (Jadhav et al., 2013; Patel et al.,2012) درجه بندی (Alohali , 2011) و پیش بینی حجم و وزن میوه ها(Omid et al., 2010) گزارش شده و انجام شده است. برای اهدافی مانند طبقهبندی میوهها بیناییکامپیوتر (Zhang et al., 2014; zhang et al., 2012) پردازش تصویر(Dubey et al., 2015) و تکنیکهایی مانند یادگیریعمیق (Sharma et al.,2019 ; Ji et al., 2019 ; Guo et al., 2019 ;Asad et al ., 2019)و یادگیری ماشین (Behera et al ., 2018; Huang et al., 2018) به طورگسترده استفاده میشود، علاوه بر این در یکی دوسال گذشته تحقیقاتی به منظور تشخیص میوهها بر روی درختان (Rocha et al., 2010) طبقه بندی و درجه بندی(Kavdir et al., 2004 ; Alohali et al., 2011; Gongal et al., 2018) آن ها انجامگرفته است. که نشان از توانایی بالای تکنیکهای عنوان شده میباشد. در ادبیات پیشین پژوهشی (Pereira et al., 2018) تنها یک مورد پیش بینی میزان رسیدگی میوه پاپایا بر اساس تکنیک پردازش تصویر با استفاده از الگوریتم طبقه بندی کننده جنگل تصادفی انجام شده است. در پژوهش انجام گرفته شده توسط آن محققین از 114 نمونه میوه پاپایا و تصاویر تهیه شده از میوه ها استفاده شده است. 21 ویژگی از تصاویر پاپایا به صورت دستی استخراج شده و الگوریتم طبقه بندی کننده توانسته بود میزان رسیدگی میوه پاپایا را بر اساس سه سطح رسیدگی با صحت 7/94 درصد طبقهبندی کند. در این پژوهش یک مدل طبقهبندیکننده به منظور طبقهبندی میزان رسیدگی میوه پاپایا در سه سطح یعنی نارس، نیمه رسیده و رسیده با استفاده از الگوریتم یادگیری ماشین و رویکرد یادگیری انتقالی پیشنهاد شده است. رویکرد یادگیری ماشین شامل استفاده از سه مجموعه توصیفگر ویژگی و سه مدل طبقه بندی کننده میباشد، همچنین در رویکرد یادگیری انتقالی از شش مدل یادگیری عمیق از پیش آموزش داده شدهاستفاده شده است.
مواد و روش ها
طبقه بندی سطوح رسیدگی یا میزان رسیدگی میوه پاپایا در دو رویکرد، یعنی یادگیری ماشین و یادگیری انتقالی انجام می گیرد. مراحل مختلف رسیدگی میوه بر اساس جنبههای بصری رنگ میوه تعریف می شود. این جنبه های بصری و مراحل مختلف رسیدگیآن در شکل(1) و جدول (1) آورده شده است.
جدول 1- ویژگی های بصری میوه پاپایا در مراحل مختلف رسیدگی
مراحل رسیدگی | توضیحات |
ناررسیده | پوست میوه کاملا سبز بوده و فاقد هرگونه رنگ زرد یا نارنجی می باشد. |
نیمه رسیده | پوست میوه ها دارای نواحی سبز رنگ ،زرد رنگ و نارنجی رنگ که نشانه هایی از رسیدگی میوه می باشند است. |
رسیده | پوست میوه کاملا دارای نواحی زرد یا نارنجی روشن بوده وممکن است دارای نواحی سبز رنگ باشد یا نباشد. |
شکل1- مراحل مختلف رسیدگی میوه پاپایا الف: پاپایا رسیده ب: پاپایا نیمه رسیده ج: پاپایا نارس
جزئیات جمع آوری نمونهها و مدلهای طبقه بندی کننده در دو رویکرد پیشنهادی در بخش های فرعی مناسب به طور کامل شرح داده شده اند.
جمع آوری دادهها
به منظور ارزیابی بهتر سامانه و هم چنین دسترسی نداشتن به مزارع کشت محصول پاپایا و زمان بر بودن تصویربرداری از مراحل مختلف رسیدگی میوه در فصلهای مختلف سال لازم دانسته شد که از تصاویر تهیه شده توسط سایر محققین که مورد تایید نیز میباشند، استفاده شود. بنابراین تصاویر مورد نیاز برای پردازش از پایگاه داده Data.mendly.com و موتورهای جستجوی گوگل، یاهو و بینگ جمعآوری گردیده است. تصاویر میوه پاپایا بر اساس ویژگیهای بصری توضیح داده شده در جدول (1) به سه سطح نارسیده، نیمه رسیده و رسیده طبقه بندی میشوند. همه نمونهها با سطوح متفاوت مقطع عرضی و طولی تصویربرداری شده و جمع آوری شده اند. تعداد کل تصاویر مورد استفاده در این پژوهش 300 تصویر بوده که برای هرکدام از سطوح متفاوت رسیدگی 100 تصویر تهیه شده است. همه تصاویر پس از جمع آوری به اندازه 3×227×227 تغییر اندازه داده شده اند و بدون هیچ گونه تغییری در فضای رنگی، به فرمت jpg و در فضای رنگی RGB ذخیره شده اند. تقسیم بندی تصاویر به منظور استفاده در فرآیندهای آموزش، آزمایش و اعتبارسنجی به ترتیب 70، 20 و 10 درصد کل نمونه ها در نظر گرفته شده است.
رویکرد یادگیری ماشین
رویکرد یادگیری ماشین شامل دو مرحله است. یک مرحله شامل استخراج ویژگی و مرحله دیگر طبقهبندی تصاویر می باشد. ویژگی های مورد نظر که بیشتر مربوط به جنبههای بافتی تصاویر هستند با استفاده از توصیف گرهای ویژگی هیستوگرام گرادیان های جهت دار، ماتریس هم رخداد سطح خاکستری و الگوریتم دودویی محلی از تصاویر نمونه استخراج میشوند. هر کدام از این توصیف گرهای ویژگی به ترتیب 59، 13 و 37 ویژگی بافتی را از تصاویر استخراج کرده و به صورت یک بردار 59×1 ، 13×1 و 37×1 خروجی می دهند. توصیفگرهای ویژگی هیستوگرام گردایانهای جهتدار و الگوریتم دودویی محلی تلاش می کنند که از یک نوع اطلاعات برای استخراج ویژگی استفاده کنند وآن هم محاسبه گردایانهای اطراف یک پیکسل مورد نظر است. تفاوت اصلیاین دو توصیف گر نیز در نحوی استفاده از همین گرادیانهای استخراج شده است.(Aggarwal, 2018)
استخراج ویژگی
توصیفگر ویژگی هیستوگرام گرادیان های جهت دار بر روی ساختار یا شکل یک شی تمرکز می کند، این توصیف گر از هر نوع توصیفگر لبه ای بهتر عمل می کند زیرا از اندازه و زاویه گرادیان ها برای محاسبه ویژگی ها استفاده می کند. این توصیفگر برای مناطق مختلفی از تصویر هیستوگرامهایی را با استفاده از اندازه وجهت گرادیان ایجاد می کند.(Dalal et al., 2005) ماتریس الگوریتم دودویی محلی تنها از یک جهت برای محاسبه گرادیانهای اطراف یک پیکسل مورد نظر استفاده می کند. این توصیف گر بر روی ساختار محلی همسایگی یک پیکسل تمرکز کرده و با استفاده از آستانه گذاری پیکسل های همسایه نسبت به پیکسل مرکزی آن را به صفر و یک تبدیل می کند. سپس کد دودویی اختصاص یافته به همسایگی ها را به عدد صحیح تبدیل کرده و الگوی دودویی محلی را بدست می آورد.(Ojala et al., 2002) ماتریس هم رخداد سطح خاکستری یک روش آماری برای توصیف بافت تصاویر می باشد. این ماتریس میزان احتمال مشترک وقوع دو سطح رنگ مختلف را در یک فاصله و زاویه مشخص در تصاویر سطح خاکستری نشان میدهد(Haralick et al., 1973). برای استخراج ویژگیهایی مانند: کنتراست، همبستگی، انرژی، همگنی، میانگین، انحراف معیار، آنتروپی و واریانس از این ماتریس استفاده شده که روابط هرکدام از آنها در جدول (2) آورده شده است.
جدول2- ویژگی های استخراج شده از ماتریس هم رخداد سطح خاکستری
ویژگی | رابطه | ||||
کنتراست |
| ||||
همبستگی |
| ||||
انرژی |
| ||||
همگنی |
| ||||
میانگین |
| ||||
انحراف معیار |
| ||||
آنتروپی |
| ||||
واریانس |
|
مشخصات |
Laptop AsusN53 Core i7 (8GB\750HDD\Windows10\2GB graphics) Equipped with NVIDIA G-force GT 550M CUDA |
جدول4- مقایسه عملکرد مدلهای طبقهبندی کننده مختلف براساس رویکرد یادگیری ماشین
ویژگی | طبقهبندی کننده | صحت(درصد) | AUC | زمان آموزش(ثانیه) |
| K-نزدیکترین همسایه | 6/91 | 1 | 4:13 |
الگوریتم دودویی محلی | ماشین بردار پشتیبان | 7/89 | 95/0 | 4:48 |
| بیزی ساده | 3/78 | 83/0 | 5:32 |
| K-نزدیکترین همسایه | 4/95 | 1 | 3:28 |
هیستوگرام گرادیان جهتدار | ماشین بردار پشتیبان | 4/91 | 1 | 3:45 |
| بیزی ساده | 7/92 | 1 | 3:87 |
| K-نزدیکترین همسایه | 6/93 | 1 | 5:87 |
ماتریس هم- رخداد سطح خاکستری | ماشین بردار پشتیبان | 4/88 | 93/0 | 6:12 |
| بیزی ساده | 2/83 | 89/0 | 6:87 |
شکل7- عملکرد طبقهبندی کننده k-نزدیک ترین همسایه در پیش بینی برچسب کلاسها
شکل8- منحنی دقت -بخاطرآوری
نتایج بر اساس رویکرد یادگیری انتقالی
به منظور طبقهبندی میزان رسیدگی میوه پاپایا شبکههای عصبی کانولوشن از پیش آموزش داده شده بر اساس رویکرد یادگیری انتقالی، تنظیم دقیق شده اند و برای اهداف طبقهبندی میوه پاپایا مورد استفاده قرار گرفتند. در رویکرد یادگیری انتقالی فراپارامترهای قابل تنظیم برای مدلهای از پیش آموزش داده شده مانند: اندازه بچ، تعدادتکرارها در آزمون اعتبارسنجی، تعدادکل دورههای آموزش و نرخ یادگیری اولیه به ترتیب 20، 12، 7 و 0003/0 در نظر گرفته شد. علاوه براین از روش فرودگرادیان استوکاستیک همراه با مومنتوم (SGDM)به عنوان روش یادگیری برای بروزرسانی اوزان و آموزش مدل استفاده شده است. برای ایجاد مدلی با قابلیت تعمیم بالا و همچنین جلوگیری از مشکل بیش برازش و ساخت مدلی مستحکم و قابل اطمینان لازم است تا داده های جمعآوری شده در مجموعه داده تقویت شوند، در این پژوهش از تکنیک تقویت دادهها برای رسیدن به این اهداف استفاده شده است. چرخش [90;90-] انتقال [30;30-] و تغییر مقیاس [1.1;9/0] سه عملیاتی است که به منظور تقویت دادهها در این پژوهش بر روی تصاویر مورد استفاده قرارگرفتهاند. پس از تنظیم فراپارامترها، تقویت دادهها و اجرای آزمایشات مشخص شد که شبکه از پیش آموزش داده شده VGG19 توانسته است عملکرد بهتری را نسبت به سایر شبکهها از خود نشان دهد. در شکل (9) عملکرد این شبکه در زمان آموزش و اعتبارسنجی نشان داده شده است.
شکل9 - عملکرد شبکه VGG19 در زمان آموزش و اعتبارسنجی
شبکه از پیش آموزش داده شده VGG19 توانسته است در مدت زمان10:42 ثانیه به صحت 100درصد عملکرد برای دادههای اعتبارسنجی دست پیداکند. اگرچه سایر مدلهای از پیش آموزش داده شده توانسته اند به این صحت 100 درصدی دست پیدا کنند اما زمان رسیدن به این صحت برای مدل VGG19 کمتر از سایر مدلها است. علاوه بر این شبکه VGG19 توانسته است تنها در 7 تکرار به این صحت و زمان آموزش برسد که بهترین عملکرد در میان سایر مدل ها می باشد. نتایج عملکردی سایر شبکهها بر اساس رویکرد یادگیری انتقالی در جدول (5) نشان داده شده است، همچنین ماتریس آشفتگی و خروجی شبکه VGG19 که پیش بینی برچسب کلاس های میزان رسیدگی میوه پاپایا همراه با صحت این پیش بینی است به ترتیب در جدول (6) وشکل (10) آورده شده است.
جدول5- مقایسه عملکرد مدلهای طبقهبندی کننده مختلف براساس رویکرد یادگیری انتقالی
شبکه از پیش آموزش داده شده | صحت | تعداد تکرار در رسیدن به حداکثر صحت اعتبارسنجی | زمان آموزش(ثانیه) |
ResNet101 | 100 | 16 | 15:68 |
ResNet50 | 100 | 20 | 17:35 |
ResNet18 | 7/98 | 15 | 14:30 |
VGG19 | 100 | 12 | 10:42 |
Google Net | 100 | 14 | 13:87 |
Alex Net | 9/99 | 15 | 15:45 |
کلاسهای پیش بینی شده |
رسیده |
نارس |
نیمه رسیده |
رسیده |
100% 0.0% | 0 0.0% | 0 0.0% | 20 33.33% | ||
100% 0.0% | 0 0.0% | 20 33.33% | 0 0.0% | ||
100% 0.0% | 20 33.33% | 0 0.0% | 0 0.0% | ||
100% 0.0% | 100% 0.0% | 100
| 100
|
کلاسهای واقعی |
شکل10- عملکرد شبکه Vgg19در پیش بینی برچسب کلاسها
نتیجهگیری و پیشنهادات
در این پژوهش یک مدل طبقهبندی کننده برای طبقهبندی میزان رسیدگیمیوه پاپایا در دو رویکرد یادگیری ماشین و یادگیریانتقالی پیشنهاد شده است. در رویکرد یادگیری ماشین از توصیفگرهای ویژگی هیستوگرام گرادیانهای جهت دار، الگوریتم دودویی محلی و ماتریس هم رخداد سطح خاکستری همراه با طبقهبندی کنندههای k-نزدیکترین همسایه، ماشین بردارپشتیبان و طبقهبندی کننده بیزی ساده که هرکدام عملکردی متفاوت ازخود نشان داده اند، استفاده شده است. طبقهبندی کنندهk-نزدیک ترین همسایه همراه با توصیفگر ویژگی HOG توانست با به دست آوردن صحت 4/95 درصد بهترین عملکرد را در میان سایر طبقهبندی کننده های یادگیری ماشین به خود اختصاص دهد . علاوه بر این، این طبقهبندی کننده با ثبت Auc=1 و زمان آموزش 3:28 ثانیه بهترین نتیجه را بر اساس این سنجه های ارزیابی در بین سایر مدلهای طبقهبندی کنندهای یادگیری ماشین بدست آورده است. در رویکرد یادگیری انتقالی شبکه از پیش آموزش داده شدهvgg19 توانسته است با بدست آوردن صحت 100درصد و زمان آموزش 10:42 ثانیه بهترین عملکرد را دربین سایر شبکه ها به خود اختصاص بدهد. به طورکلی میتوان نتیجه گرفت که در بین رویکردهای یادگیری ماشین و یادگیری انتقالی شبکه vgg19 از لحاظ همه سنجه های ارزیابی عملکرد بهتری را داشته است. از آن جایی که شبکه از پیش آموزش داده شده vgg19 بر مبنای یادگیری انتقالی عمل میکند دیگر نیازی به فرآیندهای زمان بر وخسته کنندهای مانند استخراج ویژگی و انتخاب ویژگیها نمیباشد. اگرچه رویکرد یادگیری انتقالی نیاز به ایجاد معماریهای پیچیده شبکه، زمان آموزش زیاد و مجموعه دادههای بزرگ برای آموزش دارند، اما همهی این موارد فقط یک بار اتفاق میافتد و زمانی که شبکه آموزش داده شد، دیگر نیازی به اجرای مجدد این فرآیندهای خسته کننده نیست. از طرفی رویکرد یادگیری ماشین نیز دارای محدویت هایی از قبیل استخراج ویژگیها به صورت دستی، انتخاب ویژگیها به صورت تجربی، اجرای مکرر آزمایشها به صورت سعی و خطا تا رسیدن به بهترین صحت در نتایج و استفاده از افرادخبره برای برچسب زنی کلاس واقعی دادهها می باشد، تمام سعی و تلاش محققین در فایق آمدن براین محدویتها با به کار بردن تکنیکهای جدید است. با این حال صحت بدست آمده در این پژوهش با پژوهش های قبلی قابل مقایسه است که میتوان به مواردی از جمله : طبقهبندی میوه پاپایا بر مبنای میزان رسیدگیآن با صحت 7/94 درصد (Pereira et al ., 2018)، طبقهبندی میزان رسیدگی میوه گوجه فرنگی با استفاده از ماشین بردارپشتیبان با صحت 90 درصد .(El-Bendary et al., 2015) طبقهبندی سه مرحله رسیدگی میوه خرما با استفاده از تکنیک پردازش تصویر و الگوریتم یادگیری عمیق با صحت 97 درصد Nasiri et al.,2019) و طبقهبندی چهار مرحله رسیدگی میوه موز با استفاده از الگوریتم یادگیری عمیق با صحت 4/96 (Saranya et al., 2021) اشاره کرد. بر اساس نتایج بدست آمده میتوان عنوان کرد که طبقه بندی میوه پاپایا بر اساس میزان رسیدگی آن با استفاده از الگوریتمهای پیشنهادی میتواند جایگزینی مناسب برای روشهای سنتی طبقهبندی این میوه باشد، همچنین به منظور کاهش ضایعات محصولات کشاورزی و افزایش کیفیت درجهبندی محصولات می توان از الگوریتم پیشنهادی در بعد صنعتی نیز استفاده کرد.
REFRENCES
Aggarwal, C.C., 2018. Neural networks and deep learning. Springer, 10(978), p.3.
Al Ohali, Y., 2011. Computer vision based date fruit grading system: Design and implementation. Journal of King Saud University-Computer and Information Sciences, 23(1), pp.29-36.
Asad, M.H. and Bais, A., 2020. Weed detection in canola fields using maximum likelihood classification and deep convolutional neural network. Information Processing in Agriculture, 7(4), pp.535-545.
Azadnia, R., Kheiralipour, K. and Jafarian, M., 2022. Classification of hawthorn fruit based on ripeness level by machine vision. Innovative Food Technologies, 9(4), pp.331-344.
Baigvand, M., Banakar, A., Minaei, S., Khodaei, J. and Behroozi-Khazaei, N., 2015. Machine vision system for grading of dried figs. Computers and Electronics in Agriculture, 119, pp.158-165.
Behera, S.K., Rath, A.K. and Sethy, P.K., 2021. Maturity status classification of papaya fruits based on machine learning and transfer learning approach. Information Processing in Agriculture, 8(2), pp.244-250.
Challenge, I.L.S.V.R., 2012. Available online: http://www. image-net. org/challenges. LSVRC/2012/(Last visited on 9 Dec. 2020).
Dalal, N. and Triggs, B., 2005, June. Histograms of oriented gradients for human detection. In 2005 IEEE computer society conference on computer vision and pattern recognition (CVPR'05) (Vol. 1, pp. 886-893). Ieee.
Damez, J.L. and Clerjon, S., 2008. Meat quality assessment using biophysical methods related to meat structure. Meat science, 80(1), pp.132-149.
Devi, P.L. and Varadarajan, S., 2013. Defect fruit image analysis using advanced bacterial foraging optimizing algorithm. IOSR J Comput Eng, 14(1), pp.22-6..
Dubey, S.R. and Jalal, A.S., 2015. Application of image processing in fruit and vegetable analysis: a review. Journal of Intelligent Systems, 24(4), pp.405-424.
El-Bendary, N., El Hariri, E., Hassanien, A.E. and Badr, A., 2015. Using machine learning techniques for evaluating tomato ripeness. Expert Systems with Applications, 42(4), pp.1892-1905.
El-Gendy, M. 2020. Deeplearning for vision system. (1th ed). Translated by Ayub Turkian.Tehran. Niaze- Danesh Publications. (In Farsi)
Farokhzad, S., Modaress Motlagh, A., Ahmadi Moghadam, P., Jalali Honarmand, S. and Kheiralipour, K., 2020. Application of infrared thermal imaging technique and discriminant analysis methods for non-destructive identification of fungal infection of potato tubers. Journal of Food Measurement and Characterization, 14, pp.88-94.
Gongal, A., Karkee, M. and Amatya, S., 2018. Apple fruit size estimation using a 3D machine vision system. Information Processing in Agriculture, 5(4), pp.498-503.
Guo, X., Zhao, X., Liu, Y. and Li, D., 2019. Underwater sea cucumber identification via deep residual networks. Information Processing in Agriculture, 6(3), pp.307-315.
Haralick, R.M., Shanmugam, K. and Dinstein, I.H., 1973. Textural features for image classification. IEEE Transactions on systems, man, and cybernetics, (6), pp.610-621.
Huang, T., Yang, R., Huang, W., Huang, Y. and Qiao, X., 2018. Detecting sugarcane borer diseases using support vector machine. Information processing in agriculture, 5(1), pp.74-82.
Jadhav, R.S. and Patil, S.S., 2013. A fruit quality management system based on image processing. IOSR Journal of Electronics and Communication Engineering (IOSR-JECE), 8(6), pp.01-05.
Ji, M., Zhang, L. and Wu, Q., 2020. Automatic grape leaf diseases identification via UnitedModel based on multiple convolutional neural networks. Information Processing in Agriculture, 7(3), pp.418-426.
Kaur, H., Sawhney, B.K. and Jawandha, S.K., 2018. Evaluation of plum fruit maturity by image processing techniques. Journal of Food Science and Technology, 55, pp.3008-3015.
Kavdır, I. and Guyer, D.E., 2004. Comparison of artificial neural networks and statistical classifiers in apple sorting using textural features. Biosystems engineering, 89(3), pp.331-344.
Kheiralipour, K., Ahmadi, H., Rajab pour, A. & Rafiee, S. 2018. Thermal Imaging, Principles, Methods and Applications. Ilam Uni Pub. Ilam, Iran. (In Farsi).
Kheiralipour, K. and Kazemi, A., 2020. A new method to determine morphological properties of fruits and vegetables by image processing technique and nonlinear multivariate modeling. International Journal of Food Properties, 23(1), pp.368-374.
Khodaei, J., BehrooziKhazaei, N.& HosseinzadehRendi, A. 2018 . Classification of Strawberry Based on Maturity Rate and Size Using Machine Vision. Biosystem Engineering of Iran,50(1),145-154 (In Farsi).
Leekul, P., Chivapreecha, S., Phongcharoenpanich, C. and Krairiksh, M., 2016. Rician k-factors-based sensor for fruit classification by maturity stage. IEEE Sensors Journal, 16(17), pp.6559-6565.
Liu, C., Liu, W., Lu, X., Ma, F., Chen, W., Yang, J. and Zheng, L., 2014. Application of multispectral imaging to determine quality attributes and ripeness stage in strawberry fruit. PloS one, 9(2), p.e87818.
Magwaza, L.S. and Opara, U.L., 2015. Analytical methods for determination of sugars and sweetness of horticultural products—A review. Scientia Horticulturae, 184, pp.179-192.
Marimuthu, S. and Roomi, S.M.M., 2017. Particle swarm optimized fuzzy model for the classification of banana ripeness. IEEE Sensors Journal, 17(15), pp.4903-4915.
Medina JD, Gutie´rrez GV, Garcı´a HS. Pawpaw. (2014). Post-harvest operation. Compendium on Post-harvest Operations. Link: <http://www.fao.org/fileadmin/user_upload/inpho/docs/ Post_Harvest_Compendium_-_Pawpaw__Papaya_.pdf>.
Mohammadi, V., Kheiralipour, K. and Ghasemi-Varnamkhasti, M., 2015. Detecting maturity of persimmon fruit based on image processing technique. Scientia Horticulturae, 184, pp.123-128.
Nandi, C.S., Tudu, B. and Koley, C., 2014. A machine vision-based maturity prediction system for sorting of harvested mangoes. IEEE Transactions on Instrumentation and measurement, 63(7), pp.1722-1730.
Nasiri, A., Taheri-Garavand, A. and Zhang, Y.D., 2019. Image-based deep learning automated sorting of date fruit. Postharvest biology and technology, 153, pp.133-141.
Ojala, T., Pietikainen, M. and Maenpaa, T., 2002. Multiresolution gray-scale and rotation invariant texture classification with local binary patterns. IEEE Transactions on pattern analysis and machine intelligence, 24(7), pp.971-987.
Omid, M., Khojastehnazhand, M. and Tabatabaeefar, A., 2010. Estimating volume and mass of citrus fruits by image processing technique. Journal of food Engineering, 100(2), pp.315-321.
Patel, K.K., Kar, A., Jha, S.N. and Khan, M.A., 2012. Machine vision system: a tool for quality inspection of food and agricultural products. Journal of food science and technology, 49, pp.123-141.
Pereira, L.F.S., Barbon Jr, S., Valous, N.A. and Barbin, D.F., 2018. Predicting the ripening of papaya fruit with digital imaging and random forests. Computers and Electronics in Agriculture, 145, pp.76-82.
Rocha, A., Hauagge, D.C., Wainer, J. and Goldenstein, S., 2010. Automatic fruit and vegetable classification from images. Computers and Electronics in Agriculture, 70(1), pp.96-104.
Saranya, N., Srinivasan, K. and Kumar, S.P., 2022. Banana ripeness stage identification: a deep learning approach. Journal of Ambient Intelligence and Humanized Computing, 13(8), pp.4033-4039.
Savakar, D.G. and Anami, B.S., 2015. Grading of bulk food grains and fruits using computer vision. Journal of Agricultural Engineering and Biotechnology, 3(1), p.1.
Sharma, P., Berwal, Y.P.S. and Ghai, W., 2020. Performance analysis of deep learning CNN models for disease detection in plants using image segmentation. Information Processing in Agriculture, 7(4), pp.566-574.
Surya Prabha, D. and Satheesh Kumar, J., 2015. Assessment of banana fruit maturity by image processing technique. Journal of food science and technology, 52, pp.1316-1327.
Wang, A., Zhang, W. and Wei, X., 2019. A review on weed detection using ground-based machine vision and image processing techniques. Computers and electronics in agriculture, 158, pp.226-240.
Zhang, Y. and Wu, L., 2012. Classification of fruits using computer vision and a multiclass support vector machine. sensors, 12(9), pp.12489-12505.
Zhang, Y., Wang, S., Ji, G. and Phillips, P., 2014. Fruit classification using computer vision and feedforward neural network. Journal of Food Engineering, 143, pp.167-177. DataMendly <http\\www.Data.Mendly.com> Sbaj.ir <http\\www.Sbaj.ir>
Classification of Papaya fruit Based on Maturity, Using Machine Learning and Transfer Learning Approach
Mohammad Ghorbani1, Mostafa Ghazizadeh Ehsaei2* and| Kazem Jafari naeimi3
1 Biosystems Engineering Dept., Faculty of Agriculture, Shahid Bahonar University of Kerman, Kerman, Iran.
2 Assistant Professor,computer Engineering Department, Faculty of Engineering, Shahid Bahonar University of Kerman, kerman, Iran
3 Biosystems Engineering Dept., Faculty of Agriculture, Shahid Bahonar University of Kerman, Kerman, Iran.
* Corresponding Author’s Email: mghazizadeh@uk.ac.ir
(Received: December. 25, 2023 – Accepted: March. 19, 2024)
ABSTRACT
Grading and packing fruits based on visual inspections can be time-consuming, destructive, and unreliable. The objective of the conducted research is to provide an intelligent, fast and reliable classification method to detect the maturity of papaya fruit in three levels: immature, partially mature and mature. The total number of images used in this article is 300 images, 100 images have been collected for each level. In this paper, the use of two approaches, machine learning and transfer learning, is proposed to classify papaya fruit maturity status. The machine learning approach includes the use of three feature descriptors and three different classifiers, which are: local binary pattern (LBP), Gray Level Cooccurrence Matrix (GLCM), histogram of oriented gradients (HOG), k-nearest neighbor (KNN) classification algorithm, support vector machine (SVM) and Naïve Bayes classification algorithm. Transfer learning methods include the use of six pre-trained deep learning models Alex net, Google net, Resnet101, Resnet50, Resnet18, VGG19. KNN classifier using HOG feature descriptor has achieved 95.4% accuracy and 3:52 seconds training time. The classifier based on transfer learning approach VGG19 was able to record better performance among other deep learning networks by obtaining 100% accuracy and training time of 10:42 seconds. Two classification methods using machine learning and transfer learning methods have been able to obtain accuracy of 95.4% and 100%, respectively, which are 0.7% and 6% more than the existing proposed methods.
Keywords: Feature descriptors, Grading, Machine learning, Maturity, Transfer learning