- عنوان کتاب: Evolutionary Deep Neural Architecture Search
- نویسنده: Yanan Sun
- حوزه: محاسبات
- سال انتشار: 2023
- تعداد صفحه: 335
- زبان اصلی: انگلیسی
- نوع فایل: pdf
- حجم فایل: 7.23 مگابایت
استفاده از روشهای محاسبات تکاملی (EC) برای ایجاد معماریهای بهینه یا تقریباً بهینه شبکه عصبی عمیق (DNN) به عنوان طراحی معماری عمیق عصبی تکاملی نامیده میشود. فرآیند طراحی معماری ها اغلب به عنوان یک مسئله بهینه سازی رسمیت می یابد، جایی که الگوریتم های EC به درستی برای مقابله با مشکل بهینه سازی ایجاد می شوند. DNN ها در سال های اخیر در بسیاری از کاربردهای عملی پیچیده موفقیت چشمگیری داشته اند. به خوبی شناخته شده است که عملکرد یک DNN تنها زمانی امیدوار کننده است که معماری مناسب باشد. از سوی دیگر، معماری معمولاً با دست ایجاد میشود و به مهارت بالایی نیاز دارد که در عمل به ندرت عرضه میشود. ایجاد یک معماری عمیق امیدوارکننده در عمل بدون این نوع مهارت دشوار است، که غالباً تخصص DNN و درک دامنه از مشکل است که باید حل شود. تکنیکهای یادگیری تقویتی، الگوریتمهای بهینهسازی مبتنی بر گرادیان، و روشهای EC سه روش رایج مورد استفاده برای ساخت معماریهای DNN در ادبیات هستند. این کتاب عمدتاً بر روی روشهای EC برای طراحی معماری عصبی عمیق تمرکز دارد. در این کتاب، ابتدا مبانی روشهای متداول EC را معرفی میکنیم، از جمله الگوریتم ژنتیک (GA) [1]، ParticleSwarmOptimization (PSO) [2]، تکامل متفاوت (DE) [3] و برنامهنویسی ژنتیک (GP) [ 4]. به دنبال آن، دو شکل مختلف از الگوریتمهای طراحی معماری عصبی عمیق تکاملی را مرور خواهیم کرد. آنها الگوریتم های طراحی برای DNN های بدون نظارت و الگوریتم های طراحی برای DNN های نظارت شده هستند. علاوه بر این، برخی از تلاشهای اخیر برای سرعت بخشیدن به اجرای چنین الگوریتمهایی را نیز مورد بحث قرار خواهیم داد. این الگوریتم ها اساساً بر اساس کار اخیر نویسندگان است که در مجلات و کنفرانس های بین المللی اختصاص داده شده به شبکه های عصبی و EC منتشر شده است. ما فکر می کنیم که با ارائه همه آنها در این کتاب، خوانندگان می توانند اطلاعات مرتبط را سریعتر و راحت تر جذب کنند.
The use of Evolutionary Computation (EC) methods to create optimal or nearly optimal Deep Neural Network (DNN)architectures is referred to as evolutionary deep neural architecture design. The design process of architectures is often formalized as an optimization problem, where EC algorithms are correctly created to tackle the optimization problem. DNNs have had remarkable success in many complicated practical applications in recent years. It is well known that the performance of a DNN is only promising when the architecture is appropriate. The architecture, on the other hand, is typically created by hand, needing a high level of skill that is in scarce supply in practice. A promising deep architecture is difficult to create in practice without this kind of skill, which is frequently DNN expertise and domain understanding of the problem to be solved. Reinforcement learning techniques, gradient-based optimization algorithms, and EC methods are the three commonmethods utilized to construct the architectures of DNNs in the literature. This book mainly focuses on the EC methods for deep neural architecture design. In this book, we will first introduce the fundamentals of commonly used EC methods, including Genetic Algorithm (GA) [1], ParticleSwarmOptimization (PSO) [2], Differential Evolution (DE) [3], and Genetic Programming (GP) [4]. Following that, we will go through two different forms of evolutionary deep neural architecture design algorithms. They are the design algorithms for unsupervised DNNs, and the design algorithms for supervised DNNs. In addition, we will also discuss some recent efforts to speed up the execution of such algorithms. These algorithms are primarily based on the authors recent work, which has been published in journals and international conferences devoted to EC and neural networks. We think that by presenting them all together in this book, readers will be able to absorb related information more quickly and conveniently.
این کتاب را میتوانید از لینک زیر بصورت رایگان دانلود کنید:
نظرات کاربران