- عنوان کتاب: Introduction to Transfer Learning
- نویسنده: Jindong Wang
- حوزه: موفقیت
- سال انتشار: 2022
- تعداد صفحه: 333
- زبان اصلی: انگلیسی
- نوع فایل: pdf
- حجم فایل: 12.3 مگابایت
یادگیری ماشینی، به عنوان یکی از شاخه های مهم هوش مصنوعی، به طور فزاینده ای محبوب می شود. یادگیری ماشینی امکان یادگیری از داده ها و تجربیات آموزشی عظیم و سپس اعمال مدل را در مسائل جدید فراهم می کند. یادگیری انتقالی یک پارادایم مهم یادگیری ماشینی است که به مطالعه نحوه بکارگیری دانش، مدل ها و پارامترهای موجود در مسائل جدید می پردازد.
در سالهای اخیر الگوریتمها، نظریهها و مدلهای یادگیری انتقالی بهطور گسترده مورد مطالعه قرار گرفتهاند. با توجه به هزاران ادبیات، برای یک محقق اولیه به طرز ناامیدکننده ای چالش برانگیز است که قدم اول را بردارد و سپس در این زمینه تفاوت ایجاد کند. نیاز روزافزونی به کتابی وجود دارد که بتواند به تدریج جوهر کار موجود را به شیوه ای فراگیرنده معرفی کند.
در آوریل 2018، ما اولین نسخه این کتاب را در Github به صورت متن باز تهیه کردیم و آن را آموزش یادگیری انتقال نامیدیم. همراه با آموزش، ما همچنین محبوبترین مخزن یادگیری انتقالی Github را که شامل آموزشها، کدها، مجموعه دادهها، مقالات، برنامهها و بسیاری از مواد دیگر است، منبع باز قرار دادیم. اولین هدف ما این است که به خوانندگان اجازه دهیم به راحتی در این زمینه هماهنگ شوند و آن را به سرعت یاد بگیرند. این آموزش منبع باز مورد استقبال خوانندگان قرار گرفت و مخزن Github بیش از 8.8 هزار ستاره دریافت کرد. تقریباً همه چیز مربوط به آموزش انتقالی را میتوانید در https://github.com/jindongwang/transferlearning بیابید.
در ماه مه 2021، آن را بازنویسی کردیم و مطالب جدید زیادی اضافه کردیم که سپس به عنوان یک کتاب درسی چینی منتشر شد. این کتاب درسی مبتنی بر تجربه تدریس یک کلاس محاسباتی فراگیر در دانشگاه آکادمی علوم چین است، که از طریق آن ما به درک زیادی در مورد چگونگی تهیه بهتر کتابی دست یافته ایم که می تواند برای همه، به ویژه دانش آموزان جدید، مفید باشد.
اکنون قدمی فراتر برداشته ایم تا این نسخه انگلیسی را با محتوای جدید و سازماندهی مجدد بنویسیم تا به زبان آموزان جدیدی که از انگلیسی به عنوان زبان مادری خود استفاده می کنند کمک کنیم. در این کتاب هدف اصلی ما معرفی یک الگوریتم خاص یا چند مقاله نیست، بلکه معرفی مفهوم بسیار اساسی یادگیری انتقالی، مشکلات آن، روشهای کلی، توسعهها و کاربردها از سطحی به عمیق است. ما توجه زیادی کردیم تا اطمینان حاصل کنیم که از دیدگاه یک یادگیرنده جدید شروع می شود به طوری که تنظیم کردن آن، گام به گام بسیار آسان تر خواهد بود. بعلاوه، این یک کتاب درسی است، نه یک نظرسنجی یا یک بحث طولانی که باید تمام ادبیات را در آن داشته باشد. امیدواریم این کتاب درسی به خوانندگان علاقه مند کمک کند تا به سرعت این حوزه را بیاموزند و مهمتر از آن، از آن در تحقیقات یا برنامه های کاربردی خود استفاده کنند. در نهایت امیدواریم این کتاب بتواند دوستی باشد که تجربه ای را در اختیار خوانندگان قرار دهد تا موفقیت شما را تسریع بخشد.
در سال 2020، انتشارات دانشگاه کمبریج اولین کتاب یادگیری انتقالی توسط گروه Qiang Yang را منتشر کرد که یک مرور کلی از این حوزه ارائه میکند. در مقایسه با آن کتاب، کار ما معرفی دقیقتری از آخرین پیشرفتها با توضیحات سبک آموزشی، تمرین کدها و مجموعه دادهها ارائه میکند که یادگیری آسان و روان را برای خوانندگان امکانپذیر میسازد.
این کتاب از سه بخش مبانی، آموزش انتقالی مدرن و کاربردهای یادگیری انتقالی تشکیل شده است.
بخش اول مبانی است که از بخشها تشکیل شده است. 1-7. فصل 1 مقدمه ای است که مفاهیم اساسی یادگیری انتقالی، حوزه های تحقیقاتی مرتبط، مشکلات، کاربردها و ضرورت آن را مرور می کند. فصل 2 از یادگیری ماشینی عمومی به انتقال یادگیری می گذرد. سپس مشکلات اساسی در یادگیری انتقالی را معرفی می کند. در فصل 3، ما ایده سطح بالا اکثر الگوریتم های یادگیری انتقال را یکسان می کنیم. این فصل را باید شروع بقیه فصل ها دانست. فصل 4-6 دو دسته از روش ها را ارائه می دهد: روش های وزن دهی نمونه در فصل. 4 و روش های تبدیل ویژگی های آماری و هندسی در فصل. 5 و 6. سپس، فصل. 7 تئوری، ارزیابی مدل و تکنیک انتخاب مدل را برای یادگیری انتقالی ارائه می کند.
بخش دوم، آموزش انتقالی مدرن است که از فصل ها تشکیل شده است. 8-14. فصل 8 سومین دسته عمده از روشهای یادگیری انتقالی را معرفی میکند: پیشآموزش و تنظیم دقیق، که به روشهای مبتنی بر مدل تعلق دارد. فصلهای 9 و 10 روشهای یادگیری عمیق و انتقالی متخاصم هستند که به سه نوع روش پایه قبلی نیز تعلق دارند، اما با الگوریتمهای بیشتری به ویژه در یادگیری عمیق. فصل 11 مشکلات تعمیم در یادگیری انتقالی را معرفی می کند. سپس، فصل. 12 مسائل ایمنی و حفظ حریم خصوصی در یادگیری انتقالی را مورد بحث قرار می دهد. فصل 13 نحوه برخورد با محیط های پیچیده برای یادگیری انتقالی را معرفی می کند. سپس، فصل. 14 زمانی که داده های برچسب گذاری شده بسیار نادر یا حتی در دسترس نیستند، یادگیری با منابع کم را معرفی می کند. به طور خاص، ما یادگیری نیمه نظارتی، فرا یادگیری و یادگیری خود نظارتی را معرفی می کنیم.
بخش سوم کاربردهای یادگیری انتقالی است که از فصل ها تشکیل شده است. 15-19. این فصلها تمرین کد نحوه اعمال یادگیری انتقالی را در برنامههای کاربردی شامل موارد زیر ارائه میکنند: بینایی رایانه (فصل 15)، پردازش زبان طبیعی (فصل 16)، تشخیص گفتار (فصل 17)، تشخیص فعالیت (فصل. 18) و مراقبت های بهداشتی پزشکی فدرال (فصل 19). ما به خوانندگان نشان میدهیم که چگونه یادگیری انتقالی در برنامههای مختلف برای رسیدگی به چالشهای مختلف آنها اتخاذ میشود. فصل 20 آخرین فصل این کتاب است و چندین مرز را ارائه می کند.
Machine learning, as an important branch of artificial intelligence, is becoming increasingly popular. Machine learning makes it possible to learn from massive training data and experience and then apply the model to new problems. Transfer learning is an important machine learning paradigm that studies how to apply existing knowledge, models, and parameters to new problems.
In recent years, algorithms, theories, and models for transfer learning have been extensively studied. Given tons of literature, it is frustratingly challenging for a preliminary researcher to take a first step and then make a difference to this area. There is a growing need for a book that can gradually introduce the essence of existing work in a learner-friendly manner.
In April 2018, we open-sourced the first version of this book on Github and called it Transfer Learning Tutorial. Accompanying the tutorial, we also open-sourced the most popular transfer learning Github repository, which contains tutorials, codes, datasets, papers, applications, and many other materials. Our very first purpose is to let readers easily tune in this area and learn it quickly. The open-source tutorial gained much appreciation by readers and the Github repo received over 8.8K stars. You can find almost everything related to transfer learning at https://github.com/jindongwang/transferlearning.
In May 2021, we rewrote it and added many new contents, which were then published as a Chinese textbook. This textbook is based on the experience of teaching a ubiquitous computing class at the University of Chinese Academy of Sciences, through which we have gained much understanding of how to better prepare a book that can benefit everyone, especially new learners.
Now we take a step further to write this English version with many new contents and reorganizations to help new learners who use English as their native language. In this book, our main purpose is not to introduce a particular algorithm or some papers but to introduce the very basic concept of transfer learning, its problems, general methods, extensions, and applications, from shallow to deep. We paid a great deal of attention to ensure that it starts from a new learner’s perspective such that it will be much easier to tune in, step by step. Additionally, this is a textbook, not a survey or some long talk that must contain all literature in it. We hope that this textbook will help interested readers quickly learn this area and, more importantly, use it in your own research or applications. Finally, we hope this book can be a friend who provides experience to readers to accelerate your success.
In 2020, Cambridge University Press published the first transfer learning book by Qiang Yang’s group, which gives a comprehensive overview of this area. Compared to that book, our work provides a more detailed introduction of the latest progress with tutorial-style description, practicing codes, and datasets, which enable easy and fluent learning for readers.
This book consists of three parts: Foundations, Modern Transfer Learning, and Applications of Transfer Learning.
Part I is Foundations, composed of Chaps. 1–7. Chapter 1 is introduction that overviews the basic concepts of transfer learning, related research areas, problems, applications, and its necessity. Chapter 2 transits from general machine learning to transfer learning. Then, it introduces the fundamental problems in transfer learning. In Chap. 3, we unify the high-level idea of most transfer learning algorithms. This chapter should be seen as the start of the rest of the chapters. Chapters 4–6 present two categories of methods: instance weighting methods in Chap. 4 and statistical and geometrical feature transformation methods in Chaps. 5 and 6. Then, Chap. 7 presents the theory, model evaluation, and model selection technique for transfer learning.
Part II is Modern Transfer Learning, which is composed of Chaps. 8–14. Chapter 8 introduces the third major category of transfer learning methods: pre-training and fine-tuning, which belongs to model-based methods. Chapters 9 and 10 are deep and adversarial transfer learning methods, which also belong to the former three basic types of methods, but with more algorithms especially in deep learning. Chapter 11 introduces the generalization problems in transfer learning. Then, Chap. 12 discusses the safety and privacy issues in transfer learning. Chapter 13 introduces how to deal with complex environments for transfer learning. Then, Chap. 14 introduces low-resource learning when the labeled data are extremely rare or even not accessible. Specifically, we introduce semi-supervised learning, meta-learning, and self-supervised learning.
Part III is Applications of Transfer Learning, which consists of Chaps. 15–19. These chapters present the code practice of how to apply transfer learning to applications including the following: computer vision (Chap. 15), natural lan-guage processing (Chap. 16), speech recognition (Chap. 17), activity recognition (Chap. 18), and federated medical healthcare (Chap. 19). We show readers how transfer learning is adopted in different applications to address their different chal-lenges. Chapter 20 is the last chapter of this book, and it presents several frontiers.
Additionally, we provide some useful materials in the appendix.
این کتاب را میتوانید از لینک زیر بصورت رایگان دانلود کنید:
Download: Introduction to Transfer Learning
نظرات کاربران