- عنوان کتاب: Explainable Deep Learning AI
- نویسنده: JENNY BENOIS-PINEAU
- حوزه: یادگیری عمیق
- سال انتشار: 2023
- تعداد صفحه: 348
- زبان اصلی: انگلیسی
- نوع فایل: pdf
- حجم فایل: 18.3 مگابایت
تکنیکهای هوش مصنوعی (AI)، بهویژه آنهایی که مبتنی بر یادگیری عمیق (DL) هستند، در بسیاری از وظایف بسیار مؤثر بودهاند و گاهی حتی بهتر از متخصصان انسانی عمل میکنند. با این حال، آنها تعدادی مشکلات نیز دارند: آنها معمولاً به روشهای عمدتاً مبهم و/یا غیرقابل حل عمل میکنند، عملکرد بسیار خوب آنها فقط آماری است و حتی در موارد ظاهراً واضح نیز میتوانند شکست بخورند، میتوانند تصمیمات مغرضانه بگیرند و میتوانند کاملاً عمل کنند. به راحتی از طریق حملات خصمانه دستکاری می شود، به ذکر چند. این محدودیتها از پذیرش آنها در برنامههای کاربردی با منافع اقتصادی یا اجتماعی، بهویژه برای کاربردهای حیاتی یا معقول مانند رانندگی مستقل، تشخیص پزشکی یا تأییدیههای وام جلوگیری میکند. با توجه به این موضوع، تحقیقات زیادی به منظور افزایش قابلیت اطمینان سیستمهای هوش مصنوعی مبتنی بر DL با ارائه توضیحات قابل درک توسط کاربران انسانی برای تصمیمگیریهای این سیستمها انجام شده است. هدف این کتاب ارائه مشارکتهای جدید و اصلی است که رویکردهای اصلی در حوزه DL قابل توضیح را پوشش میدهد، چه برای کاربران متخصص و چه برای کاربران عادی. دو نوع اصلی از رویکردها ارائه شده است: رویکردهای “تعقیب” یا “مدل آگنوستیک”، که در آن عملکرد یک سیستم “جعبه سیاه” از قبل موجود مدلسازی و توضیح داده میشود، و رویکردهای ذاتی، که در آن سیستمها بهطور خاص طراحی شدهاند. “جعبه های سفید” با حالت عملکرد قابل تفسیر. این کتاب دنبالهای از کارگاه بسیار موفق «آموزش عمیق توضیحپذیر-AI» است که ما در کنفرانس ICPR’2020 IAPR و IEEE برگزار کردهایم و یک تور بزرگ از تحقیقات مداوم در این زمینه را تشکیل دادهایم. مسئله توضیحپذیری در حوزههای رسانهای مختلف، از جمله تصاویر، متن، سریهای زمانی و دادههای جدولی مطرح میشود. مسئله دشوار و مهم ارزیابی روش های تبیین نیز در دو فصل به طور خاص مطرح شده است. در نهایت، چالشهای باز هم در فصل پایانی ذکر شدهاند.
Artificial Intelligence (AI) techniques, especially those based on Deep Learning (DL), have become extremely effective on a very large variety of tasks, sometimes performing even better than human experts. However, they also have a number of problems: they generally operate in mostly opaque and/or intractable ways, their very good performance is only statistical and they can fail even on apparently obvious cases, they can make biased decisions, and they can be quite easily manipulated through adversarial attacks, to cite a few. These limitations prevent their adoption in applications of great economic or societal interest, especially for critical or sensible applications like autonomous driving, medical diagnosis, or loan approvals. Considering this, a lot of research has been conducted in order to increase the trustworthiness of DL-based AI systems by providing explanations understandable by human users for the decisions made by these systems. The aim of this book is to present recent and original contributions covering the main approaches in the domain of explainable DL, either for expert or for layman users. Two main types of approaches are presented: the “post hoc” or “model agnostic” ones, in which the operation of an already available “black box” system is modeled and explained, and the intrinsic ones, in which systems are specifically designed as “white boxes” with an interpretable mode of operation. This book is a follow-up of a very successful Workshop “Explainable Deep Learning-AI” which we have organized at ICPR’2020 IAPR and IEEE conference making a large tour of ongoing research in the field. The question of the explainability is addressed in a variety of media domains, including images, text, temporal series, and tabular data. The difficult and important question of the evaluation of explanation methods is also specifically addressed in two chapters. Finally, still open challenges are mentioned in the concluding chapter.
این کتاب را میتوانید از لینک زیر بصورت رایگان دانلود کنید:
Download: Explainable Deep Learning AI
نظرات کاربران