Россия
Россия
Россия
Современные глубокие нейронные сети демонстрируют выдающиеся результаты в различных областях, от компьютерного зрения до обработки естественного языка. Однако их сложная внутренняя структура часто делает процесс принятия решений непрозрачным, что порождает проблему «черного ящика». Это является серьезным препятствием для внедрения таких систем в критически важные области, такие как медицина, автономное вождение и юриспруденция, где требуется не только высокая точность, но и понимание логики принятия решений, доверие и возможность аудита. В ответ на этот вызов активно развивается направление Explainable AI (XAI), целью которого является создание методов интерпретации и объяснения решений искусственного интеллекта. В данной статье представлен обзор и сравнительный анализ ключевых методов XAI, включая LIME, SHAP и Grad-CAM. Рассматриваются их теоретические основы, области применения и практическая значимость для обеспечения надежности и безопасности интеллектуальных систем.
Explainable AI, интерпретируемость, глубокое обучение, черный ящик, LIME, SHAP, Grad-CAM, компьютерное зрение, доверие к ИИ
1. Объединение глубокого обучения и объяснимого ИИ для неинвазивного прогнозирования мутаций EGFR и KRAS в NSCLC: новый радиогеномный подход / Ф. Шариати, В. Павлов, С. Федяшина, Н. Серебренников // V Международная конференция по нейронным сетям и нейротехнологиям (NeuroNT'2024) : Сборник докладов конференции, Санкт-Петербург, 20 июня 2024 года. – Санкт-Петербург: Федеральное государственное автономное образовательное учреждение высшего образования Санкт-Петербургский государственный электротехнический университет ЛЭТИ им. В.И. Ульянова (Ленина), 2024. – С. 41-44. – EDN RWFMZV.
2. Argumentative XAI: A Survey / K. Cyras, A. Rago, E. Albini [et al.] // IJCAI International Joint Conference on Artificial Intelligence : 30, Virtual, Online, 19–27 августа 2021 года. – Virtual, Online, 2021. – P. 4392-4399. – EDN RDGNIP. DOI: https://doi.org/10.24963/ijcai.2021/600
3. Caroprese, L. Argumentation approaches for explanaible AI in medical informatics / L. Caroprese, E. Vocaturo, E. Zumpano // Intelligent Systems with Applications. – 2022. – Vol. 16. – P. 200109. – DOIhttps://doi.org/10.1016/j.iswa.2022.200109. – EDN TQUGES.
