Darkon: инструментарий для понимания ваших моделей глубокого обучения

Darkon — это открытый инструментарий, который помогает лучше понять модели глубокого обучения. Глубокое обучение часто называют «чёрным ящиком», который трудно понять.

Однако в некоторых случаях ответственность и контролируемость могут иметь решающее значение для коммерциализации моделей глубокого обучения. Люди часто думают, что высокая точность на подготовленном наборе данных достаточна для использования модели в коммерческих продуктах. Однако хорошо работающие модели на подготовленных наборах данных часто терпят неудачу при реальном использовании и требуют исправления угловых случаев. Более того, в некоторых приложениях, таких как медицинская диагностика, финансовые решения и т. д., необходимо объяснять результаты, чтобы доверять системе. Мы надеемся, что Darkon поможет вам понять обученные модели, которые можно использовать для устранения сбоев, интерпретации решений и так далее.

Здесь мы предоставляем функции для анализа решений моделей глубокого обучения, легко применимые к любым моделям Tensorflow (другие модели будут поддерживаться позже).

Оценка влияния может быть полезна для понимания модели через обучающие выборки. Оценку можно использовать для фильтрации плохих обучающих выборок, которые негативно влияют на производительность теста. Полезно расставить приоритеты потенциальных неправильно помеченных примеров, требующих исправления, и отладить несоответствие распределения между обучающими и тестовыми выборками.

В этой версии мы добавили Grad-CAM и Guided Grad-CAM, которые полезны для понимания решений моделей CNN.

Мы постепенно будем внедрять технологии, позволяющие легко анализировать модели глубокого обучения в существующих проектах. Скоро будет выпущено больше функций. Обратная связь и запросы функций всегда приветствуются, они помогают нам расставлять приоритеты. Пожалуйста, следите за Darkon.

Демо

Демо-страница

Зависимости

— Tensorflow >= 1.3.0

Установка

Установите Darkon отдельно

pip install darkon

Установите с TensorFlow CPU

pip install darkon[tensorflow]

Установите с TensorFlow GPU

pip install darkon[tensorflow-gpu]

Примеры

— Примеры

Документация API

— Документация

Общение

— Проблемы: сообщайте о проблемах, ошибках и запрашивайте новые функции. — Запросы на вытягивание — Обсудите: Gitter — Электронная почта: contact@darkon.io

Авторы

Neosapience, Inc.

Лицензия

Apache License 2.0

Ссылки

[1] Кук Р. Д., Вейсберг С. «Остатки и влияние в регрессии», Нью-Йорк: Chapman and Hall, 1982

[2] Кох П. В., Лян П. «Понимание предсказаний чёрного ящика с помощью функций влияния» ICML2017

[3] Перлмуттер Б. А. «Быстрое точное умножение на обратное значение матрицы» STOC1994 [1] Нессиан (Hessian) // Neural Computation, 1994.

[2] Агравал Н., Буллинс Б., Хазан Э. «Стохастическая оптимизация второго порядка за линейное время» // препринт arXiv arXiv:1602.03943 от 2016 г.

[3] Рампрасаат Р. Селвараджу, Майкл Когсвелл, Абхишек Дас, Рамакришна Ведантам, Деви Парих, Дхрув Батра «Градиентные CAM: визуальные объяснения из глубоких сетей через локализацию на основе градиента» // ICCV2017.