Слияние кода завершено, страница обновится автоматически
Модуль противостояния атакам предназначен для оценки устойчивости модели к атакам с помощью атакующих примеров и предоставляет методы улучшения модели для повышения её способности противостоять атакам и улучшения её устойчивости. Этот модуль включает четыре подмодуля: генерацию атакующих примеров, обнаружение атакующих примеров, защиту модели и оценку.
Архитектура представлена следующим образом:
Модуль тестирования с использованием случайных данных (фазинг) представляет собой безопасность тестирования моделей искусственного интеллекта. Мы вводим показатель прироста покрытия нейронами как руководство для фазинга согласно характеристикам нейронных сетей. Фазинг направлен на генерацию образцов в направлении увеличения коэффициента покрытия нейронами, чтобы вход мог активировать больше нейронов и значения нейронов имели более широкий диапазон распределения, что позволяет полностью протестировать нейронные сети и исследовать различные типы выходных результатов модели и ошибочное поведение. Архитектура представлена ниже:
Модуль обучения дифференциальной приватности реализует оптимизатор с дифференциальной приватностью. В настоящее время поддерживаются SGD, Momentum и Adam. Эти оптимизаторы основаны на гауссовском механизме и обеспечивают дифференциальную приватность. Этот механизм поддерживает как независимую политику, так и адаптивную. Для мониторинга бюджета дифференциальной приватности используются Rényi дифференциальная приватность (RDP) и Zero-Concentrated дифференциальная приватность (ZCDP).
Архитектура представлена ниже:
Модуль оценки утечек конфиденциальности используется для оценки рисков раскрытия пользователями своей конфиденциальности моделью. Защита данных конфиденциальности глубинной модели оценивается методом проверки принадлежности образца к тренировочному набору данных.
Архитектура представлена ниже:
Из-за зависимости между MindArmour и MindSpore, пожалуйста, следуйте таблице ниже и установите соответствующую версию MindSpore с страницы загрузки MindSpore.
| Версия MindArmour | Ветка | Версия MindSpore |
|---|---|---|
| 2.0.0 | r2.0 | >=1.7.0 |
| 1.9.0 | r1.9 | >=1.7.0 |
| 1.8.0 | r1.8 | >=1.7.0 |
| 1.7.0 | r1.7 | r1.7 |
Скачайте исходный код с Gitee.
git clone https://gitee.com/mindspore/mindarmour.git
Скомпилируйте и установите в директории MindArmour.
cd mindarmour
python setup.py install
pip install https://ms-release.obs.cn-north-4.myhuaweicloud.com/{версия}/MindArmour/{архитектура}/mindarmour-{версия}-cp37-cp37m-linux_{архитектура}.whl --trusted-host ms-release.obs.cn-north-4.myhuaweicloud.com -i https://pypi.tuna.tsinghua.edu.cn/simple
```> - При наличии сети зависимые пакеты автоматически скачиваются во время установки .whl пакета. (Дополнительная информация о других зависимых пакетах см. в [setup.py](https://gitee.com/mindspore/mindarmour/blob/master/setup.py)). В противном случае вам потребуется установить зависимости вручную.
> - `{version}` указывает версию MindArmour. Например, при скачивании версии 1.0.1, `{version}` должна быть 1.0.1.
> - `{architecture}` указывает архитектуру системы. Например, если ваша система Linux использует архитектуру x86 64-битной, то `{architecture}` должна быть `x86_64`. Если же это архитектура ARM 64-битной, то она должна быть `aarch64`.### Проверка установки
Установка считается успешной, если после выполнения следующей команды нет сообщений об ошибках, таких как `No module named 'mindarmour'`:
```bash
python -c 'import mindarmour'
Инструкции по установке, руководства, API, см. нашу Пользовательскую документацию.
MindSpore Slack — задавайте вопросы и находите ответы.
Приветствуем вклады. Подробнее см. нашу Wiki вкладчиков.
Примечания к выпускам, см. нашу RELEASE.
Вы можете оставить комментарий после Вход в систему
Неприемлемый контент может быть отображен здесь и не будет показан на странице. Вы можете проверить и изменить его с помощью соответствующей функции редактирования.
Если вы подтверждаете, что содержание не содержит непристойной лексики/перенаправления на рекламу/насилия/вульгарной порнографии/нарушений/пиратства/ложного/незначительного или незаконного контента, связанного с национальными законами и предписаниями, вы можете нажать «Отправить» для подачи апелляции, и мы обработаем ее как можно скорее.
Комментарии ( 0 )