Введение в MindFormers

Цель пакета MindSpore Transformers — создание комплексного набора инструментов для обучения, настройки, оценки, инференса и развертывания больших моделей. Пакет предоставляет ведущие модели предобучения на основе архитектуры Transformer и передовые приложения для задач низкого уровня, включая широкий спектр параллельных возможностей. Цель состоит в том, чтобы помочь пользователям легко обучать большие модели и проводить инновационные исследования.

Пакет MindSpore Transformers основан на встроенных параллельных технологиях и модульном дизайне MindSpore и обладает следующими характеристиками:- Одними командами можно легко переключаться от однопроцессорного обучения до обучения на крупных кластерах;

• Предоставляет гибкие и удобные для использования индивидуальные настройки параллелизма;
• Автоматически оптимизирует топологию, эффективно объединяя параллельное обучение данных и моделей;
• Одним нажатием можно запускать процессы обучения, настройки, оценки и инференса для любых задач на одном или нескольких процессорах;
• Поддерживает модульную настройку любых модулей пользователями, таких как оптимизаторы, стратегии обучения, сборку сетей и т.д.;
• Предоставляет продвинутые и удобные для использования интерфейсы, такие как Trainer, pipeline, AutoClass;
• Предоставляет функцию автоматической загрузки и применения предустановленных SOTA весов;
• Поддерживает бесшовное развертывание на центрах искусственного интеллекта.## Описание процесса подачи заявок
  Ссылка для регистрации на открытую стажировку: https://www.mindspore.cn/internship;

Список задач

Примечание: Задачи 1 и 2 должны быть заявлены вместе, общая сумма баллов составляет 80 (разработка и оптимизация производительности).