Перевод текста на русский язык:

**English** | 简体中文

Открытое китайское знание: извлечение схемы знаний в коробке — DeepKE-cnSchema

DeepKE — это открытый инструмент для извлечения и построения схем знаний, который поддерживает инструменты извлечения знаний с низкими ресурсами, длинными главами и мультимодальными данными. Он может реализовывать функции именования сущностей, извлечения отношений и извлечения атрибутов на основе PyTorch. Эта версия DeepKE-cnSchema представляет собой версию «из коробки», которая позволяет пользователям загружать модели для поддержки извлечения сущностей и отношений cnSchema.

Содержание руководства

Введение

DeepKE — это открытый инструмент для извлечения и построения схем знаний, который поддерживает инструменты извлечения знаний с низкими ресурсами, длинными главами и мультимодальными данными. Одновременно он предоставляет подробные документы, учебники Google Colab, онлайн-демонстрации и презентации.

Чтобы способствовать построению схем китайских знаний и облегчить их использование, DeepKE предоставляет предварительно обученную версию DeepKE-cnSchema, поддерживающую извлечение сущностей и извлечение отношений в режиме «из коробки». Она может извлекать 50 типов отношений и 28 типов сущностей. Среди них сущности включают общие типы, такие как люди, места, города и организации, а отношения включают распространённые типы, такие как происхождение, место рождения, национальность и династия.

Загрузка китайской модели

Для задач извлечения сущностей и извлечения отношений предоставляются модели, основанные на RoBERTa-wwm-ext, Chinese и BERT-wwm, Chinese.

Для пользователей из Китая рекомендуется использовать для скачивания папку на Baidu, для зарубежных пользователей — Google.

В модели извлечения сущностей, на примере версии Pytorch DeepKE (RE), RoBERTa-wwm-ext, Chinese, после завершения загрузки получается файл модели:

checkpoints_robert
    |- added_tokens.json          # 额外增加词表
    |- config.json                # 整体参数
    |- eval_results.txt           # 验证结果
    |- model_config.json          # 模型参数
    |- pytorch_model.bin          # 模型
    |- special_tokens_map.json    # 特殊词表映射
    |- tokenizer_config.bin       # 分词器参数
    |- vocab.txt                  # 词表

Файлы config.json и vocab.txt совпадают с оригинальной версией Google RoBERTa-wwm-ext, Chinese. Версия Pytorch содержит файлы pytorch_model.bin, config.json, vocab.txt.

В модели извлечения отношений, на примере Pytorch версии DeepKE (RE), RoBERTa-wwm-ext, Chinese, после загрузки получается pth-файл.

После загрузки модели пользователь может напрямую загрузить модель для извлечения сущностей.

Данные и результаты китайской базовой системы

Данные

Мы провели эксперименты на китайском наборе данных по извлечению сущностей и отношений. Результаты экспериментов следующие.

Извлечение сущностей (NER)

DeepKE использует chinese-bert-wwm и chinese-roberta-wwm-ext в качестве основы для обучения и получает модель DeepKE-cnSchema (NER). Все используемые гиперпараметры являются предопределёнными параметрами. Окончательные результаты после обучения представлены в таблице ниже.

Извлечение отношений (RE)

DeepKE использует chinese-bert-wwm и chinese-roberta-wwm-ext в качестве основы и получает модель DeepKE-cnschema (RE). Все используемые гиперпараметры являются предопределёнными. Окончательные результаты после тренировки представлены в таблице ниже.

Поддержка типов схем знаний

DeepKE-cnSchema — это специальная версия, предназначенная для поддержки построения китайских схем знаний. CnSchema ориентирована на обработку китайского языка, использование передовых технологий схем знаний, обработки естественного языка и машинного обучения, объединение структурированных и текстовых данных, поддержку быстрого моделирования предметной области, поддержку междоменных и межъязыковых автоматических процессов обработки открытых данных для интеллектуальных роботов, семантического поиска и интеллектуальных вычислений. В настоящее время DeepKE-cnSchema поддерживает следующие типы схем:

Типы сущностей

Типы отношений

instance['tail_type'] = tail_type.strip()

return instance

«Мужчина» и «жизнь» в предложении связаны как «альбом», достоверность — 0,99.

Объединение тройных элементов (https://github.com/zjunlp/DeepKE/tree/main/example/triple)

Пользователь может сначала загрузить модель на свой компьютер, а затем использовать код из папки example/triple для извлечения тройных элементов. Если в одном предложении более двух сущностей, то в некоторых парах сущностей могут быть неточные прогнозы, потому что эти пары не были включены в обучающий набор данных. В этом случае необходимо провести дополнительную оценку. Вот как это сделать:

1. Измените файл conf/predict.yaml: текст — на текст, который вы хотите предсказать, nerfp — на адрес папки с моделью NER, refp — на адрес репозитория модели RE.

2. Проведите предсказание.

   python predict.py

В процессе работы программа будет выводить промежуточные результаты на примере текста «Кроме того, на платформе NetEase Music также есть ряд песен, включая "Little Lucky" от Tian Jue».

2.1 Вывод после обработки моделью NER: ('田', 'B-YAS'), ('甄', 'I-YAS'), ('小', 'B-QEE'), ('幸', 'I-QEE'), ('运', 'I-QEE').

2.2 Вывод после обработки: { '田馥甄': 'человек', '小幸运': 'песня' }.

2.3 Вывод после обработки моделью RE: "田馥甄" и "小幸运" в предложении связаны как "исполнитель", достоверность — 0,92.

2.4 Вывод в формате JSONLD: bash { "@context": { "исполнитель": "https://cnschema.openkg.cn/item/%E6%AD%8C%E6%89%8B/16693#viewPageContent" }, "@id": "田馥甄", "исполнитель": { "@id": "小幸运" } }

Пользовательская модель

Задача идентификации сущностей (NER)

Если вы хотите использовать собственные данные для обучения, выполните следующие шаги:

1. Загрузите пользовательский набор данных (https://drive.google.com/drive/folders/1zA8Ichx9nzU3GD92ptdyR_nmARB_7ovg), поместите его в папку с именем data.

2. Измените train.yaml в папке conf, чтобы указать модель BERT. Пользователи могут выбрать разные модели, изменив yaml-файл. Рекомендуется скачать модель и установить bert_model в качестве пути к модели.

3. Измените метки в train.yaml на те, которые используются в data/type.txt.

4. Запустите обучение.

   python run.py

Задача извлечения отношений (RE)

Если вам нужно обучить модель с использованием другой модели, выполните следующие действия:

1. Скачайте пользовательский набор данных (https://drive.google.com/drive/folders/1wb_QIZduKDwrHeri0s5byibsSQrrJTEv), переименуйте его в data.

2. Установите lm в файле train.yaml в папке conf на нужную предварительно обученную модель. В lm.yaml установите lm_file на путь к предварительно обученной модели. В embedding.yaml установите num_relations на количество отношений. Пользователи могут выбирать разные модели, изменяя yaml-файлы.

3. Запустите обучение.

   python run.py

Часто задаваемые вопросы

Вопрос: Как использовать эту модель? Ответ: Модель готова к использованию сразу после загрузки. Для извлечения знаний из cnSchema следуйте инструкциям по использованию. Если вы хотите извлечь знания, отличные от cnSchema, вы можете обучить модель на собственных данных.

Вопрос: Есть ли другие модели для извлечения cnSchema? Ответ: К сожалению, мы можем поддерживать только часть знаний cnSchema. Мы планируем выпустить больше моделей для извлечения знаний в будущем.

Вопрос: Я получил лучшие результаты, чем у вас! Ответ: Поздравляем!

Вопрос: У меня ошибка при вводе собственных данных Ответ: Возможно, ваши китайские входные данные содержат невидимые специальные символы, которые некоторые кодировки не могут обработать, что приводит к ошибкам. Вы можете решить эту проблему, предварительно обработав китайские данные с помощью редактора или другого инструмента.

Ссылки

Если ресурсы или технологии этого проекта помогли вашей исследовательской работе, пожалуйста, включите следующую статью в список литературы вашей диссертации.

@inproceedings{DBLP:conf/emnlp/ZhangXTYYQXCLL22,
  author    = {Ningyu Zhang and
               Xin Xu and
               Liankuan Tao and
               Haiyang Yu and
               Hongbin Ye and
               Shuofei Qiao and
               Xin Xie and
               Xiang Chen and
               Zhoubo Li and
               Lei Li},
  editor    = {Wanxiang Che and
               Ekaterina Shutova},
  title     = {DeepKE: {A} Deep Learning Based Knowledge Extraction Toolkit for Knowledge
               Base Population},
  booktitle = {Proceedings of the The 2022 Conference on Empirical Methods in Natural
               Language Processing, {EMNLP} 2022 - System Demonstrations, Abu Dhabi,
               UAE, December 7-11, 2022},
  pages     = {98--108},
  publisher = {Association for Computational Linguistics},
  year      = {2022},
  url       = {https://aclanthology.org/2022.emnlp-demos.10},
  timestamp = {Thu, 23 Mar 2023 16:56:00 +0100},
  biburl    = {https://dblp.org/rec/conf/emnlp/ZhangXTYYQXCLL22.bib},
  bibsource = {dblp computer science bibliography, https://dblp.org}
}

Отказ от ответственности

Содержание этого проекта предназначено только для справочных целей в области технических исследований и не должно использоваться в качестве вывода. Пользователи могут использовать модель в пределах лицензии, но мы не несём ответственности за любые прямые или косвенные убытки, вызванные использованием содержимого этого проекта.

Обратная связь

Пожалуйста, отправьте вопросы в GitHub Issue.