CloudWeGo-Netpoll

中文

Введение

Netpoll — это высокопроизводительный неблокирующий сетевой фреймворк для ввода-вывода, разработанный компанией ByteDance и ориентированный на сценарии RPC.

RPC обычно требует интенсивной обработки логики и поэтому не может обрабатывать ввод-вывод последовательно. Однако стандартная библиотека Go net разработана для блокирующих API ввода-вывода. Поэтому в рамках RPC можно использовать только дизайн One Conn One Goroutine. Это приводит к большим затратам на переключение контекста из-за большого количества горутин при высокой параллельности. Кроме того, net.Conn не имеет API для проверки состояния соединения, поэтому сложно создать эффективный пул соединений для RPC-фреймворка, поскольку в пуле может быть большое количество разорванных соединений.

С другой стороны, в сообществе открытого исходного кода в настоящее время не хватает сетевых библиотек Go, ориентированных на сценарии RPC. Подобные репозитории, такие как evio, gnet и т. д., ориентированы на такие сценарии, как Redis, HAProxy.

Но теперь появился Netpoll, который решает вышеуказанные проблемы. Он вдохновлён дизайном evio и netty, обладает отличной производительностью и больше подходит для микросервисной архитектуры. Также Netpoll предоставляет ряд функций, и его рекомендуется использовать вместо net в некоторых сценариях RPC.

На основе Netpoll мы разработали RPC-фреймворк Kitex и HTTP-фреймворк Hertz, оба с лучшей в отрасли производительностью.

Примеры показывают, как построить клиент и сервер RPC с помощью Netpoll.

Для получения дополнительной информации см. Документ.

Функции

• Уже

  • LinkBuffer предоставляет nocopy API для потокового чтения и записи
  • gopool предоставляет высокопроизводительный пул горутин
  • mcache обеспечивает эффективное повторное использование памяти
  • IsActive поддерживает проверку активности соединения
  • Dialer поддерживает создание клиентов
  • EventLoop поддерживает создание сервера
  • TCP, Unix Domain Socket
  • Linux, macOS (операционная система)

• Будущее

  • multisyscall поддерживает пакетные системные вызовы
  • io_uring
  • Shared Memory IPC
  • Серийное планирование ввода-вывода, подходящее для чистых вычислений
  • TLS
  • UDP

• Не поддерживается

  • Windows (операционная система)

Производительность

Тесты должны соответствовать требованиям промышленного использования. В сценарии RPC параллелизм и тайм-аут являются необходимыми элементами поддержки.

Мы предоставляем проект netpoll-benchmark для отслеживания и сравнения производительности Netpoll и других фреймворков в различных условиях для справки.

Дополнительные тесты см. в проектах kitex-benchmark и hertz-benchmark.

Ссылка

• Официальный сайт: https://www.cloudwego.io
• Начало работы: docs/guide/guide_en.md
• Дизайн: docs/reference/design_en.md
• Почему DATA RACE: docs/reference/explain.md [эвио]: https://github.com/tidwall/evio [гнет]: https://github.com/panjf2000/gnet [нетти]: https://github.com/netty/netty [китекс]: https://github.com/cloudwego/kitex [герц]: https://github.com/cloudwego/hertz