EdgeFS - децентрализованный слой данных для Edge/IoT, Edge/Fog и облачных вычислений

EdgeFS - это высокопроизводительная, с низким временем отклика и небольшим потреблением памяти, децентрализованная система управления данными, выпущенная под лицензией Apache v2.0, разработанная на C/Go.

EdgeFS построен на основе децентрализованной неизменной консистентности метаданных для поддержания сетевых разрывов до нескольких дней и при этом обеспечивает согласованное глобальное пространство имен данных с помощью уникальной техники согласования версий.

Усовершенствованная глобальная неизменная версионность EdgeFS с гранулярностью на уровне файлов, неограниченные снимки, глобальное (локальная/внешняя сеть) вычитание дубликатов данных и прозрачный доступ к данным по географии позволяет использовать множество децентрализованных сценариев использования для Edge/Fog/Cloud Computing.

EdgeFS интегрируется с Kubernetes и Docker Compose. Позволяет Edge/Fog/Cloud приложениям использовать API, совместимый с Amazon S3, с улучшениями AI/ML S3X, встроенной NoSQL базой данных, масштабируемым файловым хранилищем через NFS, масштабируемым блочным хранилищем через iSCSI/NBD.

На каждом Edge-локации узлы EdgeFS развернуты как контейнеры (Kubernetes StatefulSet или Docker Compose) на физических или виртуальных узлах, объединяя доступную емкость хранения и предоставляя её через совместимые протоколы хранения (S3/NFS/iSCSI и т. д.) для облачных приложений, работающих на том же или отдельном сервере.

EdgeFS может работать на любом подлежащем хранилище — высокопроизводительном NVMe Fabric, локальных сырьевых устройствах, существующих файловых системах или высокопроизводительных базах данных ключ-значение.

Как это работает, вкратце?Основная идея — это высокопроизводительная система версионирования, способная достигать скорости более 1,000,000 версий в секунду, где каждая версия является универсально идентифицируемой и независимой от местоположения. Если вы знакомы с "git", где все изменения полностью версионированы и глобально неизменяемы, то, скорее всего, вы уже знаете, как это работает в его ядре. Подумайте об этом как о мировом масштабе метода copy-on-write. Теперь, если мы можем сделать параллель для лучшего понимания — то, что делает EdgeFS, это расширяет "git" парадигму до объектного хранения и делает Kubernetes Persistent Volumes доступными через эмулированные стандартные протоколы хранения, например, файлы, объекты, NoSQL базы данных и даже блочные устройства, в высокопроизводительном и низкозатратном по времени режиме. С полностью версионированными изменениями, полностью неизменяемыми метаданными и данными, пользовательские данные могут быть прозрачно реплицированы, распределены и динамически предварительно загружены на многих географических сайтах.## Руководства для разработчиков, сервисы и API

• Руководство для разработчиков — детали построения среды
• Тестирование Harness — детали запуска пакета Harness Test
• Минималистичный CLI инструмент — CLI инструмент, реализованный на Go
• LIBCCOW API — универсальная клиентская библиотека и её прямой доступный API
• API NFS и FSIO — API слоя файловой системы POSIX
• API Block и LIBCCOWVOL — API блочного устройства и интеграция iSCSI/NBD
• Edge-X S3 API — детали продвинутых S3-совместимых функций, например, версионированных редактирований, снимков и т.д.
• FIO Engines — детали запуска FIO benchmarking инструмента на различных непосредственно подключенных слоях I/O
• LIBPMU пользовательское сетевое программирование — детали по libpmu, библиотеке типа DPDK

Сборка (Производственное изображение)

Убедитесь, что пакет Docker установлен на вашем сервере сборки с версией >= 17.05 с поддержкой стадийной сборки. Выполните следующую команду:

git clone git@github.com:Nexenta/edgefs.git
cd edgefs
docker build -t edgefs .

Быстрые запуски

Развертывания:* Docker

• Kubernetes RookIO Конфигурации:* Инициализация - общая процедура инициализации, применимая

• Развертывание Kubernetes RookIO - процедура развертывания сегмента

• Интеграция Kubernetes RookIO CSI - подробные инструкции по настройке CSI с EdgeFS RookIO

• Мониторинг Kubernetes RookIO - интеграция Prometheus и Grafana

• Управление VDEV Kubernetes RookIO - проверка состояния дисков/VDEV, замена, добавление и т.д.

• Обновление Kubernetes RookIO - подробные инструкции по выполнению rolling обновления

• GUI Kubernetes RookIO - панель управления сегментами, волшебник CRD

• NFS Kubernetes RookIO - настройка масштабируемого NFS (файлового)

• S3 Kubernetes RookIO - настройка интерфейса, совместимого с AWS S3 (объектного)

• S3X Kubernetes RookIO AI/ML - настройка интерфейса S3X для AI/ML, NoSQL и других интенсивных задач с низкой задержкой

• iSCSI Kubernetes RookIO - настройка масштабируемого iSCSI (блочного)

• ISGW Kubernetes RookIO (Глобальные пространства имён) - настройка глобального пространства имён с поддержкой географической прозрачности

• OpenStack/SWIFT Kubernetes RookIO - настройка интерфейса OpenStack/SWIFT (объектного)## Присоединяйтесь к нашему растущему сообществу!

• Группа пользователей: edgefs-users

• Slack-канал: slack-канал

• Twitter: @edgefs_io

• Telegram: edgefs

Собрание сообщества

Регулярное собрание сообщества проходит ежемесячно в первый среду в 9:00 утра PT (Пацифический стандартный часовой пояс). Переведите время на ваш локальный часовой пояс. Любые изменения в расписании встреч будут добавлены в документ повестки дня и опубликованы в канале Slack #users и на почтовом списке рассылки edgefs-users.

Все желающие обсудить направление проекта, обзоры дизайна и реализации, а также общие вопросы с широким сообществом приветствуются и поощряются к участию.

• Ссылка на встречу: https://zoom.us/j/404796463
• Текущая повестка дня и записи предыдущих встреч
• Записи предыдущих встреч — в разработке