Глава 3: Иерархия TensorFlow

В этой главе мы рассмотрим пять уровней TensorFlow: аппаратный уровень, уровень ядра, низкоуровневый API, API среднего уровня и высокоуровневый API. Мы продемонстрируем различия в реализации моделей на разных уровнях API на двух примерах: модели линейной регрессии и модели бинарной классификации DNN.

Снизу вверх в иерархии TensorFlow есть пять уровней.

Нижний — аппаратный уровень. TensorFlow поддерживает добавление CPU, GPU или TPU в пул вычислительных ресурсов.

Второй уровень — ядро, реализованное на C++. Эти ядра могут работать на распределённых кроссплатформенных системах.

Третий уровень содержит операторы, написанные на Python, которые предоставляют инструкции низкоуровневого API, упаковывающие ядра C++, включая операции с тензорами, графами, автоматическое дифференцирование и т. д.

Например: tf.Variable, tf.constant, tf.function, tf.GradientTape, tf.nn.softmax... Если сравнить модель с домом, то API третьего уровня — это кирпичи.

Четвёртый уровень содержит компоненты модели, реализованные на Python. Они обеспечивают упаковку функций низкоуровневого API, включая слои модели, функции потерь, оптимизаторы, конвейеры данных, столбцы признаков и т.д.

Например: tf.keras.layers, tf.keras.losses, tf.keras.metrics, tf.keras.optimizers, tf.data.DataSet, tf.feature_column... Если сравнивать модель с домом, то API четвёртого уровня — это стены.

Пятый уровень содержит хорошо спроектированные модели, реализованные на Python. Большинство из них представляют собой высокоуровневые API, упакованные с помощью ООП, обычно это интерфейсы классов для tf.keras.models. Если мы сравним модель с домом, то API пятого уровня — это сами дома.