XLA

XLA (ускоренная линейная алгебра) — это компилятор с открытым исходным кодом для машинного обучения. Компилятор XLA берет модели из популярных платформ, таких как PyTorch, TensorFlow и JAX, и оптимизирует их для высокопроизводительного выполнения на различных аппаратных платформах, включая графические процессоры, центральные процессоры и ускорители машинного обучения. Например, в представлении BERT MLPerf использование XLA с 8-вольтовыми графическими процессорами V100 позволило добиться примерно 7-кратного улучшения производительности и примерно 5-кратного увеличения размера пакета по сравнению с теми же графическими процессорами без XLA.

В рамках проекта OpenXLA XLA создается совместно ведущими в отрасли компаниями по производству оборудования и программного обеспечения для машинного обучения, включая Alibaba, Amazon Web Services, AMD, Apple, Arm, Google, Intel, Meta и NVIDIA.

Ключевые преимущества

  • Создавайте где угодно : XLA уже интегрирован в ведущие платформы машинного обучения, такие как TensorFlow, PyTorch и JAX.

  • Работайте где угодно : он поддерживает различные серверные части, включая графические процессоры, центральные процессоры и ускорители машинного обучения, а также включает подключаемую инфраструктуру для дополнительной поддержки.

  • Максимизируйте и масштабируйте производительность . Он оптимизирует производительность модели с помощью проверенных на практике проходов оптимизации и автоматического секционирования для обеспечения параллелизма модели.

  • Устранение сложности : он использует возможности MLIR для объединения лучших возможностей в единой цепочке инструментов компилятора, поэтому вам не придется управлять рядом компиляторов, специфичных для конкретной предметной области.

  • Готовность к будущему : XLA — проект с открытым исходным кодом, созданный в результате сотрудничества ведущих поставщиков аппаратного и программного обеспечения машинного обучения. Он предназначен для работы на передовых позициях индустрии машинного обучения.

Документация

Чтобы узнать больше о XLA, перейдите по ссылкам слева. Если вы новый разработчик XLA, возможно, вам захочется начать с архитектуры XLA , а затем прочитать обзоры кода .