ИИ в инфраструктуре Azure — обзор исполнительной системы

Цель организации: Каждая организация хочет, чтобы ИИ предоставлял измеримую бизнес-ценность в масштабе бизнес-требований. Вызов: Большинство организаций могут достичь этой цели с помощью управляемых платформ ИИ, но некоторые организации требуют больше контроля, чем управляемые службы. Они должны выбирать определенные модели, настраивать производительность или соответствовать строгим требованиям соответствия, которые управляемые службы не могут полностью решать.

инфраструктура Solution: Azure поддерживает стратегии ИИ, требующие полного контроля над моделями, инфраструктурой и границами соответствия. Azure инфраструктура не является отправной точкой по умолчанию. Это преднамеренный выбор для организаций с расширенными требованиями. Используйте инфраструктуру Azure для искусственного интеллекта, если вам требуется:

  • Управление моделями и средами выполнения для частных или высоко настраиваемых рабочих нагрузок
  • Управление расположением и обработкой данных для выполнения нормативных обязательств
  • Интеграция с высокопроизводительными вычислениями для моделирования или научного анализа
  • Точно настроенная производительность в масштабе с помощью специализированного графического процессора и сетевого проектирования

Почему ИИ в инфраструктуре Azure?

Azure инфраструктура позволяет командам определять и управлять средой, в которой выполняются рабочие нагрузки ИИ. Этот подход поддерживает три бизнес-результата:

  • Настраиваемые среды ИИ. Teams может выбирать операционные системы, платформы, конфигурации среды выполнения и вспомогательные средства. Эта гибкость поддерживает собственные модели и специализированные рабочие нагрузки искусственного интеллекта.

  • Выравнивание нормативных требований и суверенитет данных. Организации определяют границы сети, политики обработки данных и расположения развертывания. Этот подход поддерживает регулируемые и конфиденциальные рабочие нагрузки.

  • Высокопроизводительная инфраструктура ИИ. Azure предоставляет кластеры GPU и высокопроизводительные сети для крупномасштабных обучающих, распределенных выводов и рабочих нагрузок ИИ, интегрированных с HPC.

Какой уровень инвестиций?

Azure инфраструктура повышает гибкость. Она также повышает ответственность. Руководители должны утвердить эту модель с четким пониманием факторов затрат и влияния на работу. Ключевой компромисс прост. Azure инфраструктура обеспечивает контроль и гибкость. Для этого требуются более высокие инвестиции в навыки и текущие операции. Модель затрат переходит от потребления служб к собственности на инфраструктуру. Планирование четырех основных областей затрат:

  • Стоимость GPU: Вычислительные ресурсы GPU — самая большая часть расходов. Инфраструктура GPU является дорогой и может быть недоопользуемой без строгого планирования.
  • Затраты на хранение: Хранилище поддерживает наборы данных, контрольные точки модели и долгосрочные требования к хранению.
  • Стоимость сети: Затраты на сеть увеличиваются с помощью распределенных рабочих нагрузок, перемещения данных и требований к гибридному подключению.
  • Операционные затраты: Организации нуждаются в квалифицированных командах для управления инфраструктурой, масштабированием, надежностью и операциями платформы.

Организации могут более точно прогнозируют эти затраты при модели рабочих нагрузок в начале процесса планирования.

Сколько времени пройдёт, прежде чем вы увидите ценность?

Срок получения отдачи в большей степени зависит от организационной зрелости, чем от скорости развертывания инфраструктуры. Организации достигают ценности быстрее, если у них уже есть:

  • Курированные конвейеры данных
  • Установленные группы по разработке ИИ или обработки данных
  • Существующие основы управления и идентификации Azure

Если эти возможности не существуют, временная шкала расширяется. Инфраструктура в одиночку не приводит к результатам. Готовность к данным и возможность команды определяют успешность.

Как внедрить ИИ в инфраструктуре Azure

Успешное внедрение искусственного интеллекта в инфраструктуре Azure зависит от принятия ранних решений по архитектуре. Эти решения влияют на масштабируемость, операционную сложность, состояние соответствия требованиям и долгосрочные затраты.

Упорядочение внедрения вокруг шести областей архитектуры: вычислительные ресурсы, хранилище, сеть, управление, управление и безопасность. Эти решения рассматриваются как политики архитектуры, а не проектирование рабочей нагрузки. В следующих статьях приведены рекомендации по рабочим нагрузкам искусственного интеллекта для инфраструктуры Azure:

  • Last updated on