В январе 2024 года ведущая частная инвестиционная компания Blackstone объявила о создании империи данных ИИ стоимостью 25 миллиардов долларов. Несколько месяцев спустя OpenAI и Microsoft последовали их примеру, предложив создать Stargate, суперкомпьютер ИИ стоимостью 100 миллиардов долларов, который позволит компании занять лидирующие позиции в революции искусственного интеллекта.

Конечно, это неудивительно. Учитывая быстрый рост сектора ИИ, который мы наблюдали за последние несколько лет, промышленные гиганты со всего мира стремятся занять первые ряды. Эксперты уже прогнозируют, что к 2030 году объем глобального рынка ИИ достигнет огромной суммы в 826,7 миллиарда долларов, при этом ежегодный темп роста составит 28,46%.

Графические процессоры (GPU).

Архитектура фон Неймана, модель проектирования, которую используют большинство общих компьютеров (состоящая из ЦП, памяти, устройств ввода-вывода и системной шины), по своей сути ограничена, несмотря на то, что она предлагает простоту и совместимость между системами. Единственная системная шина этой архитектуры ограничивает скорость, с которой данные могут передаваться между памятью и ЦП, делая ЦП менее чем оптимальными для задач искусственного интеллекта и машинного обучения.

Вот где на помощь приходят графические процессоры (GPU). Внедряя параллелизм в качестве метода обработки, GPU обеспечивают улучшенную производительность и независимое выполнение инструкций благодаря своим многоядерным процессорам. Однако с наступлением эры технологий искусственного интеллекта спрос на GPU взлетел до небес, создав дефицит и создав серьезное узкое место в работе многих исследователей и стартапов. Это особенно актуально, поскольку весь мировой запас GPU поступает от одного крупного производителя: Nvidia.

Хотя гиперскейлеры, такие как AWS, Google Cloud Platform и другие, могут легко получить доступ к A100 и H100 от Nvidia, какие еще жизнеспособные альтернативы могут помочь фирмам, исследователям и стартапам сесть на поезд искусственного интеллекта вместо того, чтобы бесконечно ждать в очереди на Nvidia?

Программируемые пользователем микросхемы (FPGA)

FPGA - это программируемые пользователем интегральные схемы, которые можно настроить для выполнения конкретных задач и потребностей приложений. Они предлагают гибкость, могут адаптироваться к различным требованиям и являются экономически эффективными. Поскольку FPGA эффективны при параллельной обработке, они хорошо подходят для использования в области искусственного интеллекта / машинного обучения и обладают заметно низкой задержкой в реальных приложениях.

Интересно, что реализация FPGA видна в чипе Tesla D1 Dojo, который компания выпустила в 2021 году для обучения моделей компьютерного зрения для автономных автомобилей. Однако у FPGA есть некоторые недостатки, включая высокую инженерную экспертизу, необходимую для разработки аппаратного обеспечения, которая может привести к высоким первоначальным затратам на приобретение.

GPU AMD

В 2023 году такие компании, как Meta, Oracle и Microsoft, проявили интерес к GPU AMD в качестве более экономичного решения и способа избежать потенциальной привязки к поставщику доминирующей Nvidia. Серия Instinct MI300 от AMD, например, считается жизнеспособной альтернативой для научных вычислений и задач искусственного интеллекта. Его архитектура Graphics Core Next (GCN), которая подчеркивает модульность и поддержку открытых стандартов, плюс его более доступная цена, делают его многообещающей альтернативой GPU Nvidia.

Устройства обработки тензоров

TPU - это специализированные интегральные схемы, предназначенные для выполнения задач машинного обучения. Разработанный Google, TPU использует специализированную архитектуру для запуска нейронных сетей, такую как тензорные операции. Они также имеют преимущество в виде энергоэффективности и оптимизации производительности, что делает их доступной альтернативой для масштабирования и управления затратами.

Однако следует отметить, что экосистема TPU все еще находится в стадии становления, и текущая доступность ограничена Google Cloud Platform.

Процессоры

Процессоры часто считаются аутсайдерами для целей искусственного интеллекта из-за их ограниченной пропускной способности и бутылочного горлышка фон Неймана. Однако продолжаются усилия по определению того, как выполнять более эффективные алгоритмы искусственного интеллекта на процессорах. Это включает в себя назначение определенных рабочих нагрузок центральному процессору, таких как простые модели обработки естественного языка и алгоритмы, выполняющие сложные статистические расчеты.

Это может не быть универсальным решением, но оно идеально подходит для алгоритмов, которые сложно выполнять параллельно, таких как рекуррентные нейронные сети или системы рекомендаций для обучения и вывода.

Подводя итог

Недостаток графических процессоров для целей искусственного интеллекта, возможно, не исчезнет в ближайшее время, но есть и хорошие новости. Продолжающиеся инновации в технологии чипов искусственного интеллекта свидетельствуют о захватывающем будущем, полном возможностей, которое однажды позволит проблеме с графическими процессорами отойти на второй план. В области искусственного интеллекта остается немало потенциала, и мы, возможно, стоим на пороге самого значительного технологического переворота, известного человечеству.