Что такое Compute Express Link (CXL)? Глобальный бум искусственного интеллекта привел к острой нехватке чипов памяти. Такие технологические гиганты, как Google и Nvidia, сейчас наращивают инвестиции в Compute Express Link (CXL) как ключевую альтернативную технологию памяти. Это нововведение позволяет серверам объединять и совместно использовать ресурсы памяти во всем центре обработки данных. Внедрение CXL помогает смягчить ограничения в поставках, приводящие к увеличению затрат на память. Это представляет собой фундаментальный сдвиг в архитектуре центров обработки данных, выходящий за рамки традиционных изолированных конфигураций памяти.
Почему внедрение CXL ускорилось после медленного старта CXL — не новая технология; он находился в разработке около семи лет. Его первоначальное внедрение было медленным, в первую очередь из-за значительного компромисса: оно может привести к задержке или небольшим задержкам при передаче данных. В рабочих нагрузках ИИ процессоры постоянно извлекают свежие данные из памяти для выполнения вычислений. Любая задержка в этом процессе может замедлить работу всей системы ИИ. В течение многих лет это снижение производительности перевешивало потенциальные выгоды для многих компаний. Однако экономический ландшафт радикально изменился. Растущая стоимость и ограниченное предложение традиционных микросхем памяти заставили провести переоценку. Анализ затрат и выгод сейчас отдает предпочтение изучению таких технологий, как CXL, несмотря на их недостатки.
Техническая механика CXL По своей сути Compute Express Link представляет собой технологию межсоединений открытого стандарта. Он построен на физическом и электрическом интерфейсах PCI Express (PCIe), широко используемых в современных компьютерах. CXL поддерживает согласованность памяти между памятью ЦП и памятью подключенных устройств. Это означает, что несколько процессоров могут эффективно совместно использовать ресурсы памяти, обеспечивая единое и согласованное представление данных. Технология работает через три ключевых протокола:
Протокол ввода-вывода: для совместимости используется стандарт PCIe. Протокол памяти: позволяет главному процессору получать доступ к памяти на устройствах CXL. Протокол когерентности: позволяет устройствам кэшировать память, обеспечивая синхронизацию всего.
Эта архитектура позволяет использовать модель «дезагрегации памяти». Вместо того, чтобы физически привязывать память к каждому серверу, ее можно объединить в центральный ресурс, к которому многие серверы могут подключаться по мере необходимости.
Решение проблемы задержки Основной технической проблемой CXL является дополнительная задержка при передаче данных по сети в общую память. Инженеры решают эту проблему несколькими способами. Новые контроллеры и переключатели CXL разрабатываются таким образом, чтобы минимизировать задержку. Оптимизация программного обеспечения также имеет решающее значение, гарантируя, что часто используемые «горячие» данные остаются как можно ближе к процессору. Для многих аналитических и обучающих рабочих нагрузок, выполняемых не в режиме реального времени, задержка является приемлемым компромиссом для получения доступа к значительно большим пулам памяти. Это особенно актуально для больших языковых моделей и сложных наборов данных.
Принятие в отрасли: Google, Nvidia и другие компании Сдвиг в отрасли возглавляют крупные игроки, которые могут получить наибольшую выгоду. По сообщениям сотрудников, Google начала внедрение технологии CXL в своих крупных центрах обработки данных. Когда компания такого уровня, как Google, принимает новый стандарт, это сигнализирует об уверенности и часто способствует более широкому внедрению в отрасли. Другие поставщики облачных услуг и предприятия, вероятно, последуют этому примеру, чтобы оставаться конкурентоспособными. Nvidia, лидер в области оборудования для искусственного интеллекта, также является ярым сторонником CXL. Эта технология дополняет графические процессоры, предоставляя масштабируемые решения памяти для сложных задач обучения искусственного интеллекта. Этот стратегический шаг является частью более широких отраслевых тенденций, аналогичных тем, которые обсуждались в нашей статье о Nvidia Sprays the Cash; Защита SpaceX председателя FCC. Крупные производители микросхем, такие как Intel, AMD и Samsung, также интегрируют поддержку CXL в свои новейшие процессоры и продукты памяти, обеспечивая надежную экосистему.
Варианты использования за пределами ИИ Хотя искусственный интеллект является основным драйвером, приложения CXL шире. Это преобразует базы данных в памяти, которым требуются массивные пулы памяти с быстрым доступом. Облачные вычисления получают огромную выгоду от дезагрегации памяти. Это позволяет поставщикам предлагать гибкие ресурсы памяти, подобно тому, как они предлагают масштабируемые вычисления и хранилище, что приводит к более эффективным и экономичным услугам. Этот подход к оптимизации ресурсов перекликается с гибкостью, наблюдаемой на таких платформах, как Альтернативный магазин приложений. AltStore PAL присоединяется к Fediverse. CXL также повышает устойчивость данных. Централизуя память, ее можно лучше защитить с помощью усовершенствованного исправления ошибок и избыточности — концепции, согласующейся с технологией, меняющей правила игры.Предприятия предотвращают катастрофическую потерю данных.
Будущее памяти центров обработки данных CXL может стать основополагающей технологией для центров обработки данных следующего поколения. По мере развития стандарта будущие версии обещают еще больше снизить задержку и увеличить пропускную способность. Мы можем ожидать более тесной интеграции с новыми технологиями, такими как вычислительное хранилище и развитые сети. Это позволит создать еще более эффективные и мощные гетерогенные вычислительные среды. Целью является по-настоящему компонуемая инфраструктура, в которой ресурсы вычислений, памяти и хранилища могут динамически распределяться по требованию. Это перспективные центры обработки данных, отвечающие постоянно растущим требованиям искусственного интеллекта и больших данных.
Заключение Compute Express Link представляет собой прагматичную и необходимую эволюцию в проектировании центров обработки данных. Учитывая ограничения поставок и требования ИИ, CXL предлагает реальный путь к масштабируемой и эффективной памяти. Хотя проблемы с задержкой сохраняются, текущие инновации постепенно преодолевают эти препятствия. Поддержка таких лидеров отрасли, как Google и Nvidia, подтверждает потенциал CXL по изменению того, как мы создаем вычислительные ресурсы и управляем ими. По мере того как ваш бизнес изучает новые технологии для роста, подумайте об инструментах, которые упрощают ваше цифровое присутствие. Чтобы упростить управление онлайн-ссылками, попробуйте Seemless в качестве бесплатной альтернативы Linktree.
