Що таке Compute Express Link (CXL)? Глобальний бум штучного інтелекту спричинив серйозний дефіцит мікросхем пам’яті. Такі технічні гіганти, як Google і Nvidia, зараз прискорюють свої інвестиції в Compute Express Link (CXL) як ключову альтернативну технологію пам’яті. Це нововведення дозволяє серверам об’єднувати та спільно використовувати ресурси пам’яті для всього центру обробки даних. Застосування CXL допомагає пом’якшити обмеження поставок, що призводить до зростання витрат на пам’ять. Це являє собою фундаментальну зміну в архітектурі центру обробки даних, виходячи за межі традиційних ізольованих конфігурацій пам’яті.
Чому впровадження CXL прискорилося після повільного старту CXL не є новою технологією; він розроблявся приблизно сім років. Його початкове впровадження було повільним, головним чином через значний компроміс: він може створити затримку або невеликі затримки в передачі даних. У робочих навантаженнях ШІ процесори постійно отримують свіжі дані з пам’яті для виконання обчислень. Будь-яка затримка в цьому процесі може уповільнити всю систему ШІ. Протягом багатьох років це зниження продуктивності переважало потенційні вигоди для багатьох компаній. Однак економічний ландшафт кардинально змінився. Стрімке зростання вартості та обмежена пропозиція традиційних чіпів пам’яті змусили переглянути їх. Аналіз витрат і вигод тепер надає перевагу дослідженню таких технологій, як CXL, незважаючи на недоліки.
Технічна механіка CXL За своєю суттю Compute Express Link — це технологія з’єднання з відкритим стандартом. Він побудований на фізичному та електричному інтерфейсах PCI Express (PCIe), який широко використовується в сучасних комп’ютерах. CXL підтримує узгодженість пам’яті між пам’яттю ЦП і пам’яттю під’єднаних пристроїв. Це означає, що кілька процесорів можуть ефективно спільно використовувати ресурси пам’яті, маючи уніфікований узгоджений вигляд даних. Технологія працює через три ключові протоколи:
Протокол вводу/виводу: для забезпечення сумісності використовується стандарт PCIe. Протокол пам'яті: дозволяє головному процесору отримувати доступ до пам'яті на пристроях CXL. Протокол когерентності: дозволяє пристроям кешувати пам’ять, зберігаючи все синхронізованим.
Ця архітектура дає змогу використовувати модель «дезагрегації пам’яті». Замість того, щоб пам’ять була фізично прив’язана до кожного сервера, її можна об’єднати в центральний ресурс, до якого за потреби можуть підключатися багато серверів.
Вирішення проблеми затримки Основною технічною проблемою для CXL є додаткова затримка від передачі даних через мережу до спільної пам’яті. Інженери вирішують це кількома способами. Нові контролери та перемикачі CXL розроблені для мінімізації затримки. Оптимізація програмного забезпечення також має вирішальне значення, гарантуючи, що «гарячі» дані, до яких часто звертаються, залишаються якомога ближче до процесора. Для багатьох аналітичних і навчальних навантажень не в реальному часі затримка є прийнятним компромісом для отримання доступу до значно більших пулів пам’яті. Це особливо вірно для великих мовних моделей і складних наборів даних.
Прийняття в галузі: Google, Nvidia та інше Зрушення в галузі очолюють великі гравці, які мають масштаби, щоб отримати найбільшу вигоду. Згідно зі звітами співробітників, Google почав розгортати технологію CXL у своїх великих центрах обробки даних. Коли компанія такого масштабу, як Google, приймає новий стандарт, це свідчить про впевненість і часто спонукає до ширшого впровадження в галузі. Інші хмарні провайдери та підприємства, ймовірно, наслідуватимуть цей приклад, щоб залишатися конкурентоспроможними. Nvidia, лідер у виробництві обладнання штучного інтелекту, також є сильним прихильником CXL. Ця технологія доповнює їхні графічні процесори, забезпечуючи масштабовані рішення пам’яті для складних завдань навчання ШІ. Цей стратегічний крок є частиною ширших галузевих тенденцій, подібних до тих, що обговорюються в нашій статті про Nvidia Sprays the Cash; Захист SpaceX голови FCC. Такі великі виробники мікросхем, як Intel, AMD і Samsung, також інтегрують підтримку CXL у свої новітні процесори та продукти пам’яті, забезпечуючи надійну екосистему.
Випадки використання поза ШІ Хоча штучний інтелект є основним драйвером, застосування CXL ширше. Це трансформація для баз даних у пам’яті, які потребують масивних пулів пам’яті зі швидким доступом. Хмарні обчислення отримують величезну користь від дезагрегації пам’яті. Це дозволяє провайдерам пропонувати гнучкі ресурси пам’яті, подібно до того, як вони пропонують масштабовані обчислення та сховище, що призводить до більш ефективних і рентабельних послуг. Цей підхід до оптимізації ресурсів повторює гнучкість таких платформ, як Альтернативний магазин додатків AltStore PAL приєднується до fediverse. CXL також підвищує стійкість даних. Завдяки централізації пам’яті її можна краще захистити завдяки розширеному виправленню помилок і резервуванню, концепції, яка відповідає принципу The Game-Changing Technology HelpingКомпанії запобігають катастрофічній втраті даних.
Майбутнє пам'яті центрів обробки даних CXL має намір стати основоположною технологією для центрів обробки даних нового покоління. Оскільки стандарт розвивається, майбутні версії обіцяють ще більше зменшити затримку та збільшити пропускну здатність. Ми можемо очікувати тіснішої інтеграції з новими технологіями, такими як обчислювальне сховище та передові мережі. Це створить ще більш ефективні та потужні гетерогенні обчислювальні середовища. Метою є справді складна інфраструктура, де обчислювальні ресурси, пам’ять і ресурси зберігання можуть динамічно розподілятися на вимогу. Це перспективні центри обробки даних для постійно зростаючих вимог ШІ та великих даних.
Висновок Compute Express Link представляє прагматичну та необхідну еволюцію в дизайні центрів обробки даних. Керуючись обмеженнями пропозиції та вимогами штучного інтелекту, CXL пропонує життєздатний шлях до масштабованої та ефективної пам’яті. Хоча проблеми із затримкою залишаються, постійні інновації поступово долають ці перешкоди. Прийняття таких лідерів галузі, як Google і Nvidia, підтверджує потенціал CXL змінити спосіб створення та управління обчислювальними ресурсами. Оскільки ваш бізнес вивчає нові технології для зростання, подумайте про інструменти, які спрощують вашу цифрову присутність. Спробуйте Seemless як безкоштовну альтернативу Linktree, щоб отримати безпроблемний спосіб керування своїми онлайн-посиланнями.