Бъдещето на HPC компилаторите: Как NektarIR се справя с хаоса в хетерогенния хардуер

Ако си прекарал известно време в света на високопроизводителните изчисления, сигурно си забелязал една неприятна тенденция: хардуерният пейзаж се превърна в истинска развалина. Съвременните суперкомпютри и дори мощни работни станции вече разполагат с хетерогенни архитектури — комбинации от традиционни процесори с графични карти, евентуално FPGA-та и специализирани ускорители от различни производители. Всяко парче хардуер говори различен език що се отнася до оптимизация, а да накараш кода си да работи ефективно навсякъде може да се почувства като опит да събереш котки накуп.

Това е проблемът, който NektarIR решава, и честно казано, е освежаващо да видиш някой да взема систематичен подход вместо просто да хвърля повече ръчно настроена асемблерна оптимизация.

Революцията в компилаторния стек

Традиционните компилатори като GCC или LLVM работят на сравнително високо ниво — вземат изходен код и произвеждат оптимизиран машинен код. Но когато работиш с домейн-специфични операции, дали става дума за крайни елементни методи или машинно обучителни ядра, има огромна семантична празнина между това, което експертът в областта има предвид (диференциални оператори, елементни матрици), и това, което хардуерът реално разбира (регистри, йерархии на паметта, SIMD канали).

MLIR, разработен в Google и сега основна част от LLVM, въведе блестяща идея: вместо да имаш едно монолитно представяне, защо да не поддържаме множество нива на междинно представяне, всяко настроено за различно ниво на абстракция? Можеш да дефинираш собствени „диалекти", които улавят директно домейн концепциите, след което постепенно да ги превеждаш към хардуерно-специфични инструкции, като същевременно прилагаш оптимизации на всяко ниво.

NektarIR прилага тази философия към спектралните/hp елементни методи за изчислителна динамика на флуидите. Ако никога не си чувал за спектрални елементни методи, виж ги като сложна числова техника за решаване на частни диференциални уравнения — те са особено популярни в аерокосмическата индустрия и метеорологичното моделиране, защото могат да постигнат висока точност с относително редки мрежи.

Защо крайните елементни операции са различни

Ето какво прави крайните елементни методи интересни от компилаторна гледна точка: производителността се определя от изненадващо малък набор от често срещани оператори, които се комбинират по различни начини, за да създадат сложни диференциални оператори. Говорим за операции като оценяване на базисни функции, матрично-векторни произведения и квадратурни изчисления — операции, които изглеждат подвеждащо прости, но са невероятно чувствителни към моделите за достъп до паметта и използването на кеш паметта.

В традиционните подходи разработчиците пишат оптимизирани ядра за всяка архитектура, след което поддържат паралелни версии за процесори и графични карти. Резултатът е кошмар от гледна точка на поддръжка, където една единствена алгоритмична промяна може да изисква актуализиране на десетки доставчик-специфични имплементации.

NektarIR заобикаля това, като създава свой собствен MLIR диалект, който директно представя тези крайни елементни оператори. Представи си го като речник, специално създаден за разговори за спектрални елементни изчисления. Веднъж щом имаш този домейн-специфичен език в своята компилаторна инфраструктура, можеш да пишеш оптимизации, които разбират семантиката на това, което правиш — а не просто грубите операции.

Магията на прогресивното превеждане

Истинската сила идва от конвейера за превеждане. В NektarIR започваш с високо ниво на представяне, което изглежда много близо до това как един математик би описал краен елементен оператор. Докато представянето се движи през последователни етапи, то става все по-конкретно:

1. Домейн-специфичният диалект улавя математическата структура
2. Буферизацията се грижи за заделянето на памет и движението на данни
3. Хардуерно-специфичното превеждане адаптира операциите към моделите за изпълнение на процесора или графичната карта
4. Финалното генериране на код произвежда оптимизирани машинни инструкции

На всяко ниво могат да се прилагат оптимизации, специфични за тази абстракция. Това е далеч по-ефективно от опитите да се реконструира високо ниво на намерение от ниско ниво операции — нещо, с което традиционните компилатори се борят на домейн-специфичен код.

Производителност в реалния свят

Екипът на NektarIR демонстрира своя подход, сравнявайки се с утвърдената рамка Nektar++ за спектрални/hp елементни методи. Резултатите показват, че техният подход с компилация в точното време постига конкурентна или по-добра производителност както на процесорни, така и на графични архитектури — впечатляващо, предвид че работят от един обединен код вместо от ръчно оптимизирани имплементации за всяка платформа.

Това е особено значимо, защото CFD симулациите често се изпълняват дни или седмици на суперкомпютри. Дори малки процентни подобрения в производителността на ядрата се превръщат в съществени спестявания на време и енергия в мащаб.

Какво означава това за разработчиците

Може би си мислиш: „Това е интересно, но не пиша CFD решаващи системи." Справедливо observation — но основната техника има широко приложение. Моделът на дефиниране на домейн-специфични диалекти, прогресивно превеждане през нива на абстракция и прилагане на целенасочени оптимизации на всяко ниво е приложим далеч отвъд крайните елементни методи.

Вече виждаме MLIR да се използва за машинното обучение на TensorFlow, IREE за вграден AI inference и различни изследователски проекти в квантови изчисления и обработка на сигнали. Докато специализираният хардуер продължава да се разпространява, възможността да пишеш код веднъж и да го компилираш ефективно за различни цели става все по-ценна.

Проектът NektarIR демонстрира, че навлизаме в ера, в която компилаторите могат наистина да бъдат създадени заедно с целевите си домейни. Вместо да принуждаваме домейн експертите да стават компилаторни инженери или да очакваме от създателите на компилатори да разбират нюансите на спектралните елементни методи, можем да изградим инструменти, които преодоляват тази пропаст елегантно.

За HPC общността това представлява път напред от настоящата ситуация, където пренасянето на приложения към нови архитектури изисква героични инженерни усилия. За разработчиците като цяло това е поглед към това как компилаторните технологии може да се развият, за да се справят с все по-хетерогенното бъдеще на изчисленията.

Кодът е достъпен за тези, които искат да експериментират, а подходът е достатъчно обобщен, че подобни техники могат да бъдат приложени в други изчислително интензивни области. Дали симулираш климатични модели или просто се опитваш да изстискаш повече производителност от твоето приложение с графично ускорение, идеите зад NektarIR си струва да бъдат разбрани.

Срещал ли си се с предизвикателства с хетерогенен хардуер в своите проекти? Какво е твоето мнение за домейн-специфичните компилаторни подходи? Остави коментар — ще се радваме да чуем твоя опит.