Стартап Volantis привлёк $88 млн на замену электрических соединений между вычислительным чипом и памятью оптическими каналами. Подход позволит подключать к одному ускорителю свыше 220 чиплетов памяти вместо нескольких десятков.
Производительность ИИ-моделей зависит не только от вычислительной мощности. Во время работы ускоритель постоянно вытягивает из памяти веса модели и промежуточные данные. Если пропускная способность недостаточна, вычислительные блоки простаивают. Nvidia и AMD решают эту проблему с помощью HBM — быстрой памяти, размещённой максимально близко к процессору.
Масштабировать такую конструкцию всё сложнее. Электрические линии внутри подложки работают на расстояниях в несколько миллиметров, поэтому вокруг процессора помещается ограниченное количество памяти. Volantis разработала соединение, где данные передаются светом по оптическим волноводам на расстояние свыше 200 мм. Компания рассчитывает увеличить доступную память более чем на порядок и дать пропускную способность 240 ТБ/с.
Источником света служат микролазеры VCSEL — вертикально-излучающие лазеры с поверхностным резонатором. Технология давно выпускается массово и используется в Face ID. Apple в 2017 году вложила $390 млн в расширение производства VCSEL компанией Finisar.
Volantis рассчитывает использовать существующую производственную базу VCSEL вместо создания новой цепочки поставок для фотонных компонентов. В архитектуре стартапа микролазеры интегрируются непосредственно в систему, поэтому внешние лазерные источники не требуются.
Первый продукт, A-1, получит 10 ТБ памяти и пропускную способность 240 ТБ/с. Volantis рассчитывает довести скорость работы крупных ИИ-моделей до 10 000 токенов в секунду на пользователя и поддержать модели более чем с 20 трлн параметров.
Пока это целевые характеристики, а не результаты независимого тестирования. Volantis демонстрирует отдельные работающие оптические соединения и заявляет энергопотребление менее одного пикоджоуля на переданный бит. Полноценный A-1 заказчики получат в 2027 году.
Ставка на оптические соединения отражает более широкую проблему рынка ИИ-ускорителей. Рост нейросетей быстро увеличивает требования к объёму и скорости памяти, а простое добавление вычислительных блоков перестаёт давать прежний прирост производительности. Производители памяти и процессоров параллельно ищут другие варианты: новые поколения HBM, высокоскоростную флеш-память и фотонные интерфейсы.
Команда Volantis собрала специалистов из Nvidia, AMD, Broadcom, Micron и Ayar Labs. Разработчики участвовали в создании HBM, упаковки CoWoS и систем совместной интеграции электроники с оптикой.
