Luminal: Оптимизация вычислений для разработчиков
Три года назад соучредитель Luminal Джо Фиоти, работая над разработкой чипов в Intel, пришел к важному выводу. Он понял, что каким бы совершенным ни было аппаратное обеспечение, его эффективность напрямую зависит от удобства использования для разработчиков. "Можно создать лучшие в мире аппаратные средства, но если разработчикам сложно ими пользоваться, они просто не будут их применять", – поделился он.
Теперь он основал компанию, которая полностью сосредоточена на решении этой задачи. В понедельник Luminal объявила о привлечении 5,3 миллиона долларов начального финансирования в раунде, возглавляемом Felicis Ventures, с участием ангельских инвестиций от Пола Грэма, Гильермо Рауха и Бена Портерфилда.
Соучредители Фиоти, Джейк Стивенс и Мэттью Гантон, имеют опыт работы в Apple и Amazon соответственно. Компания также стала частью потока Y Combinator Summer 2025.
Основной бизнес Luminal прост: компания продает вычислительные мощности, подобно нео-облачным компаниям, таким как CoreWeave или Lambda Labs. Но в то время как последние фокусируются на GPU, Luminal сосредоточила усилия на техниках оптимизации, позволяющих извлекать максимум вычислительной мощности из существующей инфраструктуры. В частности, компания занимается оптимизацией компилятора – связующего звена между кодом и аппаратным обеспечением GPU, – именно тех систем, которые создавали Фиоти столько трудностей на его предыдущей работе.
В настоящее время ведущим компилятором в индустрии является система CUDA от Nvidia – недооцененный элемент стремительного успеха компании. Поскольку многие компоненты CUDA являются открытыми, Luminal делает ставку на то, что в условиях дефицита GPU в индустрии будет значительная ценность в разработке остальной части стека.
Это часть растущей когорты стартапов, специализирующихся на оптимизации инференса, ценность которых возросла по мере того, как компании ищут более быстрые и дешевые способы запуска своих моделей. Поставщики инференса, такие как BaseTen и Together AI, давно специализируются на оптимизации, а небольшие компании, такие как Tensormesh и Clarifai, появляются, чтобы сосредоточиться на более специфических технических решениях.
Luminal и другие участники этой когорты столкнутся с жесткой конкуренцией со стороны команд оптимизации крупных лабораторий, которые имеют преимущество оптимизации под одну семью моделей. Работая с клиентами, Luminal вынуждена адаптироваться к любой модели, которая к ним поступает. Но даже несмотря на риск быть превзойденными гиперскейлерами, Фиоти утверждает, что рынок растет достаточно быстро, чтобы он не беспокоился.
"Всегда будет возможно потратить шесть месяцев на ручную настройку архитектуры модели на конкретном оборудовании, и вы, вероятно, превзойдете любые компиляторные решения," – говорит Фиоти. "Но наша главная ставка заключается в том, что для всего, что не требует такого уровня настройки, универсальное применение остается чрезвычайно ценным с экономической точки зрения."
Комментарии
Комментариев пока нет.