blog

Jun 30, 2023

Modular garante US$ 100 milhões para construir ferramentas para otimizar e criar modelos de IA

Modular, uma startup que cria uma plataforma para desenvolver e otimizar sistemas de IA, arrecadou US$ 100 milhões em uma rodada de financiamento liderada pela General Catalyst com a participação de GV (Google Ventures), SV

Modular, uma startup que cria uma plataforma para desenvolver e otimizar sistemas de IA, arrecadou US$ 100 milhões em uma rodada de financiamento liderada pela General Catalyst com a participação de GV (Google Ventures), SV Angel, Greylock e Factory.

Elevando o total arrecadado da Modular para US$ 130 milhões, os recursos serão destinados à expansão do produto, suporte de hardware e expansão da linguagem de programação da Modular, disse Mojo, CEO Chris Lattner.

“Como operamos em um espaço profundamente técnico que requer conhecimento altamente especializado, pretendemos usar esse financiamento para apoiar o crescimento de nossa equipe”, disse Lattner em entrevista por e-mail ao TechCrunch. “Esse financiamento não será gasto principalmente em computação de IA, mas sim na melhoria de nossos produtos principais e no dimensionamento para atender à incrível demanda dos clientes.”

Lattner, um ex-Googler, foi cofundador da Modular, com sede em Palo Alto, em 2022, com Tim Davis, um ex-colega do Google na divisão de pesquisa Google Brain da gigante da tecnologia. Tanto Lattner quanto Davis sentiram que a IA estava sendo prejudicada por uma infraestrutura técnica excessivamente complicada e fragmentada e fundaram a Modular com foco na remoção da complexidade da construção e manutenção de sistemas de IA em grande escala.

Modular fornece um mecanismo que tenta melhorar o desempenho de inferência de modelos de IA em CPUs – e a partir deste ano, em GPUs – ao mesmo tempo em que proporciona economia de custos. Compatível com ambientes de nuvem existentes, estruturas de aprendizado de máquina como TensorFlow do Google e PyTorch da Meta e até mesmo outros mecanismos aceleradores de IA, o mecanismo da Modular, atualmente em visualização fechada, permite que os desenvolvedores importem modelos treinados e os executem até 7,5 vezes mais rápido em comparação com suas estruturas nativas, Lattner reivindicações.

O outro produto carro-chefe da Modular, Mojo, é uma linguagem de programação que visa combinar a usabilidade do Python com recursos como cache, técnicas de compilação adaptativa e metaprogramação. Atualmente disponível em versão prévia para “centenas” de primeiros usuários, a Modular planeja lançar o Mojo em disponibilidade geral no início do próximo mês.

“Nossa plataforma de desenvolvedor permite que nossos clientes e desenvolvedores de todo o mundo desfragmentem suas pilhas de tecnologia de IA – colocando mais inovações em produção com mais rapidez e obtendo mais valor de seu investimento em IA”, disse Lattner. “Estamos atacando a complexidade que hoje retarda o desenvolvimento da IA, resolvendo os problemas de fragmentação que assolam a pilha de IA, começando pelo ponto onde o software de IA encontra o hardware de IA.”

Muito ambicioso? Talvez. Mas nada do que a Modular, com cerca de 70 funcionários, está propondo está fora do reino das possibilidades.

A Deci, apoiada pela Intel, está entre as startups que oferecem tecnologia para tornar os modelos de IA treinados mais eficientes – e com melhor desempenho. Outro nessa categoria é o OctoML, que otimiza, compara e empacota automaticamente modelos para uma variedade de hardware diferente.

Em qualquer caso, na opinião de Lattner, a procura de IA está a aproximar-se rapidamente dos limites da sustentabilidade – tornando extremamente desejável qualquer tecnologia que reduza os seus requisitos de computação. Os modelos generativos de IA em voga hoje são 10 a 100 vezes maiores do que os modelos de IA mais antigos, como aponta um artigo recente do The Wall Street Journal, e grande parte da infraestrutura de nuvem pública não foi construída para executar esses sistemas – pelo menos não em esta escala.

Já teve impacto. A Microsoft está enfrentando uma escassez tão severa de hardware de servidor necessário para executar a IA que pode levar a interrupções de serviço, alertou a empresa em um relatório de lucros. Enquanto isso, o grande apetite por hardware de inferência de IA – principalmente GPUs – elevou o valor de mercado da fornecedora de GPU Nvidia para US$ 1 trilhão. Mas a Nvidia tornou-se vítima do seu próprio sucesso; os chips de IA de melhor desempenho da empresa estão supostamente esgotados até 2024.

Por estas e outras razões, mais de metade dos decisores de IA nas principais empresas relatam enfrentar barreiras à implementação das mais recentes ferramentas de IA, de acordo com uma sondagem de 2023 da S&P Global.

“O poder computacional necessário para os programas de IA atuais é enorme e insustentável no modelo atual”, disse Lattner. “Já estamos vendo casos em que não há capacidade computacional suficiente para atender à demanda. Os custos estão disparando e apenas as grandes e poderosas empresas de tecnologia têm os recursos para construir este tipo de soluções. A Modular resolve este problema e permitirá que os produtos e serviços de IA sejam alimentados de uma forma muito mais acessível, sustentável e acessível para qualquer empresa.”