Nos últimos anos, o investimento em inteligência artificial (IA) tem crescido exponencialmente no Brasil, refletindo uma tendência global. No entanto, um estudo recente revela que as empresas estão adquirindo infraestrutura de IA a uma velocidade que supera sua capacidade de mensurar os custos associados. Essa situação gera um descompasso preocupante, conhecido como 'gap de computação'.
A pesquisa, que abrangeu 107 empresas, mostra que a maioria delas utiliza provedores de nuvem e APIs de modelos conhecidos, mas está cada vez mais direcionando seus investimentos para computação especializada, que ainda não é amplamente utilizada. A intenção de mudar ou adicionar provedores de infraestrutura é alta, com 64% das empresas planejando essa mudança nos próximos doze meses. Essa movimentação é um reflexo da busca por soluções mais integradas e com melhor custo-benefício.
Um dado alarmante é que 83% das empresas reportam uma utilização de GPU inferior a 50%. Isso indica que, apesar do investimento em infraestrutura, muitos recursos permanecem subutilizados. Além disso, menos da metade das empresas consegue rastrear rigorosamente os custos de sua computação em IA. Essa falta de visibilidade pode levar a decisões financeiras inadequadas e a um uso ineficiente dos recursos.
Outro ponto importante é que as empresas não estão satisfeitas com seus fornecedores atuais. A maioria busca alternativas que ofereçam melhor integração com suas operações existentes e um custo total de propriedade mais favorável. Curiosamente, o custo por milhão de tokens é um critério de decisão para apenas 8% das empresas, indicando que a escolha de provedores é mais complexa do que apenas olhar para preços.
Além disso, a transição de computação baseada em GPU para uma abordagem que prioriza a largura de banda de memória está começando a ser discutida, mas ainda é um tema pouco abordado por muitas empresas. Apenas 20% estão cientes dessa mudança iminente, o que pode impactar suas estratégias futuras.
Esse cenário é um alerta para as empresas brasileiras que desejam se destacar no mercado de IA. A falta de controle sobre os custos e a subutilização de recursos podem comprometer a competitividade. Portanto, é essencial que as organizações invistam em ferramentas e processos que permitam uma melhor visibilidade e gestão de suas infraestruturas de IA.
Para as empresas que ainda não iniciaram essa jornada, o primeiro passo é realizar um diagnóstico detalhado de sua infraestrutura atual. Identificar quais recursos estão sendo subutilizados e quais são as reais necessidades de computação pode ajudar a alinhar os investimentos com as expectativas de retorno. Além disso, considerar a adoção de soluções que ofereçam maior transparência nos custos pode ser um diferencial importante para garantir a sustentabilidade financeira dos projetos de IA no longo prazo.
