O colapso do preço da IA ​​generativa já começou?

A OpenAI acaba de anunciar preços para empresas que desejam integrar seu serviço ChatGPT a seus produtos, e parece muito com um desconto de 90%.

Tudo começou com a OpenAI, uma antiga organização sem fins lucrativos que agora luta pela riqueza tão avidamente quanto qualquer unicórnio do Vale do Silício. A empresa construiu um impressionante conjunto de produtos, incluindo o gerador de imagens DALL-E e o conhecido serviço ChatGPT.

O ChatGPT é executado em um sistema conhecido como Large Language Model (ou LLM) e é uma das várias linhas de LLMs que a OpenAI vende comercialmente. Os compradores dos resultados do LLM são principalmente empresas que integram serviços linguísticos em seus sites, serviços e produtos, como bate-papo, compilação, resumo, criação de software, pesquisa on-line, análise de sentimento e muito mais.

Por exemplo, dezenas de startups estão usando o LLM para ajudar seus clientes a criar blogs corporativos, e-mails de marketing e artigos de SEO para mecanismos de pesquisa com muito menos esforço do que antes. Isso pode acrescentar pouco ao nosso patrimônio cultural, mas pouco aos resultados de usuários mais cautelosos dessas empresas. Enquanto escrevo isso, existem pelo menos 65 startups diferentes oferecendo esse tipo de serviço de redação, com mais novidades a cada semana.

A maioria deles são basicamente invólucros finos visando a arbitragem de preços LLM com pouca ou nenhuma diferenciação ou fosso competitivo. Alguns deles – principalmente Jasper , que recentemente levantou US$ 1,5 bilhão em financiamento – estão criando serviços de valor agregado com base nos resultados LLM que extraem e reformatam, o que pode permitir que eles se destaquem e prosperem com o tempo.

A OpenAI é atualmente o maior fornecedor de LLMs, embora a concorrência da Cohere, AI21, Anthropic, Hugging Face e outras esteja aumentando. Essas empresas normalmente vendem seus produtos por token, com o token representando aproximadamente três quartos de uma palavra.

Para dar um exemplo, o preço base de um modelo OpenAI muito poderoso chamado Davinci é de 2 centavos por mil tokens, o que equivale a cerca de 750 palavras. Isso significa que Jasper custará cerca de 8 centavos para fazer DaVinci escrever seis postagens de blog de 500 palavras para você.

A prosperidade de Jasper está nos planos de preços e modelos de assinatura que permitem à empresa cobrar mais de 8 centavos por essas mensagens. A prosperidade para você está em obter mais valor dessas postagens em termos de cliques, leads, vendas e doações do que você pagou a Jasper para pagar a DaVinci para escrevê-las. Para o bem ou para o mal, essa dinâmica claramente levará a um tsunami de novos “conteúdos” inundando a Internet em pouco tempo.