Nova arquitetura de IA promete decisões até 200 vezes mais rápidas
A TypeSafe AI apresentou o Jev, seu primeiro modelo de uma nova categoria chamada “System One Models”. Em vez de gerar textos palavra por palavra como os grandes modelos de linguagem tradicionais, a tecnologia foi criada para tomar decisões estruturadas rapidamente e entregar resultados que possam ser usados diretamente por sistemas de software.
A startup foi fundada por Diogo Almeida, que trabalhou na OpenAI no desenvolvimento de métodos que ajudaram a tornar modelos de linguagem capazes de seguir instruções e conversar com usuários — trabalho que posteriormente serviu de base para o ChatGPT. Após dois anos operando em modo reservado, a TypeSafe agora abriu o Jev para acesso antecipado.
Como funciona o Jev
A principal diferença está na forma como o modelo produz respostas. Modelos de linguagem convencionais geram sequências de texto de maneira autoregressiva, escolhendo um token após o outro. O Jev abandona essa abordagem e produz decisões estruturadas em paralelo.
Na prática, o sistema recebe informações não estruturadas, como texto, mas devolve valores previamente definidos pelo desenvolvedor, acompanhados de probabilidades e níveis de confiança. A ideia é permitir que o resultado seja consumido diretamente por programas, sem a necessidade de interpretar ou validar uma resposta em linguagem natural.
Essa arquitetura também significa que o Jev não foi desenvolvido para escrever textos, conversar ou gerar código da mesma maneira que um LLM tradicional. Seu foco está em tarefas como classificar informações, escolher rotas, calcular pontuações, extrair dados e decidir qual caminho um fluxo de software deve seguir.
Novo método de treinamento
A TypeSafe também criou um processo de treinamento chamado Reinforcement Learning for Calibrated Decisions, ou RLCD. O método busca otimizar decisões probabilísticas e calibradas, em vez de priorizar respostas que agradam avaliadores humanos ou resultados que podem ser verificados posteriormente.
O objetivo é fazer com que o nível de confiança informado pelo modelo corresponda melhor à probabilidade real de ele estar correto. Essa característica é considerada especialmente importante em processos automatizados, nos quais um sistema precisa identificar quando há incerteza antes de executar determinada ação.
Os resultados também obedecem a estruturas definidas previamente. Por isso, o Jev não pode produzir um tipo de dado diferente do esperado pelo programa. A TypeSafe relaciona essa característica à redução de problemas que, em modelos tradicionais, podem aparecer na forma de respostas inventadas ou chamadas de ferramentas incompatíveis com o sistema.
Respostas entre 70 e 500 milissegundos
Um dos principais argumentos da nova arquitetura é a velocidade. A TypeSafe informa tempos de resposta de ponta a ponta entre 70 e 500 milissegundos. Dependendo da tarefa comparada, isso representaria uma execução entre 40 e 200 vezes mais rápida do que modelos de fronteira utilizados em consultas semelhantes.
Nos testes de workflows publicados pela startup, o ganho chegou a 193,6 vezes em velocidade e 444,6 vezes em custo. A própria equipe reconhece que esses números estão provavelmente entre os maiores ganhos que devem aparecer em aplicações reais e aponta possíveis fontes de viés na metodologia de avaliação.
O serviço foi anunciado com preço de US$ 0,042 por milhão de tokens de entrada. As saídas não são cobradas separadamente porque, diferentemente dos LLMs, o modelo não precisa gerar longas sequências de tokens para apresentar sua decisão.
Automação é o principal foco
A proposta do Jev não é substituir completamente os modelos de linguagem, mas ocupar uma função diferente dentro de sistemas de IA. Enquanto LLMs continuam adequados para conversas, produção de conteúdo, programação e outras tarefas abertas, o novo modelo foi projetado para situações em que uma aplicação precisa tomar muitas decisões rápidas e previsíveis.
Entre os usos apresentados estão classificação e roteamento de informações, análise de grandes volumes de dados, aplicações em tempo real e sistemas capazes de avaliar ou verificar respostas produzidas por outros modelos de IA.
A TypeSafe também demonstrou o Jev controlando um bot no jogo Doom a partir de informações estruturadas sobre o estado da partida e participando de desafios de “Wikiracing”, nos quais o sistema precisa navegar entre páginas da Wikipédia escolhendo sucessivamente entre grandes conjuntos de links.
A busca por uma IA mais integrada ao software
O lançamento coloca em evidência uma abordagem diferente para a evolução da inteligência artificial. Em vez de concentrar esforços apenas em modelos capazes de produzir respostas cada vez mais sofisticadas em linguagem natural, a TypeSafe aposta em sistemas especializados em decisões rápidas e diretamente integráveis ao código.
O Jev ainda está em acesso antecipado, e seus resultados apresentados até agora vêm principalmente de avaliações desenvolvidas pela própria TypeSafe. A startup está liberando gradualmente o acesso para desenvolvedores e pretende usar essa fase para identificar os tipos de automação em que a arquitetura funciona melhor — e também aqueles em que ainda apresenta limitações.