IA & InovaçãoNews
Tendência

Thinking Machines libera modelo de IA com 594 bilhões de parâmetros sob licença Apache 2.0

Inkling 2 Small tem pesos disponíveis para download e utiliza arquitetura que ativa apenas 17 bilhões de parâmetros por token, reduzindo a demanda computacional em relação ao tamanho total.

A Thinking Machines Lab disponibilizou os pesos do Inkling 2 Small, seu novo modelo de inteligência artificial, para download público sob licença Apache 2.0.

O lançamento amplia as possibilidades de utilização da tecnologia por desenvolvedores, pesquisadores e empresas que desejam executar e adaptar modelos de IA em suas próprias infraestruturas.

O Inkling 2 Small possui 594 bilhões de parâmetros totais, mas utiliza uma arquitetura chamada Mixture of Experts (MoE), que ativa aproximadamente 17 bilhões de parâmetros por token processado.

Nesse modelo, diferentes especialistas internos são acionados conforme a tarefa, permitindo aproveitar uma grande capacidade total sem ativar toda a rede a cada operação.

A tecnologia aceita entradas de texto e imagens e foi desenvolvida para tarefas como programação, raciocínio, análise de informações, construção de aplicações e execução de agentes autônomos.

Outro destaque é a janela de contexto de até um milhão de tokens, permitindo trabalhar com grandes volumes de informações em uma mesma interação.

A disponibilização dos pesos permite que desenvolvedores realizem ajustes, experimentos e implantações locais, sem depender exclusivamente de uma API fornecida pela empresa.

Entretanto, executar o modelo exige infraestrutura robusta. A versão principal, em formato NVFP4, demanda pelo menos 500 GB de memória de GPU agregada, segundo as especificações divulgadas.

A Thinking Machines também informou que o modelo passou por avaliações de segurança antes da liberação pública.

O lançamento reforça a expansão dos modelos de pesos abertos e amplia a disputa por soluções de inteligência artificial que possam ser adaptadas às necessidades de diferentes organizações.

A novidade também evidencia uma tendência importante: disponibilizar modelos cada vez maiores, mas com arquiteturas mais eficientes para selecionar quais recursos computacionais utilizar em cada tarefa.

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Botão Voltar ao topo
Vote Aqui - Prêmio CCB