A corrida pela inteligência artificial está criando um novo desafio para os gigantes da tecnologia: não basta instalar milhares de GPUs. É preciso fazer com que todas essas máquinas troquem informações com velocidade suficiente para funcionarem como um único sistema.
É justamente nesse gargalo que a Relativity Networks pretende atuar. A startup levantou US$ 22 milhões em uma nova rodada de financiamento para ampliar a comercialização de uma tecnologia de fibra óptica de núcleo oco voltada especialmente para grandes infraestruturas de inteligência artificial.
Além do investimento, a empresa conseguiu um pedido adicional de US$ 40 milhões de um grande operador de infraestrutura em nuvem, depois que sua tecnologia foi testada conectando dois data centers.
Fibra utiliza ar no lugar do vidro
A diferença está na maneira como a informação viaja pelo cabo.
Na fibra óptica tradicional, a luz responsável por transportar os dados percorre um núcleo de vidro.
A tecnologia desenvolvida pela Relativity Networks, chamada ChronoCore, utiliza uma estrutura conhecida como hollow-core fiber, ou fibra de núcleo oco.
Nesse sistema, grande parte da luz atravessa um espaço preenchido por ar no interior da fibra.
Parece uma mudança pequena, mas ela altera uma característica fundamental da transmissão: a luz consegue viajar mais rapidamente pelo ar do que através do vidro utilizado nas fibras convencionais.
Diferença pode chegar a microssegundos por quilômetro
Em uma conexão tradicional, um sinal leva aproximadamente cinco microssegundos para percorrer um quilômetro de fibra.
Com uma solução de núcleo oco, esse tempo pode cair para aproximadamente 3,5 microssegundos.
Para alguém navegando na internet, essa diferença provavelmente seria imperceptível.
Dentro de uma infraestrutura com dezenas de milhares de aceleradores de IA trocando informações continuamente, entretanto, cada microssegundo começa a importar.
Quanto maior a distância entre os equipamentos, maior o impacto acumulado da latência.
Data centers de IA estão ficando gigantes
A necessidade desse tipo de tecnologia está diretamente relacionada à expansão física dos data centers.
Os primeiros grandes clusters de inteligência artificial podiam concentrar boa parte da capacidade computacional dentro de um mesmo prédio.
Essa realidade está mudando.
Novos projetos podem ocupar centenas de hectares e reunir dezenas de edifícios. Em determinados casos, diferentes instalações precisam ser conectadas para que milhares de GPUs funcionem como parte de uma mesma infraestrutura computacional.
Nesse cenário, a rede deixa de ser apenas responsável por transportar dados.
Ela passa a determinar o desempenho do próprio sistema de IA.
O verdadeiro problema começa a ser energia
Existe outro motivo para espalhar os data centers geograficamente: eletricidade.
A construção de grandes centros de inteligência artificial está sendo limitada cada vez mais pela disponibilidade de energia.
Uma região pode possuir terrenos adequados para receber novos servidores, mas simplesmente não contar com capacidade suficiente na rede elétrica.
A alternativa é distribuir a infraestrutura por diferentes locais.
Isso resolve parcialmente o problema energético, mas cria outro: quanto maior a distância entre os clusters, maior a latência da comunicação.
A proposta da Relativity é utilizar conexões mais rápidas para ampliar a distância possível entre instalações sem ultrapassar os limites de latência exigidos pelas aplicações de IA.
Empresa também recebeu pedido de US$ 40 milhões
O financiamento de US$ 22 milhões não foi a única notícia relevante para a startup.
Um grande hyperscaler, cuja identidade não foi divulgada, realizou testes utilizando a tecnologia ChronoCore para conectar dois data centers.
Depois dos testes, a companhia fez um pedido adicional avaliado em US$ 40 milhões.
Para uma empresa que ainda está ampliando sua presença comercial, esse contrato funciona como uma validação importante da tecnologia.
O desafio agora será produzir fibra especializada em escala suficiente para atender grandes operadores de infraestrutura.
Cabo de 10 milímetros reúne 24 fibras
A empresa também atingiu recentemente um marco de fabricação em parceria com a Prysmian.
As duas companhias conseguiram produzir um cabo com 24 fibras de núcleo oco dentro de uma estrutura de apenas 10 milímetros de diâmetro.
Testes também demonstraram que o cabo pode ser instalado utilizando microdutos convencionais.
Essa compatibilidade é particularmente importante.
Uma tecnologia de telecomunicações pode oferecer desempenho superior, mas sua adoção se torna muito mais difícil se exigir que operadores substituam completamente a infraestrutura física existente.
Conseguir utilizar métodos tradicionais de instalação reduz essa barreira.
IA está criando uma nova corrida pelas redes
Durante a primeira fase da explosão da inteligência artificial, praticamente toda a atenção da indústria estava concentrada nas GPUs.
Depois surgiu outro gargalo: conectar essas GPUs dentro do data center.
Isso impulsionou investimentos enormes em switches, Ethernet de alta velocidade, InfiniBand e diferentes tecnologias de interconexão.
Agora começa uma terceira etapa.
Os clusters estão ficando tão grandes que a própria distância física entre os data centers está entrando na equação.
Essa mudança pode abrir um novo mercado para tecnologias ópticas de baixíssima latência.
Microssegundos começam a valer bilhões
O crescimento da Relativity Networks ilustra uma transformação importante na economia da inteligência artificial.
Quanto maiores ficam os modelos, mais importante se torna cada componente da infraestrutura.
GPUs precisam esperar dados.
Memórias precisam alimentar os processadores.
Switches precisam coordenar milhares de equipamentos.
E fibras precisam transportar informações entre prédios e data centers.
Se qualquer uma dessas etapas ficar lenta, parte da enorme capacidade computacional instalada pode permanecer ociosa.
É por isso que uma redução aparentemente pequena de alguns microssegundos pode representar ganhos relevantes quando aplicada a infraestruturas avaliadas em bilhões de dólares.
A próxima fronteira da inteligência artificial, portanto, pode não depender apenas de chips mais rápidos.
Pode depender também de fazer a informação viajar mais rapidamente entre eles.
