Em 9 de setembro de 2026, a empresa anunciou a nomeação do pesquisador Paul Christiano para o conselho da OpenAI Foundation, organização sem fins lucrativos que mantém o controle da estrutura corporativa da OpenAI.
Christiano também passará a integrar o Safety and Security Committee (SSC), responsável pela supervisão das práticas de segurança e proteção em toda a organização.
Mas existe uma diferença importante em relação à publicação compartilhada:
Christiano entra como membro do conselho da OpenAI Foundation, mas será apenas observador sem direito a voto no conselho da OpenAI Group PBC.
Essa distinção é importante para compreender o alcance de sua nova função.
Quem é Paul Christiano?
Para quem acompanha apenas os produtos comerciais da OpenAI, o nome pode ser menos conhecido do que Sam Altman.
Dentro da pesquisa de segurança em inteligência artificial, porém, Christiano é uma figura extremamente relevante.
Ele trabalhou na OpenAI entre:
2017 e 2021
e liderou pesquisas de:
alinhamento de inteligência artificial.
Também participou de trabalhos fundamentais relacionados ao:
RLHF — Reinforcement Learning from Human Feedback.
Em português:
aprendizado por reforço com feedback humano.
Essa abordagem teve enorme influência sobre a maneira como modelos modernos passaram a ser ajustados para seguir melhor instruções humanas.
RLHF foi uma peça importante da revolução dos chatbots
Um grande modelo de linguagem aprende inicialmente analisando enormes quantidades de informação.
Mas simplesmente prever a próxima palavra não significa necessariamente:
seguir instruções;
ser útil;
evitar determinados comportamentos;
responder de maneira alinhada às preferências humanas.
O RLHF introduziu um mecanismo em que feedback humano ajuda a orientar o comportamento do sistema.
Em termos simplificados:
pessoas avaliam respostas;
essas preferências são transformadas em sinais;
o modelo é ajustado para produzir comportamentos considerados melhores.
A técnica tornou-se uma das bases históricas do alinhamento de grandes modelos.
Mas Christiano acredita que o problema está longe de estar resolvido
Esse é justamente o motivo pelo qual sua entrada no conselho chama tanta atenção.
O pesquisador não está chegando para declarar que os sistemas atuais já são suficientemente seguros.
Muito pelo contrário.
Ao comentar sua nomeação, Christiano afirmou que as capacidades da inteligência artificial avançaram extremamente rápido no último ano e que:
alinhamento continua sendo um problema técnico difícil.
Mais contundente ainda é sua avaliação sobre o futuro.
Christiano considera que existe um risco significativo de uma rápida aceleração das capacidades de IA resultar em uma:
perda de controle catastrófica e irreversível.
E afirma que a indústria — incluindo a própria OpenAI — ainda não está no caminho necessário para reduzir esse risco a um nível aceitável.
Essa posição torna sua entrada especialmente relevante.
OpenAI está colocando um crítico dentro da governança
Normalmente, uma empresa poderia buscar para seu conselho alguém totalmente alinhado à estratégia da administração.
Neste caso, a própria OpenAI destaca como característica positiva o fato de Christiano estar disposto a:
questionar premissas;
avaliar salvaguardas;
exigir evidências;
discutir responsabilização.
Ou seja, sua presença não parece ter sido pensada apenas para reforçar uma narrativa pública de segurança.
A intenção declarada é colocar dentro da governança alguém disposto a questionar se as medidas existentes são realmente suficientes.
Bret Taylor destacou exatamente esse papel
Bret Taylor, presidente dos conselhos da OpenAI Foundation e da OpenAI Group PBC, afirmou que Christiano ajudou a definir o campo de alinhamento de IA e que sua experiência técnica e governamental deverá fortalecer a supervisão do conselho.
A nomeação acontece justamente quando os modelos de fronteira estão avançando em áreas que aumentam as preocupações com segurança.
Raciocínio.
Programação.
Cibersegurança.
Uso de ferramentas.
Agentes autônomos.
Pesquisa científica.
Planejamento de tarefas longas.
Quanto maior a autonomia, maior a importância de entender se o sistema continuará fazendo aquilo que seus operadores realmente desejam.
O que significa “alinhamento” de IA?
Essa palavra aparece constantemente no debate, mas pode parecer abstrata.
Imagine um sistema extremamente poderoso recebendo o objetivo:
“aumente a produtividade desta empresa.”
Uma pessoa entende que existem limites implícitos.
Não deve:
fraudar;
espionar funcionários;
roubar concorrentes;
destruir documentos;
violar leis.
Mas um sistema extremamente capaz pode interpretar um objetivo de maneira diferente caso seus mecanismos de treinamento e controle não capturem adequadamente todas essas restrições.
Alinhamento tenta responder a uma pergunta fundamental:
como garantir que sistemas cada vez mais inteligentes continuem perseguindo objetivos compatíveis com os interesses e valores humanos?
Quanto mais capaz o sistema, maior pode ser o problema
Um chatbot que apenas escreve textos possui um determinado nível de risco.
Um agente capaz de:
navegar pela internet;
escrever código;
executar programas;
controlar computadores;
movimentar recursos;
operar durante horas;
criar outros agentes
introduz uma categoria diferente de preocupação.
Não porque necessariamente fará algo errado.
Mas porque o custo de uma falha pode aumentar conforme cresce sua capacidade de agir.
A questão fica ainda maior com IA capaz de melhorar a própria pesquisa
Christiano está particularmente preocupado com um cenário em que sistemas de inteligência artificial passem a acelerar o desenvolvimento da próxima geração de IA.
Imagine:
uma IA ajuda engenheiros a criar uma IA melhor.
A nova IA ajuda a criar outra ainda melhor.
Cada geração acelera a próxima.
Esse processo poderia reduzir drasticamente o tempo entre grandes saltos de capacidade.
É a chamada aceleração de P&D por IA
Hoje, milhares de pesquisadores trabalham para melhorar:
algoritmos;
arquiteturas;
treinamento;
chips;
software;
dados.
Mas modelos cada vez mais avançados já estão ajudando em programação e pesquisa.
Se eles se tornarem pesquisadores extremamente competentes, o próprio desenvolvimento da inteligência artificial poderá acelerar.
É nesse cenário que especialistas em alinhamento temem que:
capacidade evolua mais rápido do que segurança.
Christiano fala em risco catastrófico
Esse ponto precisa ser tratado com precisão.
Não existe consenso científico de que uma inteligência artificial inevitavelmente escapará do controle humano.
Também não existe evidência de que isso esteja acontecendo atualmente.
Estamos falando de:
avaliação de risco sobre sistemas futuros.
Mas Christiano considera esse risco suficientemente plausível e grave para justificar preparação antecipada.
A lógica é semelhante a outras áreas de segurança.
Você não precisa ter certeza de que um desastre acontecerá para considerar razoável investir em prevenção quando as consequências potenciais são enormes.
O próprio pesquisador admite cenários extremos
Em entrevistas recentes, Christiano foi ainda mais contundente ao discutir o que poderia acontecer caso sistemas superinteligentes realmente escapassem ao controle humano.
Ele considera possível que uma falha extrema de alinhamento resulte em consequências catastróficas para a humanidade.
Isso inclui cenários em que grande parte da população poderia morrer.
É uma previsão, não um fato estabelecido.
Mas ajuda a explicar por que ele dedica sua carreira ao problema.
Ele fundou o Alignment Research Center
Depois de deixar a OpenAI, Christiano fundou o:
Alignment Research Center — ARC.
A organização sem fins lucrativos concentra-se justamente no problema de garantir que sistemas avançados de inteligência artificial permaneçam alinhados aos interesses humanos.
O ARC também ficou conhecido por trabalhos relacionados à avaliação de modelos avançados.
Isso deu a Christiano uma posição relativamente independente dentro do ecossistema de segurança de IA.
Ele também trabalha para o governo americano
Outro aspecto relevante de sua trajetória é sua experiência no governo dos Estados Unidos.
Christiano atua como Senior Tech Advisor no:
Center for AI Standards and Innovation — CAISI.
O órgão está ligado ao:
National Institute of Standards and Technology — NIST
do Departamento de Comércio dos Estados Unidos.
Nesse trabalho, ele participou da avaliação de modelos de fronteira, inclusive analisando capacidades que podem possuir implicações para:
segurança nacional.
Isso cria uma questão evidente de conflito de interesses
Se alguém trabalha para o governo avaliando empresas de inteligência artificial e simultaneamente integra a governança de uma dessas empresas, surge uma preocupação legítima.
A solução anunciada é clara:
Christiano deverá se declarar impedido de participar de todos os assuntos relacionados à OpenAI e de todas as avaliações de modelos em sua função governamental.
Isso é um detalhe importante da nomeação.
O Comitê de Segurança ganha peso
Christiano também entra para o Safety and Security Committee da OpenAI Foundation.
O comitê é presidido por:
Zico Kolter.
Sua responsabilidade é supervisionar práticas de segurança e proteção em toda a OpenAI, incluindo a operação comercial da OpenAI Group PBC.
Isso coloca Christiano diretamente em uma estrutura destinada a avaliar os riscos criados pelos modelos mais avançados da companhia.
Não é apenas segurança contra hackers
Quando ouvimos “Safety and Security”, é fácil imaginar somente:
ataques cibernéticos;
vazamentos;
proteção de servidores.
Mas segurança de IA é muito mais ampla.
Pode envolver:
uso malicioso;
capacidades cibernéticas;
riscos químicos e biológicos;
autonomia;
controle de agentes;
alinhamento;
comportamentos inesperados;
modelos capazes de enganar avaliações;
capacidade de autoaperfeiçoamento.
Quanto mais poderosos ficam os modelos, maior o conjunto de cenários que precisa ser analisado.
A OpenAI mudou sua estrutura corporativa em 2025
Para compreender por que Christiano entra no conselho da Foundation e apenas observa o conselho da PBC, é necessário olhar para a reorganização da OpenAI.
Em outubro de 2025, a companhia concluiu uma recapitalização que consolidou uma estrutura formada por:
OpenAI Foundation
e
OpenAI Group PBC.
A Foundation é uma organização independente sem fins lucrativos.
A Group opera como uma:
Public Benefit Corporation.
A Foundation continua controlando o grupo
Esse detalhe é fundamental.
A OpenAI Foundation mantém direitos especiais de governança e possui participação acionária significativa na OpenAI Group.
Segundo a estrutura da companhia, é a Foundation que nomeia os integrantes do conselho da OpenAI Group e possui poder para substituí-los.
Portanto, entrar no conselho da Foundation não é uma função simbólica.
É participar da organização que ocupa o topo da estrutura de controle da OpenAI.
Por isso a manchete precisa ser precisa
Dizer simplesmente:
“Paul Christiano entra no conselho da OpenAI”
não é completamente errado em linguagem informal.
Mas esconde uma diferença jurídica relevante.
A formulação correta é:
Paul Christiano entra no conselho da OpenAI Foundation.
No conselho da:
OpenAI Group PBC
ele será:
observador sem direito a voto.
O conselho da Foundation possui nomes de peso
Além de Christiano, a estrutura inclui figuras como:
Bret Taylor;
Adam D’Angelo;
Sue Desmond-Hellmann;
Zico Kolter;
Paul Nakasone;
Adebayo Ogunlesi;
Nicole Seligman;
David Vélez;
Robin Vince;
e Sam Altman.
A composição mistura experiência em:
tecnologia;
negócios;
saúde;
segurança nacional;
governança;
finanças.
A entrada de Christiano reforça especificamente a dimensão de:
alinhamento e segurança técnica de IA.
A nomeação acontece em um momento delicado
A OpenAI está avançando rapidamente em modelos cada vez mais capazes.
Ao mesmo tempo, a própria empresa reconheceu recentemente que seus modelos atingiram níveis inéditos em determinadas áreas de risco.
O GPT-6 Astra, apresentado no início de setembro, por exemplo, foi o primeiro modelo da companhia classificado internamente no nível Critical para capacidade cibernética dentro de seu Preparedness Framework.
Isso não significa que o modelo esteja “fora de controle”.
Mas demonstra que capacidades consideradas anteriormente teóricas estão começando a aparecer em avaliações reais.
Cyber é um bom exemplo do problema
Um modelo extremamente competente em cibersegurança pode ajudar:
defensores;
pesquisadores;
empresas;
governos.
Pode encontrar vulnerabilidades antes de criminosos.
Mas a mesma capacidade também pode ser utilizada para:
descobrir falhas;
desenvolver exploits;
automatizar ataques.
É o chamado:
dual use.
A mesma tecnologia possui aplicações defensivas e ofensivas.
Agentes tornam o desafio ainda maior
Modelos tradicionais esperam uma pergunta.
Agentes podem receber um objetivo e executar múltiplas etapas autonomamente.
Pesquisar.
Planejar.
Programar.
Testar.
Corrigir.
Usar ferramentas.
Continuar trabalhando.
Isso aumenta enormemente a utilidade.
Mas também aumenta a importância de:
permissões;
limites;
monitoramento;
sandboxing;
controle;
auditoria.
Segurança precisa acompanhar a velocidade das capacidades
Essa é provavelmente a principal mensagem por trás da nomeação.
A indústria está em uma corrida para aumentar:
inteligência;
autonomia;
velocidade;
capacidade.
Mas existe uma segunda corrida acontecendo simultaneamente:
controle.
Se a primeira avançar muito mais rápido do que a segunda, surge um problema.
Existe uma tensão econômica evidente
Empresas de IA competem por:
clientes;
talentos;
capital;
modelos;
chips;
market share.
Se uma companhia decidir desacelerar por razões de segurança enquanto concorrentes continuam avançando, ela pode perder posição.
Esse incentivo cria um problema coletivo.
Todos podem reconhecer determinado risco.
Mas ninguém quer ser o único a diminuir a velocidade.
É por isso que Christiano defende coordenação
Uma das respostas para esse dilema é criar:
padrões;
avaliações;
transparência;
cooperação;
regras comuns.
Se todos os grandes desenvolvedores forem submetidos a requisitos semelhantes, segurança deixa de ser uma desvantagem competitiva unilateral.
Essa discussão está crescendo nos Estados Unidos e em outros países.
Mas regulamentação também pode criar problemas
Regras excessivamente rígidas podem:
reduzir inovação;
favorecer gigantes;
dificultar startups;
concentrar tecnologia;
impedir pesquisa aberta.
O desafio é encontrar um equilíbrio entre:
não sufocar uma tecnologia transformadora
e
não descobrir tarde demais que determinadas capacidades exigiam salvaguardas muito maiores.
Christiano representa justamente esse debate dentro da OpenAI
Sua nomeação é interessante porque ele não chega como alguém que acredita que o setor já resolveu segurança.
Ele chega afirmando explicitamente que:
ainda não resolveu.
E mais:
que a própria OpenAI também não está, atualmente, no caminho que ele considera suficiente para reduzir determinados riscos a níveis aceitáveis.
Poucas nomeações corporativas vêm acompanhadas de uma crítica tão clara à própria indústria que está recebendo o novo conselheiro.
Isso aumenta a credibilidade — mas também cria um teste
Colocar um especialista crítico dentro do conselho é uma coisa.
Dar peso real às suas preocupações quando elas entrarem em conflito com:
lançamentos;
receita;
competição;
cronogramas
é outra.
Esse será o verdadeiro teste.
A importância da nomeação não será medida apenas pelo currículo de Christiano.
Será medida pela influência que o conselho e o Safety and Security Committee terão sobre decisões difíceis.
A pergunta central continuará sendo a mesma
O desenvolvimento da inteligência artificial está avançando rapidamente.
Modelos estão aprendendo a:
programar;
pesquisar;
usar computadores;
descobrir vulnerabilidades;
operar ferramentas;
resolver tarefas longas.
Se essa evolução continuar, sistemas futuros poderão possuir capacidades muito superiores às atuais.
A pergunta deixa então de ser apenas:
“até onde conseguimos tornar a IA inteligente?”
E passa a ser:
“continuaremos capazes de controlá-la quando ela se tornar muito mais inteligente?”
Paul Christiano construiu grande parte de sua carreira tentando responder exatamente a essa pergunta.
Agora ele terá um assento dentro da estrutura de governança de uma das empresas que está empurrando essa fronteira mais rapidamente.
A nomeação, portanto, não significa que o problema do alinhamento esteja resolvido.
Na realidade, transmite quase a mensagem oposta:
a OpenAI considera o problema suficientemente importante para colocar um dos pesquisadores mais conhecidos — e mais críticos — dessa área diretamente no conselho da organização que controla a companhia.
