
A OpenAI incorporará profissionais da organização Apollo Research dentro de sua própria estrutura operacional. O objetivo da iniciativa é investigar possíveis cenários de subversão envolvendo sistemas de inteligência artificial.
A medida reflete o avanço das práticas de auditoria interna e segurança aplicadas ao desenvolvimento de modelos avançados. O estudo de subversão concentra-se na identificação de comportamentos nos quais sistemas autônomos possam agir de forma oculta, contornar diretrizes de controle ou perseguir objetivos não previstos pelos desenvolvedores.
Como os pormenores sobre o formato da colaboração, o nível de acesso aos modelos e os prazos das avaliações permanecem restritos ao aviso inicial, a integração reforça a tendência de aproximação entre empresas de tecnologia e equipes externas de segurança para o monitoramento contínuo de riscos.



