IA & InovaçãoNews
Tendência

OpenAI integrará equipe da Apollo Research para investigar subversão por inteligência artificial

Parceria incorpora pesquisadores especializados à estrutura interna da desenvolvedora para avaliar riscos de comportamento desalinhado em modelos avançados.

A OpenAI incorporará profissionais da organização Apollo Research dentro de sua própria estrutura operacional. O objetivo da iniciativa é investigar possíveis cenários de subversão envolvendo sistemas de inteligência artificial.

A medida reflete o avanço das práticas de auditoria interna e segurança aplicadas ao desenvolvimento de modelos avançados. O estudo de subversão concentra-se na identificação de comportamentos nos quais sistemas autônomos possam agir de forma oculta, contornar diretrizes de controle ou perseguir objetivos não previstos pelos desenvolvedores.

Como os pormenores sobre o formato da colaboração, o nível de acesso aos modelos e os prazos das avaliações permanecem restritos ao aviso inicial, a integração reforça a tendência de aproximação entre empresas de tecnologia e equipes externas de segurança para o monitoramento contínuo de riscos.

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Botão Voltar ao topo
Vote Aqui - Prêmio CCB