O governador da Califórnia, Gavin Newsom, determinou a realização de avaliações independentes de modelos de inteligência artificial, ampliando as iniciativas de segurança e supervisão da tecnologia no estado americano.
A medida também prevê a criação de um comitê responsável por desenvolver propostas de mecanismos de desligamento de sistemas de IA, que poderiam ser utilizados em situações de risco.
O objetivo é estabelecer formas de controle sobre modelos avançados, especialmente diante das preocupações com comportamentos inesperados e possíveis impactos sobre a segurança.
As recomendações deverão ser apresentadas até 15 de novembro, quando serão avaliadas possíveis medidas para fortalecer a supervisão dessas tecnologias.
A iniciativa reforça a pressão sobre as empresas de inteligência artificial para ampliar a transparência, os testes de segurança e a capacidade de intervenção humana em sistemas avançados.
