Canadá e Alemanha anunciaram um financiamento de 300 milhões de dólares canadenses para apoiar a LawZero, organização de pesquisa em inteligência artificial fundada pelo cientista Yoshua Bengio. A iniciativa pretende acelerar o desenvolvimento de tecnologias voltadas à segurança e ao controle de sistemas avançados de IA.
A LawZero trabalha no desenvolvimento de modelos capazes de avaliar o comportamento de outras inteligências artificiais, identificar situações perigosas e reduzir riscos associados ao uso de sistemas cada vez mais autônomos.
A proposta inclui pesquisas sobre mecanismos de supervisão que possam detectar comportamentos inadequados antes que provoquem consequências no mundo real.
O investimento ocorre em um momento de rápida evolução dos modelos de inteligência artificial, que estão ganhando capacidade para executar tarefas complexas, utilizar ferramentas digitais e tomar decisões com menor intervenção humana.
Bengio, um dos pioneiros do aprendizado profundo, defende o desenvolvimento de sistemas de segurança que funcionem de maneira independente dos modelos responsáveis pela execução das tarefas.
O financiamento anunciado reforça a participação dos governos no desenvolvimento de tecnologias de proteção para a IA. Ainda será necessário acompanhar como os recursos serão distribuídos e quais resultados científicos serão alcançados pela organização.
A iniciativa amplia os esforços internacionais para criar mecanismos de segurança capazes de acompanhar o avanço da inteligência artificial.
