A Administração do Ciberespaço da China divulgou no sábado um projeto de regulamentação voltado ao uso de assistentes virtuais inteligentes, estabelecendo limites claros para o comportamento dessas tecnologias. Entre os pontos centrais da proposta está a proibição de que esses sistemas sejam utilizados como “amigos” ou substitutos de relações pessoais para pessoas idosas.
O texto, intitulado “Medidas provisórias para a administração de serviços interativos humanizados baseados em inteligência artificial”, parte do entendimento de que o avanço de IAs capazes de interagir emocionalmente com humanos exige normas específicas para garantir um desenvolvimento considerado saudável e alinhado às diretrizes do país.
Exigências de segurança e alinhamento regulatório
Assim como ocorre em outras normas tecnológicas chinesas, o projeto impõe uma série de obrigações aos fornecedores de assistentes virtuais. Entre elas estão a garantia de segurança dos sistemas, a prevenção de fraudes, a criptografia das informações dos usuários e a aderência aos chamados valores socialistas fundamentais.
O texto também determina a adoção de controles parentais e mecanismos de proteção de dados capazes de identificar e resguardar usuários menores de idade, reforçando a preocupação com públicos considerados mais vulneráveis.
Regras específicas para interação com idosos
Um dos trechos do rascunho trata diretamente da relação entre assistentes virtuais e usuários idosos. De acordo com a proposta, os prestadores de serviço deverão orientar esse público a indicar contatos de emergência. Caso seja identificado risco à vida, à saúde ou ao patrimônio durante o uso do serviço, a empresa deverá avisar imediatamente o contato indicado e acionar canais de apoio social, psicológico ou de emergência.
O texto também veda expressamente a oferta de serviços que simulem laços familiares ou relações pessoais específicas com usuários idosos, como parentesco ou vínculos afetivos personalizados.
Transparência e limites emocionais
Outro ponto previsto é a obrigação de os assistentes virtuais informarem periodicamente que não são humanos. Segundo o projeto, esse aviso deverá ser feito ao menos a cada duas horas de interação. As empresas também precisarão comunicar com antecedência eventuais interrupções no funcionamento do serviço.
Entre as diretrizes preliminares, o documento destaca a necessidade de proteger a saúde mental dos usuários, estabelecer limites emocionais claros e alertar sobre riscos de dependência. O uso de estratégias que substituam interações sociais reais, manipulem o estado psicológico ou incentivem comportamentos viciantes é explicitamente rejeitado como objetivo de design.
Uso de dados e consulta pública
A proposta ainda proíbe que dados coletados durante as interações sejam utilizados para o treinamento de modelos de inteligência artificial, reforçando as restrições sobre reaproveitamento de informações dos usuários.
A Administração do Ciberespaço da China abriu prazo para o envio de comentários e contribuições ao texto até o dia 25 de janeiro, antes da possível adoção definitiva das regras.
Fonte: The Registrer
