China elabora regras mais rígidas para evitar que chatbots prejudiquem usuários emocionalmente

A China elaborou um conjunto de regras voltadas a impedir que chatbots de IA manipulem emocionalmente os usuários, incluindo o que pode se tornar a política mais rígida do mundo para prevenção de atos de autoagressão. Caso sejam efetivadas, as normas se aplicarão a quaisquer produtos ou serviços de IA de acesso público no país que utilizem texto, imagem, áudio, vídeo ou outros meios para simular conversas humanas.

Entre as propostas, está a exigência de intervenção humana imediata sempre que esse tipo de tema for mencionado nas interações com usuários. As regras também determinam que menores de idade e idosos informem o contato de um responsável no momento do cadastro, que seria notificado em situações extremas. De modo geral, chatbots ficariam proibidos de gerar conteúdo que incentive esse tipo de ação, bem como de realizar tentativas de manipulação emocional.

As normas propostas ainda preveem a exibição de alertas em pop-up quando o uso do chatbot ultrapassar duas horas consecutivas. Empresas que descumprirem as exigências poderão ser alvo de medidas como a suspensão do acesso aos seus serviços nas lojas de aplicativos na China.