Geoffrey Hinton, padrinho da IA, propõe “instinto materno” para manter tecnologia sob controle humano

Hinton afirma estar cético quanto à eficácia das proteções que empresas de IA estão desenvolvendo para garantir que os humanos mantenham domínio sobre sistemas mais avançados.

Como solução, ele propõe incorporar aos modelos o que chama de “instintos maternos” – o cuidado e a proteção que uma mãe dedica a um bebê – para que as máquinas realmente se importem com as pessoas, algo que considera essencial quando a tecnologia alcançar níveis de inteligência artificial geral (AGI) superiores à capacidade humana.

Hinton alerta que, atualmente, as empresas do setor estão mais focadas em aumentar a inteligência das IAs do que em desenvolver nelas empatia pelos seres humanos.

Yann LeCun, também reconhecido como “padrinho da IA”, concorda com a preocupação e defende que a arquitetura desses sistemas seja projetada de forma que suas ações se limitem a atingir objetivos definidos pelos usuários, sempre submetidos a barreiras de segurança. Ele denomina esse conceito de “IA orientada a objetivos” e afirma que as duas barreiras mais importantes são a submissão aos humanos e a empatia.