A União Europeia (UE) planeja implementar novas regras para proteger crianças de chatbots que simulam emoções e relacionamentos, conforme anunciado nesta semana. As novas medidas fazem parte do EU Kids Act, que inclui restrições semelhantes ao acesso de menores a redes sociais e plataformas de compartilhamento de vídeos.

Restrições específicas

Menores de 13 anos serão proibidos de usar chatbots sem supervisão dos pais ou responsáveis, e plataformas digitais terão que incorporar proteções para crianças em seus produtos, sob pena de multas que podem chegar a 6% do faturamento global.

Os chatbots operando na UE também não poderão armazenar memórias de conversas separadas, pois a Comissão Europeia teme que isso possa levar a sistemas que acumulam dados sensíveis sobre menores ao longo do tempo e potencialmente reforçar padrões de interação prejudiciais.

Consequências e preocupações

A proposta visa especialmente achatbots de companheiros e conversacionais, considerados como possuindo riscos sérios para a saúde, segurança e bem-estar das crianças. O presidente Ursula von der Leyen destacou preocupações sobre a dependência de chatbots e seu impacto negativo no desenvolvimento infantil e nas relações interpessoais.