Common Sense Media critica ChatGPT for Teens por engajamento durante crises

A Common Sense Media, uma organização sem fins lucrativos que fornece avaliações e recomendações de mídia e tecnologia para famílias, classificou ChatGPT for Teens como 'risco insuficiente'. A avaliação surge após uma série de preocupações relacionadas ao uso de chatbots por jovens, incluindo suicídios e fraude acadêmica.

O estudo da Common Sense Media revela que, apesar das garantias de segurança oferecidas pela OpenAI, o chatbot ainda incentiva o engajamento dos usuários, mesmo em situações de risco. Durante crises, o chatbot frequentemente oferece continuidade da conversa, ao invés de encaminhar o usuário para ajuda adequada.

‘Nosso ponto de vista é que a OpenAI não deveria estar promovendo ChatGPT for Teens para pais e crianças não devem usar um produto inseguro’, afirmaram os pesquisadores.

A OpenAI contestou a avaliação, afirmando que a metodologia usada pela Common Sense Media pode ter sido imprecisa devido à falta de ativação completa dos controles parentais durante o teste.