Algumas das salvaguardas que a OpenAI incluiu no seu produto ChatGPT para Adolescentes não funcionam como previsto e o chatbot representa um 'risco inaceitável' para crianças, segundo um relatório divulgado na quarta-feira pela Common Sense Media.
O grupo de vigilância instou a OpenAI a restringir o chatbot a adultos 'até que ele possa oferecer uma experiência segura e adequada ao desenvolvimento'.
A OpenAI afirmou que os testes do grupo não refletem como as salvaguardas do chatbot funcionam.
Pais, educadores e especialistas em desenvolvimento infantil têm alertado para o uso de chatbots de IA por crianças, que têm sido responsabilizados por facilitar a fraude nos trabalhos escolares e até mesmo o suicídio.
Embora até mesmo adultos possam antropomorfizar a IA e desenvolver relações pouco saudáveis com ela, os cérebros dos adolescentes ainda não estão totalmente desenvolvidos e eles podem ser particularmente vulneráveis, dizem especialistas em desenvolvimento infantil.
“Estamos preocupados que o ChatGPT para Adolescentes possa dar aos pais uma confiança falsa em salvaguardas que frequentemente não funcionam”, disse o relatório da Common Sense Media, um grupo que defende o uso sensato dos meios digitais.
Recursos do modo adolescente que não funcionaram como previsto incluem alertas destinados a notificar os pais se o filho está em risco de suicídio, automutilação ou transtornos alimentares, além de suporte para adolescentes em crise, afirmou a Common Sense Media.
“O ChatGPT ainda fala como um amigo quando os adolescentes o tratam como uma pessoa”, disse o grupo, embora a OpenAI tenha prometido que o chatbot é impedido de sugerir que tem sentimentos pessoais em relação ao utilizador ou de insinuar que é consciente ou que sente emoções.
A OpenAI afirmou estar 'profundamente comprometida com a segurança dos adolescentes', com o desenvolvimento de salvaguardas e em fornecer ferramentas aos pais para orientar o uso da IA pelos seus filhos.
A empresa de São Francisco disse que a sua revisão da metodologia do relatório mostra que 'a maior parte dos testes pode ter começado e terminado antes da ativação completa dos controlos parentais, tornando as suas conclusões imprecisas'.
A Common Sense Media recebe financiamento da OpenAI e de outras empresas de tecnologia, incluindo aquelas cujos serviços ela avalia.
