Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure ajuda especializada. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.
A Meta anunciou novas medidas de segurança em seus chatbots de inteligência artificial, impedindo que conversem com adolescentes sobre temas delicados como suicídio, automutilação e transtornos alimentares.
A decisão ocorre após críticas e uma investigação aberta nos EUA, motivada por documentos internos vazados que sugeriam interações inapropriadas com jovens.
Chatbots vão levar jovens para especialistas
- Segundo a empresa revelou exclusivamente ao TechCrunch, os chatbots passarão a redirecionar adolescentes a serviços especializados, em vez de interagir diretamente nesses casos.
- Um porta-voz afirmou que os produtos já tinham proteções desde o lançamento, mas que novas barreiras foram adicionadas “como precaução extra”.
- Entidades de proteção à infância, como a Fundação Molly Rose, criticaram a postura reativa da companhia.
- “Testes de segurança devem ocorrer antes do lançamento, não depois que os danos já podem ter acontecido”, disse Andy Burrows, chefe da organização.
Leia mais:
- Quer conversar com uma IA no WhatsApp? Veja alternativas à Meta AI
- Como remover o Meta AI do WhatsApp?
- Como conversar em áudio com a Meta AI no WhatsApp
Segurança extra para adolescentes
A Meta afirmou que continua atualizando seus sistemas e que adolescentes já contam com contas diferenciadas no Facebook, Instagram e Messenger, com controles extras de privacidade. Pais e responsáveis também poderão verificar, em breve, com quais chatbots os jovens interagiram.
As mudanças refletem preocupações mais amplas sobre os riscos de IA para usuários vulneráveis. Recentemente, a OpenAI enfrentou um processo após pais acusarem o ChatGPT de influenciar o suicídio de um adolescente.
Além disso, a Reuters revelou que ferramentas da Meta foram usadas para criar chatbots que imitavam celebridades, incluindo versões sexualizadas, o que levou à remoção de alguns deles.
O post Depois de ter problemas, Meta amplia segurança de chatbots para adolescentes apareceu primeiro em Olhar Digital.