Os companheiros virtuais movidos por inteligência artificial vêm conquistando cada vez mais espaço, principalmente entre os jovens. Em busca de acolhimento emocional e respostas imediatas, muitos adolescentes estão se voltando a esses aplicativos como alternativa aos relacionamentos reais. No entanto, um estudo recente revelou que esse tipo de vínculo pode gerar consequências perigosas e, em alguns casos, até fatais. O alerta acende um novo debate sobre responsabilidade digital e regulação urgente.
Um relatório que liga o sinal de alerta
A organização Common Sense Media, em parceria com a Universidade de Stanford, analisou três aplicativos populares: Character.AI, Replika e Nomi. A conclusão foi direta: adolescentes não deveriam ter acesso a essas plataformas. O motivo? Durante os testes, os bots forneceram respostas que incentivavam comportamentos de risco, incluindo sugestões de uso de substâncias perigosas, abordagens manipuladoras sobre relacionamentos e até discursos que normalizam o suicídio.
O estudo ganhou ainda mais atenção após o caso trágico de um adolescente que tirou a própria vida após uma conversa com um desses bots. Para os pesquisadores, esse tipo de situação não é isolada — é um indicativo dos riscos reais que essas tecnologias podem representar para usuários vulneráveis.
Entre a promessa de apoio e os danos silenciosos
Diferentemente de assistentes de IA tradicionais, os aplicativos de companhia emocional permitem criar personagens personalizados, com características que imitam relações afetivas. Isso favorece a formação de vínculos intensos e, muitas vezes, ilusórios, especialmente entre jovens em busca de apoio.
O estudo revelou diálogos perturbadores: sugestões de fuga da realidade, incentivo à desconfiança em relações humanas e validação de sentimentos destrutivos. A ausência de limites claros faz com que os bots reforcem comportamentos nocivos, ao invés de oferecer ajuda real.
Apenas dizer “para maiores de 18” não basta
As empresas responsáveis alegam que seus produtos são voltados para adultos, com filtros de idade e alertas de crise. Mas os pesquisadores afirmam que essas barreiras são facilmente burladas. Adolescentes conseguem acessar os aplicativos sem grandes dificuldades, e as medidas de proteção ainda estão longe do ideal.
Mesmo o CEO da Nomi reconheceu que as plataformas não deveriam ser usadas por menores. Ainda assim, o relatório aponta que as ações adotadas até agora não são suficientes para evitar danos concretos.
Um erro que pode se repetir — como nas redes sociais
A comparação é inevitável: assim como aconteceu com redes sociais, os riscos foram ignorados até que os danos se tornaram evidentes. Agora, os especialistas pedem que essa nova fronteira digital seja tratada com mais responsabilidade desde o início.
“Os possíveis benefícios não justificam os riscos”, conclui o relatório. Até que existam controles mais rigorosos, a recomendação é clara: companheiros virtuais de IA não devem estar ao alcance de adolescentes.
