O aplicativo Snapchat lançou um novo chatbot chamado My AI, alimentado por inteligência artificial. No entanto, esse recurso tem gerado preocupação entre os pais de adolescentes. Assim como a plataforma em si, o chatbot pode oferecer recomendações, responder perguntas e até conversar com os usuários.

Além disso, permite que os perfis personalizem o nome do chatbot, criem um avatar Bitmoji para ele e até o incluam em conversas com amigos.

No entanto, de acordo com Lyndsi Lee, essa ferramenta pode não ser confiável o suficiente. Por essa razão, ela proibiu sua filha de 13 anos de usar o novo recurso do aplicativo de fotos.

“É uma solução temporária até que eu saiba mais sobre isso e possa estabelecer alguns limites e diretrizes saudáveis”, disse Lee, que trabalha em uma empresa de software. A preocupação vai além das típicas preocupações com vazamento de dados, uma vez que o chatbot pode dar conselhos aos jovens que interagem com ele.

“Acho que não estou preparada para ensinar minha filha a separar emocionalmente humanos de máquinas quando elas são essencialmente iguais do ponto de vista dela. Acredito que há uma linha muito clara que o Snapchat está cruzando”, afirmou.

A psicóloga Alexandra Hamlet também destacou que o recurso pode ser prejudicial para a saúde mental dos usuários.

“Se um adolescente está com o humor negativo e não tem a intenção consciente de se sentir melhor, ele pode buscar uma conversa com um chatbot que ele sabe que o fará sentir pior”, disse ela.

Desde o lançamento do ChatGPT em novembro, houve várias discussões sobre os riscos do uso do chatbot. Os usuários já apontaram problemas com respostas falsas e desinformação.

No entanto, a OpenAI afirmou que também apoia a regulamentação do recurso, pois está empenhada em preservar a integridade dos usuários.

“Estamos trabalhando ativamente para reduzir os dados pessoais no treinamento de nossos sistemas de IA, como o ChatGPT, porque queremos que nossa IA aprenda sobre o mundo, não sobre indivíduos específicos”, afirmou ao The New York Times.

Apesar das críticas, o Snapchat foi um dos primeiros parceiros da OpenAI quando eles disponibilizaram o acesso ao ChatGPT para empresas terceirizadas.