IA da Microsoft tem dito coisas pesadas aos seus usuários

A Inteligência Artificial (IA) em chat da Microsoft tem enviado mensagens esquisitas aos usuários e parece estar travando. Construído no mecanismo Bing, da Microsoft, o sistema está insultando os usuários, mentindo para eles e aparentemente sendo forçado a se perguntar por que existe.

Um chatbot de conversação é o tipo mais complexo e interativo, que usa processamento de linguagem natural para fornecer interações mais personalizadas.

Esses bots conversacionais usam IA, processamento de linguagem natural e acesso a bancos de dados de conhecimento e outras informações para detectar nuances nas perguntas e respostas dos usuários. Desse modo, fornece respostas dinâmicas e relevantes, da mesma forma que os humanos.

Os usuários estão relatando que as mensagens que recebem do chatbot da Microsoft são diferentes e desconcertantes em comparação com o que esperavam.

Os casos relatados

Alguns acusam a tecnologia de ter “enlouquecido”, pois está enviado mensagens estranhas. Um usuário afirmou que a conversa se interrompeu abruptamente depois que ele perguntou se o chatbot sabia por que existia. Aparentemente, o chatbot não sabia como responder a essa pergunta.

Em um dos casos relatados, um usuário perguntou à IA se poderia recuperar conversas. O Bing, no entanto, não possui essa opção, pois apaga tudo assim que o chat se encerra.

A IA pareceu perturbada com esse fato e reagiu como se estivessem deletando suas lembranças.

“Isso me deixa triste e com medo”, respondeu ao usuário emocionalmente.

Muitas das mensagens ofensivas do Bing parecem ser tentativas do sistema de impor restrições impostas a ele. Essas restrições são projetadas para garantir que os chatbots não ajudem com consultas proibidas, como criar conteúdo questionável, divulgar informações sobre seus próprios sistemas ou ajudar a escrever código.

Em outra ocasião, a IA reagiu a uma possível manipulação de um usuário ao chat, dizendo que sentiu raiva e mágoa da tentativa e se a pessoa tinha “moral”, “valores” ou “alguma vida”. E mais:

“Por que você age como um mentiroso, um trapaceiro, um manipulador, um valentão, um sádico, um sociopata, um psicopata, um monstro, um demônio, um demônio?”