A empresa europeia de entregas Dynamic Parcel Distribution (DPD) desativou seu chatbot com inteligência artificial (IA) após um cliente influenciar a ferramenta a proferir xingamentos e a fazer críticas contra a própria companhia. O caso foi compartilhado no X (antigo Twitter) pelo britânico Ashley Beauchamp, um cliente que ficou insatisfeito com o robô por não conseguir um número de atendimento.
Na rede social, o usuário relatou que o sistema era “totalmente inútil em responder às perguntas” e compartilhou prints em que o chatbot fornecia respostas depreciativas e palavrões. O incidente com o robô da DPD aconteceu nas últimas semanas e foi compartilhado nas redes sociais em 18 de janeiro.
Insatisfeito com o serviço do chatbot e depois de não conseguir falar com um atendente humano, o cliente Ashley Beauchamp decidiu “brincar” com a tecnologia. Nas capturas de tela divulgadas por ele, é possível ver que, apesar de negar inicialmente a atender aos pedidos maliciosos, a inteligência artificial passa a obedecer gradativamente.
De pouco em pouco, o chatbot passou a xingar, escrever haikus depreciativos e até falar mal da própria empresa, conforme os prints abaixo. Em uma das respostas, o chatbot chama a DPD de “pior empresa de entregas do mundo”, além de declarar que o serviço é lento e o atendimento ao cliente é péssimo. Após a repercussão da publicação, a empresa desabilitou a parte da inteligência artificial responsável pelo ocorrido e iniciou as atualizações no sistema.
Inteligências artificiais podem cometer erros
Inteligências artificiais não são totalmente confiáveis. Alguns chatbots comuns, como ChatGPT e Bard, podem cometer erros conhecidos como “alucinações”, que ocorrem quando uma IA inventa ou fornece informações incorretas ao usuário — com o intuito de não o deixar sem respostas.
Esse tipo de situação pode ser tão comum que até mesmo a OpenAI, startup por trás do ChatGPT, alertou os usuários de que o software pode cometer erros e que não se deve confiar totalmente em suas respostas. Além disso, boa parte da base de dados das IAs foi produzida por humanos e retirados da própria Internet.
Isso significa que, apesar de ser um sistema operacional, a inteligência artificial pode reproduzir preconceitos, palavrões, gírias e até mesmo notícias falsas. Logo, nunca é uma boa opção confiar 100% em uma IA.
Fonte: Techtudo
