Microsoft teria conhecimento de problemas com a IA do Bing meses antes do lançamento

O chatbot da Microsoft, criado sobre o Bing, tem vindo a passar por algumas mudanças nos últimos dias. A empresa teve de aplicar limites sobre o mesmo, após ter sido verificado que conversas mais longas estariam a levar a respostas sem contexto para os utilizadores por parte da IA.

Isto levou a empresa a aplicar alguns limites nas conversas antes de ser necessário iniciar um novo tópico, bem como a aplicar limites sobre as conversas em geral que podem ser feitas por dia.

No entanto, apesar de os problemas apenas agora terem começado a surgir, parece que a empresa poderia ter conhecimento dos mesmos faz bastante mais tempo – quase desde novembro de 2022.

Alguns utilizadores na Índia terão obtido acesso ao Bing AI antes do resto do mundo, numa fase experimental da plataforma. Segundo o utilizador Ben Schmidt, que partilhou a descoberta no Mastodon, alguns utilizadores na Índia obtiveram acesso ao Sydney (nome interno usado para o chatbot da Microsoft) antes do resto dos países.

Entre estes, existem relatos que indicavam o facto de a IA estar a produzir respostas sem contexto específico para certas situações – o mesmo problema que foi agora reportado e confirmado pela empresa. Em alguns casos, a IA terá também começado a responder de forma consideravelmente mais agressiva.

Uma mensagem publicada no site de suporte da Microsoft, e associada com o chatbot, indica que o problema tinha sido verificado em Novembro de 2022. No entanto, na altura, o representante da Microsoft que tentou ajudar o utilizador sobre o problema não saberia exatamente ao que este se encontrava a referir – uma vez que o serviço de chatbot da empresa ainda seria desconhecido.

De acordo com o relato do utilizador, conforme este mais respondia às questões que eram colocadas, mais a IA passava para um tom rude e agressivo. Esta tendência foi exatamente o que os utilizadores começaram a verificar quando a versão final do chatbot ficou disponível e confirmada pela empresa.

Isto indica que a Microsoft poderia ter obtido informações sobre este problema antes do mesmo ter sequer surgido para o publico, mas infelizmente a mensagem passou despercebida durante meses no site de suporte da empresa.