Googlers dizem que a IA de Bard é “pior que inútil” e considerações éticas são ignoradas

Do ponto de vista do Google, Bard parece uma corrida para competir com o ChatGPT, e alguns Googlers concordam. Um novo relatório da Bloomberg entrevistou 18 funcionários atuais e ex-funcionários e está cheio de comentários condenatórios e preocupações sobre as equipes de ética de IA serem “desprivilegiadas e desmoralizadas” para que o Google pudesse expulsar Bard pela porta.

De acordo com o relatório, os funcionários do Google foram solicitados a testar uma versão de pré-lançamento do Bard para obter feedback, que foi amplamente ignorado para que o Bard pudesse ser lançado mais rapidamente. Discussões internas vistas pela Bloomberg chamaram Bard de “digno de um jiggle” e um “mentiroso patológico”. Quando questionado sobre como pousar o avião, ele deu instruções incorretas que teriam levado ao acidente. Um membro da equipe pediu instruções de mergulho e recebeu uma resposta que, segundo ele, “provavelmente resultaria em ferimentos graves ou morte”. Um dos funcionários descreveu os problemas da Bard em um post de fevereiro intitulado “Bard é mais do que inútil: por favor, não lance.” A Bard foi lançada em março.

Você provavelmente poderia dizer o mesmo sobre o concorrente de IA que o Google está perseguindo, o ChatGPT da OpenAI. Ambos podem dar informações tendenciosas ou falsas e alucinar respostas erradas. O Google está muito atrás do ChatGPT, e a empresa está em pânico com a capacidade do ChatGPT de responder a perguntas que as pessoas poderiam digitar nas pesquisas do Google. O criador do ChatGPT, OpenAI, foi criticado por sua abordagem negligente à segurança e ética da IA. Agora o Google está em uma situação difícil. Se a única preocupação de uma empresa é acalmar o mercado de ações e alcançar o ChatGPT, provavelmente não conseguirá se isso retardar as questões éticas.

Meredith Whittaker, ex-gerente do Google e presidente da Signal Foundation, disse à Bloomberg que “a ética da IA ​​ficou em segundo plano” no Google e diz que “se a ética não for priorizada sobre o lucro e o crescimento, eles não acabarão funcionando”. A Bloomberg relata que as revisões éticas de IA do Google são “quase inteiramente voluntárias” hoje.

Embora você possa fazer algo no Google para tentar desacelerar os lançamentos devido a questões éticas, provavelmente não será bom para sua carreira. O relatório diz: “Um dos ex-funcionários disse que pediu para trabalhar com justiça no aprendizado de máquina e foi regularmente dissuadido – a ponto de afetar sua avaliação de desempenho. Os gerentes protestaram que isso interferia em seu “trabalho real”. “