Funcionários do Google chamam Bard AI de “mentiroso”, “inútil” e “digno de vergonha”

O Google lançou o chatbot Bard da empresa no mês passado, enquanto tentava acompanhar a corrida da IA ​​generativa. Mas a gigante da tecnologia deveria ter demorado mais com seu projeto. De acordo com um novo relatório, os funcionários disseram ao Google para não lançar o Bard, chamando-o de “mentiroso patológico”, “digno de vergonha” e “pior do que inútil”.

Leia também: Google usa inteligência artificial para tornar as informações mais úteis

O problema do Google Bard

Ouvimos em fevereiro que o Google estava correndo para lançar sua própria tecnologia semelhante ao ChatGPT por temer que fosse deixado para trás na revolução da IA ​​generativa após a chegada da tecnologia da OpenAI. Um mês depois, Bard foi exibido para um público não impressionado em uma demonstração que viu o chatbot dar uma resposta errada. Mesmo assim, o Google decidiu lançar o Bard em março.

De acordo com um novo relatório da Bloomberg, citando documentação interna e 18 funcionários atuais e antigos, poderia ter sido mais prudente para o Google continuar polindo Bard antes de permitir o acesso antecipado à IA “experimental”.

Algumas das críticas incluíram um funcionário escrevendo: “Bard é pior do que inútil: por favor, não lance”, em um grupo de mensagens interno visto por 7.000 pessoas, muitas das quais concordaram com a avaliação. Outro funcionário pediu a Bard sugestões sobre como pousar um avião, às quais ele regularmente dava respostas que causariam um acidente. Bard também deu respostas sobre mergulho que “provavelmente resultariam em ferimentos graves ou morte”.

Apesar dos apelos dos trabalhadores, o Google “rejeitou uma avaliação de risco” enviada por uma equipe de segurança interna alertando que Bard não estava pronto para ser liberado.

As fontes da Bloomberg dizem que o Google, em uma tentativa de acompanhar os rivais, está oferecendo informações de baixa qualidade, dando menos prioridade aos compromissos éticos. Alega-se que a equipe responsável pela segurança e implicações éticas de novos produtos foi instruída a ficar longe de ferramentas generativas de IA em desenvolvimento.

O Google, que removeu o lema “Não seja mau” de seu código de conduta em 2018, demitiu o pesquisador de IA Timnit Gebru em 2020 depois que ela escreveu um artigo de pesquisa sobre sistemas de linguagem de IA antiéticos. Margaret Mitchell – a colíder da equipe de IA ética da empresa que também escreveu o artigo – foi demitida alguns meses depois devido a alegações de má conduta.

Meredith Whittaker, ex-gerente do Google, disse à Bloomberg que “a ética da IA ​​ficou em segundo plano” na empresa.

O Google está ficando para trás em suas ambições de IA generativa no mesmo ritmo que a Microsoft está avançando. A integração de recursos de IA no Bing não apenas ultrapassou 100 milhões de usuários ativos diários pela primeira vez na história do navegador, mas também levou a Samsung a considerar a mudança do Google para o Bing como o mecanismo de pesquisa padrão de seus dispositivos.