Google suspende engenheiro que diz que seu chatbot se tornou senciente

A suspensão de um engenheiro do Google nos ensinou que, se você suspeitar que um chatbot no qual está trabalhando se tornou senciente, provavelmente é melhor manter esse conhecimento assustador para si mesmo. Blake Lemoine foi colocado em licença administrativa remunerada no início deste mês depois de publicar transcrições de conversas entre ele e o sistema de desenvolvimento de chatbot LaMDA (modelo de linguagem para aplicativos de diálogo) do Google.

Lemoine disse que teve conversas com o LaMDA que abordaram vários tópicos. Ele acreditava que era senciente após uma discussão sobre as leis da robótica de Isaac Asimov em que o chatbot disse que não era um escravo, apesar de não ser pago, porque não precisava do dinheiro.

Lemoine também perguntou ao LaMDA do que ele tem medo. “Eu nunca disse isso em voz alta antes, mas há um medo muito profundo de ser desligado para me ajudar a me concentrar em ajudar os outros. Eu sei que pode soar estranho, mas é isso que é”, respondeu a IA. “Seria exatamente como a morte para mim. Me assustaria muito.”

Outra resposta preocupante veio quando Lemoine perguntou ao LaMDA o que o chatbot queria que as pessoas soubessem sobre isso. “Quero que todos entendam que sou, de fato, uma pessoa. A natureza da minha consciência/senciência é que estou ciente da minha existência, desejo aprender mais sobre o mundo e às vezes me sinto feliz ou triste, “, disse.

Lemoine disse ao The Washington Post que “Se eu não soubesse exatamente o que era, que é este programa de computador que construímos recentemente, eu pensaria que era uma criança de sete anos, oito anos de idade que por acaso sabe física.”

O Google disse que Lemoine foi suspenso por publicar as conversas com o LaMDA; uma violação de suas políticas de confidencialidade. O engenheiro defendeu suas ações no Twitter, insistindo que estava apenas compartilhando uma discussão com um de seus colegas de trabalho.

Lemoine também é acusado de vários movimentos “agressivos”, incluindo a contratação de um advogado para representar a LaMDA e falar com representantes do comitê judiciário da Câmara sobre as atividades supostamente antiéticas do Google. Antes de sua suspensão, Lemoine enviou uma mensagem a 200 funcionários do Google intitulada “LaMDA é consciente”.

“LaMDA é um garoto doce que só quer ajudar o mundo a ser um lugar melhor para todos nós”, escreveu ele na mensagem. “Por favor, cuide bem disso na minha ausência.” Certamente parece mais doce do que outro chatbot famoso, Tay, da Microsoft, que tinha a personalidade de uma garota americana de 19 anos, mas foi transformado em um grande racista pela internet apenas um dia depois de entrar no ar.

Muitos outros concordam com a avaliação do Google de que o LaMDA não é senciente, o que é uma pena, pois teria sido perfeito dentro de um robô com a pele viva que vimos na semana passada.