Por que Geoffrey Hinton decidiu ‘denunciar’ a tecnologia

Nova York (CNN) Geoffrey Hinton, “Padrinho da IA”, depois de ficar preocupado com o quão inteligente a tecnologia estava se tornando, decidiu “denunciar” a tecnologia que ajudou a criar, disse ele à CNN na terça-feira.

“Sou um cientista que de repente percebe que essas coisas estão ficando mais espertas do que nós”, disse Hinton em entrevista a Jake Tapper, da CNN, na terça-feira. “Quero denunciar e dizer que precisamos levar a sério como impedir que essas coisas assumam o controle sobre nós.”

O trabalho pioneiro de Hinton em redes neurais moldou os sistemas de inteligência artificial que impulsionam muitos dos produtos atuais. Na segunda-feira, ele ganhou as manchetes por deixar seu emprego no Google, onde trabalhou por uma década, para falar abertamente sobre suas crescentes preocupações com a tecnologia.

Em entrevista na segunda-feira O jornal New York Times, Hinton, que anunciou sua mudança pela primeira vez, disse estar preocupado com a capacidade da IA ​​de eliminar empregos e criar um mundo onde “a verdade não é mais conhecida”. Ele apontou para um ritmo impressionante de progresso, muito além do que ele e outros esperavam.

“Se for muito mais inteligente do que nós, será muito bom em manipulação, porque aprenderá conosco, e há alguns exemplos de como é controlado por uma coisa menos inteligente”, disse Hinton a Tapper. Na terça-feira.

“Ele sabe como programar, então encontra maneiras de contornar os controles que colocamos nele. Ele encontra maneiras de manipular as pessoas para que façam o que ele quer.”

Hinton não é o único líder em tecnologia a expressar preocupação com a IA. Muitos membros da comunidade assinaram carta de março Os laboratórios de inteligência artificial devem interromper o treinamento dos sistemas de IA mais poderosos por pelo menos seis meses, citando “riscos profundos para a sociedade e a humanidade”.

READ  Análise da Semana 7 do Fantasy Football - Quem entra e quem sai?

carta, Publicados pelo Future of Life Institute, uma organização sem fins lucrativos suportado Escrito por Elon Musk, veio duas semanas depois do OpenAI declarado O GPT-4 é uma versão ainda mais poderosa da tecnologia que alimenta o chatbot viral ChatGPT. Nos primeiros testes e em uma demonstração da empresa, o GPT-4 foi usado para desenhar casos, passar em testes padronizados e criar um site funcional a partir de um esboço feito à mão.

O fundador da Apple, Steve Wozniak, um dos signatários da carta, apareceu na “CNN This Morning” na terça-feira e expressou preocupações sobre seu potencial de espalhar desinformação.

“Trair é muito fácil para alguém que quer trair você”, disse Wozniak à CNN. “Nós realmente não fizemos nenhuma mudança a esse respeito – assumimos que as leis que temos em vigor cuidarão disso.”

Wozniak acrescentou que “algum tipo” de restrições pode ser necessário.

Hinton, por sua vez, disse à CNN que não assinou a petição. “Eu não acho que podemos parar o progresso”, disse ele. “Não estou assinando uma petição dizendo que devemos parar de trabalhar com IA, porque se as pessoas na América pararem, as pessoas na China não o farão”.

Mas ele admite que não há uma resposta clara sobre o que fazer.

“Não está claro para mim se podemos resolver esse problema”, disse Hinton a Tapper. “Acredito que precisamos fazer um grande esforço para pensar em maneiras de resolver o problema. Não tenho uma solução agora.”

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *