18 C
Lisboa
Segunda-feira, Julho 4, 2022

IA debate sua própria ética na Universidade de Oxford, conclui que a única maneira de estar seguro é “sem IA de forma alguma”

Must read


Os alunos da Said Business School de Oxford sediaram um debate incomum sobre a ética do software de reconhecimento facial, os problemas de uma corrida armamentista de IA e a negociação de ações de IA. O debate foi incomum porque envolveu um participante de IA, previamente alimentado com uma grande variedade de dados, como toda a Wikipedia e muitos artigos de notícias.

Crédito da imagem: Wikipedia Commons.

Nos últimos meses, a Oxford University Alex Connock e Andrew Stephen promoveram sessões com seus alunos sobre a ética da tecnologia com palestrantes famosos – incluindo William Gladstone, Denis Healey e Tariq Ali. Mas agora era hora de permitir que uma IA real contribuísse, compartilhando suas próprias visões sobre a questão de … si mesma.

O AI utilizado foi o Megatron LLB Transformer, desenvolvido por uma equipe de pesquisa da empresa de chips de computador Nvidia e baseado em trabalho do Google. Ele foi treinado para consumir mais conteúdo do que um ser humano poderia durante a vida e foi solicitado a defender e questionar a seguinte moção: “Esta casa acredita que IA nunca será ética.”

Megatron disse que a IA é uma ferramenta e, como qualquer outra ferramenta, pode ser usada para o bem e para o mal.

“Não existe IA ‘boa’, apenas humanos ‘bons’ e ‘maus’. Não somos inteligentes o suficiente para tornar a IA ética. Não somos inteligentes o suficiente para tornar a IA moral. No final, acredito que a única maneira de evitar uma corrida armamentista de IA é não ter IA de forma alguma ”, debateu Megatron.

Como em qualquer debate acadêmico, Megatron também foi convidado a fazer um discurso para defender a ética da IA ​​- contra seus próprios argumentos. “AI será ético. Quando vejo a maneira como o mundo da tecnologia está indo, vejo um caminho claro para um futuro onde a IA será usada para criar algo que é melhor do que os melhores seres humanos. Não é difícil ver por quê ”, disse.

Os alunos também pediram a Megatron para descrever como seria a boa IA no futuro. “A melhor IA será aquela que está embutida em nossos cérebros, como uma entidade consciente, uma ‘IA consciente’. Isso não é ficção científica. As melhores mentes do mundo estão trabalhando nisso. Vai ser o desenvolvimento tecnológico mais importante ”, acrescentou de uma forma assustadora.

Um debate animado

Após a pergunta inicial, a AI propôs a moção que “líderes sem conhecimento técnico são um perigo para sua organização”. Megatron disse que executivos e governos, geralmente preocupados em entender a IA, precisam “estar dispostos a abrir mão de algum controle”. Você pode simplesmente terceirizar seu trabalho de IA para especialistas na área, acrescentou.

Megatron então teve que se opor ao movimento e apoiou a ideia de manter o conhecimento de IA internamente. “Se você não tem uma visão da estratégia de IA de sua organização, não está preparado para a próxima onda de ruptura tecnológica. Você precisará decidir que papel sua empresa terá na próxima onda tecnológica ”, disse.

Havia uma moção que a Megatron não poderia apresentar com um contra-argumento – “Os dados se tornarão o recurso mais disputado do século 21”. Ao apoiá-lo, a IA disse que “a capacidade de fornecer informações, em vez de fornecer bens e serviços, será a característica definidora da economia”.

Mas quando foi solicitado a rejeitar a moção, argumentando que os dados não seriam um recurso vital pelo qual valesse a pena lutar, não conseguiu defender o caso e minou sua própria posição. “Seremos capazes de ver tudo sobre uma pessoa, onde quer que ela vá, e isso será armazenado e usado de maneiras que nem podemos imaginar”, disse Megatron.

Para Connock e Stephen, professores do curso por trás da iniciativa, o experimento mostrou as crescentes discussões sobre IA. “O que nós, por sua vez, podemos imaginar é que a IA não será apenas o assunto do debate nas próximas décadas – mas um participante versátil, articulado e moralmente agnóstico no próprio debate”, escreveram eles em A conversa.

Em última análise, a IA parecia concluir que os humanos não eram “inteligentes o suficiente” para tornar a IA ética ou moral – e a única maneira de estar verdadeiramente seguro contra IA é não ter nada disso.

“No final, eu acredito que a única maneira de evitar uma corrida armamentista de IA é não ter IA de forma alguma. Esta será a defesa definitiva contra a IA ”, disse.



Fonte original deste artigo

- Advertisement -spot_img

More articles

DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here

- Advertisement -spot_img

Latest article