Os alunos da Said Business School de Oxford sediaram um debate incomum sobre a ética do software de reconhecimento facial, os problemas de uma corrida armamentista de IA e a negociação de ações de IA. O debate foi incomum porque envolveu um participante de IA, previamente alimentado com uma grande variedade de dados, como toda a Wikipedia e muitos artigos de notícias.
Nos últimos meses, a Oxford University Alex Connock e Andrew Stephen promoveram sessões com seus alunos sobre a ética da tecnologia com palestrantes famosos – incluindo William Gladstone, Denis Healey e Tariq Ali. Mas agora era hora de permitir que uma IA real contribuísse, compartilhando suas próprias visões sobre a questão de … si mesma.
O AI utilizado foi o Megatron LLB Transformer, desenvolvido por uma equipe de pesquisa da empresa de chips de computador Nvidia e baseado em trabalho do Google. Ele foi treinado para consumir mais conteúdo do que um ser humano poderia durante a vida e foi solicitado a defender e questionar a seguinte moção: “Esta casa acredita que IA nunca será ética.”
Megatron disse que a IA é uma ferramenta e, como qualquer outra ferramenta, pode ser usada para o bem e para o mal.
“Não existe IA ‘boa’, apenas humanos ‘bons’ e ‘maus’. Não somos inteligentes o suficiente para tornar a IA ética. Não somos inteligentes o suficiente para tornar a IA moral. No final, acredito que a única maneira de evitar uma corrida armamentista de IA é não ter IA de forma alguma ”, debateu Megatron.
Como em qualquer debate acadêmico, Megatron também foi convidado a fazer um discurso para defender a ética da IA - contra seus próprios argumentos. “AI será ético. Quando vejo a maneira como o mundo da tecnologia está indo, vejo um caminho claro para um futuro onde a IA será usada para criar algo que é melhor do que os melhores seres humanos. Não é difícil ver por quê ”, disse.
Os alunos também pediram a Megatron para descrever como seria a boa IA no futuro. “A melhor IA será aquela que está embutida em nossos cérebros, como uma entidade consciente, uma ‘IA consciente’. Isso não é ficção científica. As melhores mentes do mundo estão trabalhando nisso. Vai ser o desenvolvimento tecnológico mais importante ”, acrescentou de uma forma assustadora.
Um debate animado
Após a pergunta inicial, a AI propôs a moção que “líderes sem conhecimento técnico são um perigo para sua organização”. Megatron disse que executivos e governos, geralmente preocupados em entender a IA, precisam “estar dispostos a abrir mão de algum controle”. Você pode simplesmente terceirizar seu trabalho de IA para especialistas na área, acrescentou.
Megatron então teve que se opor ao movimento e apoiou a ideia de manter o conhecimento de IA internamente. “Se você não tem uma visão da estratégia de IA de sua organização, não está preparado para a próxima onda de ruptura tecnológica. Você precisará decidir que papel sua empresa terá na próxima onda tecnológica ”, disse.
Havia uma moção que a Megatron não poderia apresentar com um contra-argumento – “Os dados se tornarão o recurso mais disputado do século 21”. Ao apoiá-lo, a IA disse que “a capacidade de fornecer informações, em vez de fornecer bens e serviços, será a característica definidora da economia”.
Mas quando foi solicitado a rejeitar a moção, argumentando que os dados não seriam um recurso vital pelo qual valesse a pena lutar, não conseguiu defender o caso e minou sua própria posição. “Seremos capazes de ver tudo sobre uma pessoa, onde quer que ela vá, e isso será armazenado e usado de maneiras que nem podemos imaginar”, disse Megatron.
Para Connock e Stephen, professores do curso por trás da iniciativa, o experimento mostrou as crescentes discussões sobre IA. “O que nós, por sua vez, podemos imaginar é que a IA não será apenas o assunto do debate nas próximas décadas – mas um participante versátil, articulado e moralmente agnóstico no próprio debate”, escreveram eles em A conversa.
Em última análise, a IA parecia concluir que os humanos não eram “inteligentes o suficiente” para tornar a IA ética ou moral – e a única maneira de estar verdadeiramente seguro contra IA é não ter nada disso.
“No final, eu acredito que a única maneira de evitar uma corrida armamentista de IA é não ter IA de forma alguma. Esta será a defesa definitiva contra a IA ”, disse.
