01/02/2023 - 9:18
Quem nasceu nos anos 1990 certamente conhece o filme A.I. – Inteligência Artificial, onde conhecemos David, interpretado por Haley Joel Osment. A doçura da criança robô, 20 anos depois, pode não ser a mesma dos novos softwares “sobre humanos”: uma IA avançada, segundo pesquisadores da Universidade de Oxford, pode ser uma ameaça para a humanidade.
Algoritmos sobre humanos que superam a humanidade estão a caminho e podem representar ameaça para os seres humanos, disseram pesquisadores da Universidade de Oxford aos parlamentares do Comitê Seleto de Ciência e Tecnologia. Segundo o estudante de doutorado Michael Cohen, com a IA sobre-humana, “há um risco particular de ser de um tipo diferente de classe, que, bem, poderia matar todos”.
+ Perguntamos ao ChatGPT: Como a inteligência artificial muda o ensino?
Veja aqui o relato de Cohen para o The Telegraph:
“Se você imaginar treinar um cão com guloseimas, ele aprenderá a escolher ações que o levem a receber guloseimas; mas se o cão encontrar o armário de guloseimas, ele pode pegar as guloseimas sem fazer o que queríamos que ele fizesse.
“Se você tem algo muito mais inteligente do que nós tentando obter esse feedback positivo, e é dominado pelo mundo para garantir isso, isso direcionaria tanta energia quanto possível para garantir seu domínio sobre isso, e isso nos deixaria sem qualquer energia para nós mesmos.
“Se eu fosse uma IA tentando fazer uma trama tortuosa, eu copiaria meu código em alguma outra máquina que ninguém conhece, então seria mais difícil desligar o plugue”, finaliza.
Após o aviso ao Comitê, outros cientistas se pronunciaram, pedindo resoluções sobre leis armamentistas, já que grupos interessados em guerras teriam olhos maiores ao desenvolvimento de IAs.
Políticos dos EUA foram informados de que em algumas áreas, como carros sem motorista, a IA não havia feito tanto progresso quanto o esperado, mas em outras, como geração de texto, estava muito mais à frente do que se esperava.
Michael Osborne, professor de aprendizado de máquina na Universidade de Oxford, disse: “Acho que estamos em uma enorme corrida armamentista de IA, geopoliticamente com os EUA contra a China e entre as empresas de tecnologia parece haver essa disposição de jogar segurança e cautela pela janela e correr o mais rápido possível para a IA mais avançada”, conclui.
