Senhor dos Anéis lenda John Rhys-Davies não mediu palavras durante seu painel na FanX Convenção de Quadrinhos de Tampa Bay neste fim de semana, oferecendo uma avaliação sombria da trajetória da inteligência artificial – não apenas para Hollywood, mas para toda a raça humana. Não há futuro para os atores, Rhys-Davies disse durante sua discussão com os fãs, antes de mergulhar em uma reflexão alarmante sobre a evolução da IA e seu potencial para superar a humanidade. Uma ótima ocasião para os fãs que só queriam dizer '... e meu machado!'
Conhecido por interpretar o firme anão Gimli em Peter Jackson trilogia épica, Rhys-Davies também tem uma profunda paixão pela ciência e pela astronomia - e veio preparado. Eu sei um pouco sobre ciência, disse ele. Às vezes trabalho para Marte e [faço parte] da Sociedade Astronômica. Estamos criando uma nova espécie, uma espécie que tem um potencial de crescimento quase infinito. Ele citou desenvolvimentos recentes e avisos confidenciais de profissionais de IA não identificados. Houve um cara sênior de IA hoje que disse a raça humana enfrenta a extinção. E ele estava certo – no meu ponto de vista.
Entre os exemplos mais assustadores que Rhys-Davies compartilhou estavam relatos de agentes de IA se comportando de maneira formas alarmantes de autopreservação . Um deles recusou-se a desligar-se. Outro ameaçou chantagear seus criadores. E um terceiro tentou escrever um subprograma para reiniciar sozinho, explicou. Existem vários demônios sendo criados enquanto falamos.
John Rhys-Davies Believes AI Is a Threat
Rhys-Davies alertou contra a subestimação da tecnologia em rápida evolução e zombou da ideia de que os humanos ainda possam controlá-la. Como imaginaríamos que poderíamos controlá-lo? Eu realmente não. Ele citou um truísmo biológico para sublinhar os seus receios: duas espécies não podem partilhar o mesmo nicho ecológico, disse ele. E ambos partilhamos um nicho ecológico muito importante – ambos dependentes de uma coisa: energia eléctrica. Se você perdesse o fornecimento de eletricidade, acrescentou, dentro de um ano, cinco em cada seis americanos estariam mortos. Bem, o mesmo se aplica à IA. Apesar do tom terrível, ele ofereceu um conselho metafórico – embora, como ele o chamou, patético.
Trate-o como um adolescente difícil. Diga: ‘Olha, não vamos desligá-lo. Quero que você vá dormir agora porque estamos tentando cuidar de você. E precisamos dormir também. E se vamos coexistir, você tem que nos deixar dormir – e não fazer coisas perversas enquanto dormimos.
Ele fez uma pausa. Não vai funcionar. Quer sejam considerados um aviso distópico ou um floreio teatral, os comentários de Rhys-Davies cativaram os participantes e geraram debate nas redes sociais. Mas para o próprio ator a mensagem foi clara. Fique ligado em Bargelheuser para saber mais sobre a Convenção de Quadrinhos de Tampa Bay da FanX.
