A importância do futuro distante

Por Sentience Politics

Sofrimento futuro.jpg

Como reduzir o risco de sofrimento futuro? (Arte digital: José Oliveira | Fotografias: Pixabay e Pexels)

A maioria das instituições de caridade que trabalham para aliviar o sofrimento concentram-se em indivíduos que existem no presente, como seres humanos vivendo na pobreza ou lidando com a doença, ou animais de estimação precisando de abrigo. Algumas ajudam indivíduos que vão existir em um futuro próximo, como os animais que serão criados em fazendas no próximo ano, caso o nosso consumo de alimentos de origem animal não seja reduzido. Outras ajudam aqueles que estarão vivos um pouco mais adiante: organizações concentradas em soluções para as mudanças climáticas, por exemplo, no geral trabalham para o benefício das futuras gerações de seres humanos. Ainda que sejamos instintivamente compelidos a ajudar aqueles cujo sofrimento conseguimos ver imediatamente ou que visualizamos claramente, a desconsideração por indivíduos que ainda não nasceram, mas que nossas ações ainda assim irão afetar, parece ser tão equivocada quanto a desconsideração por indivíduos que vivem distantes de nós. Todos aqueles que estão ao nosso alcance merecem nossa consideração, independentemente de estarem ou não vivos ao mesmo tempo que nós.

Os indivíduos que estão vivos hoje, e os que irão viver nas próximas décadas, são vastamente excedidos em número por aqueles que irão viver nos séculos, milênios e eras vindouras. Embora nosso impacto no futuro distante seja menos previsível que o nosso impacto a curto prazo, isso significa que pode ser várias ordens de grandeza mais significativo.

A importância das tecnologias emergentes

Se o desenvolvimento tecnológico continuar a progredir tão rapidamente quanto tem progredido nos últimos séculos, as gerações futuras vão possuir tecnologias poderosas que poderão ser tão incompreensíveis para nós hoje quanto celulares [Pt. telemóveis] seriam para pessoas que viveram antes do telefone ter sido inventado.

Quando falamos do sofrimento que pode acontecer em um futuro distante, em grande parte nos referimos ao sofrimento causado pelo uso irresponsável da tecnologia. Por exemplo, se desenvolvermos uma tecnologia para terraformar outros planetas, poderíamos espalhar uma vida selvagem similar à terrestre para esses outros mundos sem nos preocuparmos com o sofrimento que esses animais possam vir a padecer. Se colonizarmos outros mundos antes de alcançarmos progressos sociais e políticos significativos aqui na Terra, poderíamos multiplicar os problemas e o sofrimento que já temos por aqui.

Poderíamos desenvolver maneiras de forçar ainda mais seres sencientes à servidão do que fazemos hoje em dia em fábricas que exploram a mão de obra, redes de tráfico e na pecuária industrial. Os avanços em inteligência artificial podem eventualmente resultar no desenvolvimento de mentes digitais sencientes (por oposição a mentes biológicas), e a possibilidade de produzir um grande número dessas entidades, combinada com a nossa provável dificuldade em ter empatia por elas, pode nos levar a explorá-las em um escala gigantesca. Esse cenário seria semelhante à nossa atual exploração de animais não humanos, embora sua escala possa ser substancialmente maior.

Além disso, os seres humanos poderiam desenvolver uma inteligência artificial que supere nossas próprias capacidades intelectuais. Se tal inteligência artificial (IA)  desenvolvesse valores errados, poderia aumentar exponencialmente a quantidade de sofrimento no mundo. Por exemplo, se tal IA não levasse em conta os outros na busca por seus objetivos, poderia explorar animais ou seres humanos de maneiras que lhes causaria imenso sofrimento, ou até mesmo criar suas próprias sub-rotinas de sofrimento para ajudá-la a atingir seus objetivos. Se colonizasse outros planetas, poderia multiplicar esse sofrimento muitas vezes mais.

Tais cenários podem parecer improváveis, e algumas pessoas podem pensar que esse é um motivo válido para descartá-los. Contudo, o que soava como ficção científica poucas décadas atrás pode rapidamente se tornar realidade. A empresa aeroespacial Space X já anunciou um plano para estabelecer uma colônia em Marte a partir de 2024, e o desenvolvimento recente da aprendizagem profunda conferiu às máquinas a capacidade de aprender de uma forma similar à dos humanos, o que significa que a IA está a bem menos passos de atingir a inteligência humana do que estava apenas há dois anos.

Prever desenvolvimentos tecnológicos futuros é desafiador, mas analisar cenários possíveis pode fornecer conhecimentos valiosos para nos ajudar a prevenir riscos de sofrimento astronômico (“s-risks“). Como a história tem mostrado, as tecnologias emergentes podem conferir à humanidade um poder sem precedentes para fazer mudanças positivas, mas também apresentam riscos sem precedentes. Deveríamos manter essas ideias em mente mesmo se acreditarmos que um risco de sofrimento astronômico em particular pareça improvável. Garantir que tecnologias poderosas sejam usadas responsavelmente será crucial para evitar o desenvolvimento de projetos ainda piores do que as guerras químicas, a pecuária industrial ou as armas nucleares, e será necessário que quem controla essas tecnologias se preocupe com o sofrimento de todos aqueles que possam ser afetados.

Como podemos reduzir os riscos de sofrimento astronômico?

Mesmo na falta de previsões precisas do cenário tecnológico, social e político do futuro, existem intervenções que podem ajudar a prevenir consequências particularmente desastrosas.

Uma dessas intervenções é desenvolver e implementar medidas de precaução. Por exemplo, empresas que trabalham com IA poderiam desenvolver acordos sobre como proceder caso uma IA parecesse demonstrar algum grau de senciência. Organizações independentes poderiam supervisionar o desenvolvimento da IA para ajudar a garantir que a IA seja desenvolvida com objetivos com maior probabilidade de obter bons resultados do que ruins. Nações que possuem armas de destruição em massa já firmaram acordos a respeito da sua proliferação, e poderíamos firmar acordos similares com relação ao desenvolvimento de novas tecnologias poderosas como uma IA superinteligente, para encorajar o seu desenvolvimento de forma segura e não precipitada.

Podemos também mostrar e difundir consideração pelo sofrimento independentemente de quem o experiencia — não importa o local, o período, a espécie, o sexo, o substrato ou qualquer outra característica além de seu sofrimento — para reduzir a probabilidade de sofrimento em larga escala ser causado por tal desconsideração no futuro. Hoje, uma desconsideração como essa vitimiza muitos seres humanos e ainda mais seres não humanos, e tivemos graus variados de exploração discriminatória, violência e indiferença ao longo de toda a história da civilização humana. Seria insensato assumir que tal iniquidade irá simplesmente desaparecer da sociedade sem um esforço coordenado para removê-la. Uma maior consideração pelo sofrimento de todos os seres sencientes aumentaria a probabilidade das gerações futuras utilizarem seu poder com responsabilidade, mesmo que não saibamos a natureza exata desse poder. Especificamente, promover com sucesso o antiespecismo – a redução ativa do especismo – nos levará a evitar o sofrimento que muitos animais, de outro modo, experimentarão no futuro. Também podemos trabalhar para evitar a possibilidade do sofrimento digital futuro difundindo a preocupação com a senciência digital, e incentivando agora o engajamento com as questões éticas que isso gera, de modo a estarmos preparados para levar a sério as suas necessidades caso estas surjam.

Intervenções a curto e médio prazo também podem influenciar indiretamente o futuro distante, em graus variados. Trabalhar para ajudar especificamente os animais de criação pode reduzir o especismo e assim aumentar a nossa consideração pelos animais selvagens ou outros seres sencientes. A aquisição de direitos básicos à vida, à integridade física e à integridade mental para determinados animais não humanos irá estabelecer precedentes legais e sociais que ajudarão a expandir a proteção a outros animais, acabando por ajudar muitos outros.

Por fim, podemos pesquisar essas e outras estratégias para evitar o sofrimento no futuro distante.

Conclusão

Indivíduos futuros não importam menos do que indivíduos que já existem, e provavelmente vão superar a quantidade de indivíduos existentes em muitas ordens de grandeza. Lançar um olhar que vá além do próximo ano, década ou mesmo das próximas gerações pode, portanto, ter mais impacto do que centrar-se em objetivos a curto prazo, ainda que a nossa influência a longo prazo seja mais incerta.

Tecnologias emergentes podem conferir aos seres humanos imenso poder, mas não podemos assumir que esse novo poder será usado responsavelmente, então, para reduzir no futuro os riscos de sofrimento potencialmente astronômico, devemos ter cuidado com as tecnologias que possam alterar a nossa trajetória, e com a evolução dos nossos valores sociais.


Texto originalmente publicado no site Sentience Politics.
Tradução de David X. Lima. Revisão de Lara André, José Oliveira e Daniel de Bortoli.

Anúncios

2 comentários sobre “A importância do futuro distante

  1. De acordo. Mas queria saber se sou o único da comunidade EA ampla q pena q algum grau de favorecimento do presente é justificável. Do contrário, não haveria consumo (gozar o momento), só investimento (garantir o bem estar futuro); os recurso se acumulariam nas gerações futuras (com provável desconto de utilidade marginal), o q é injusta (as gerações passadas favoreceriam as futuras, sem receber nada em troca). Meu pt é q se não houver uma taxa de desconto do futuro, então não estaremos tratando as diferentes gerações da mesma maneira, e sim favorecendo as futuras.

    Curtir

    • Olá Ramiro!

      Acho que você não é o único, concordo plenamente com seus apontamentos, mas acho que já existe esse desconto de certa forma. Creio que o foco atual da comunidade EA no futuro preza mais pelo caráter negligenciado dele face ao tamanho potencial de benefício não em detrimento das intervenções no presente. Sinto um certo desconforto quando o foco é somente nos bilhões de seres ainda não existentes no futuro enquanto a famigerada malária ainda mata milhões de crianças.

      Curtir

Deixe um comentário

Faça o login usando um destes métodos para comentar:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair / Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair / Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair / Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair / Alterar )

Conectando a %s