Perguntas frequentes sobre riscos de sofrimento astronômico futuro (riscos-s)

O que são os riscos-s?

No ensaio Reduzir os Riscos de Sofrimento Astronômico: Uma Prioridade Negligenciada, os riscos-s (também chamados de riscos de sofrimento ou riscos de sofrimento astronômico) são definidos como “eventos que provocariam sofrimento em escala astronômica, excedendo vastamente todo o sofrimento que existiu na Terra até agora”.

Dois momentos do Altruísmo Eficaz

Imagine que você tem dois filhos. Jorge tem uma doença grave que o faz precisar de tratamento médico frequente. Ana tem uma inteligência acima da média. Você contempla duas opções. Ir para uma cidade que oferecerá uma melhor qualidade de vida para Jorge mas que não tem um sistema de educação capaz de permitir que Ana desenvolva o seu talento, ou ir para onde Ana terá o máximo de assistência para desenvolver suas capacidades ao passo que Jorge não terá boas condições para viver bem.
Diante desse dilema, se você pensa no presente, a melhor escolha é privilegiar Jorge. Se você pensa no futuro, a escolha parece pender para privilegiar Ana. Essa analogia, dentro de suas limitações, ilustra os estágios diferentes do Altruísmo Eficaz que pretendo discutir na sequência.

Domar os monstros do amanhã

O filósofo Nick Bostrom acredita que é perfeitamente possível que a inteligência artificial (IA) possa levar à extinção do Homo sapiens . Em seu best-seller de 2014, Superintelligence: Paths, Dangers, Strategies, Bostrom retrata um cenário sombrio no qual os pesquisadores criam uma máquina capaz de se aperfeiçoar a si mesma progressivamente. Em algum momento, ela aprende a ganhar dinheiro com transações on-line e começa a comprar bens e serviços no mundo real. Usando DNA encomendado por correio, cria nanossistemas simples que, por sua vez, criam sistemas mais complexos, dando-lhe cada vez mais capacidade de moldar o mundo.