Perguntas frequentes sobre riscos de sofrimento astronômico futuro (riscos-s)

O que são os riscos-s?

No ensaio Reduzir os Riscos de Sofrimento Astronômico: Uma Prioridade Negligenciada, os riscos-s (também chamados de riscos de sofrimento ou riscos de sofrimento astronômico) são definidos como “eventos que provocariam sofrimento em escala astronômica, excedendo vastamente todo o sofrimento que existiu na Terra até agora”.

Anúncios

Dois momentos do Altruísmo Eficaz

Imagine que você tem dois filhos. Jorge tem uma doença grave que o faz precisar de tratamento médico frequente. Ana tem uma inteligência acima da média. Você contempla duas opções. Ir para uma cidade que oferecerá uma melhor qualidade de vida para Jorge mas que não tem um sistema de educação capaz de permitir que Ana desenvolva o seu talento, ou ir para onde Ana terá o máximo de assistência para desenvolver suas capacidades ao passo que Jorge não terá boas condições para viver bem.
Diante desse dilema, se você pensa no presente, a melhor escolha é privilegiar Jorge. Se você pensa no futuro, a escolha parece pender para privilegiar Ana. Essa analogia, dentro de suas limitações, ilustra os estágios diferentes do Altruísmo Eficaz que pretendo discutir na sequência.

Domar os monstros do amanhã

O filósofo Nick Bostrom acredita que é perfeitamente possível que a inteligência artificial (IA) possa levar à extinção do Homo sapiens . Em seu best-seller de 2014, Superintelligence: Paths, Dangers, Strategies, Bostrom retrata um cenário sombrio no qual os pesquisadores criam uma máquina capaz de se aperfeiçoar a si mesma progressivamente. Em algum momento, ela aprende a ganhar dinheiro com transações on-line e começa a comprar bens e serviços no mundo real. Usando DNA encomendado por correio, cria nanossistemas simples que, por sua vez, criam sistemas mais complexos, dando-lhe cada vez mais capacidade de moldar o mundo.

Introdução ao Altruísmo Eficaz

A maioria de nós quer fazer a diferença. Vemos o sofrimento, a injustiça e a morte, e somos levados a fazer algo sobre isso. Mas descobrir o que será esse “algo” é um problema difícil, e ainda mais difícil é fazê-lo.

Que causa deve apoiar caso queira realmente fazer a diferença? Quais serão as escolhas de carreira que o ajudarão a fazer uma contribuição significativa? Quais serão as instituições de caridade que usarão as suas doações eficazmente? Se não escolher bem, arriscará perder o seu tempo e o seu dinheiro. Mas se escolher de forma inteligente, tem uma enorme hipótese de melhorar o mundo.

Revisão da Literatura sobre segurança da Inteligência Artificial e comparação entre organizações ‒ 2018 (Parte 1)

Como no ano passado, tentei rever a pesquisa produzida por várias organizações que trabalham na segurança da Inteligência Artificial (IA) para ajudar potenciais doadores a obter uma melhor compreensão do panorama. Este é um papel semelhante ao que a GiveWell desempenha relativamente a instituições de caridade na área da saúde global e algo similar a um analista de títulos financeiros em relação aos possíveis investimentos.