Domar os monstros do amanhã

O filósofo Nick Bostrom acredita que é perfeitamente possível que a inteligência artificial (IA) possa levar à extinção do Homo sapiens . Em seu best-seller de 2014, Superintelligence: Paths, Dangers, Strategies, Bostrom retrata um cenário sombrio no qual os pesquisadores criam uma máquina capaz de se aperfeiçoar a si mesma progressivamente. Em algum momento, ela aprende a ganhar dinheiro com transações on-line e começa a comprar bens e serviços no mundo real. Usando DNA encomendado por correio, cria nanossistemas simples que, por sua vez, criam sistemas mais complexos, dando-lhe cada vez mais capacidade de moldar o mundo.

Anúncios

Revisão da Literatura sobre segurança da Inteligência Artificial e comparação entre organizações ‒ 2018 (Parte 2)

Resumo: Faço a revisão de uma quantidade significativa de pesquisas de 2017 relacionadas com a segurança da Inteligência Artificial e faço alguns comentários sobre para onde vão os meus donativos este ano.

Introdução ao Altruísmo Eficaz

A maioria de nós quer fazer a diferença. Vemos o sofrimento, a injustiça e a morte, e somos levados a fazer algo sobre isso. Mas descobrir o que será esse “algo” é um problema difícil, e ainda mais difícil é fazê-lo.

Que causa deve apoiar caso queira realmente fazer a diferença? Quais serão as escolhas de carreira que o ajudarão a fazer uma contribuição significativa? Quais serão as instituições de caridade que usarão as suas doações eficazmente? Se não escolher bem, arriscará perder o seu tempo e o seu dinheiro. Mas se escolher de forma inteligente, tem uma enorme hipótese de melhorar o mundo.

Revisão da Literatura sobre segurança da Inteligência Artificial e comparação entre organizações ‒ 2018 (Parte 1)

Como no ano passado, tentei rever a pesquisa produzida por várias organizações que trabalham na segurança da Inteligência Artificial (IA) para ajudar potenciais doadores a obter uma melhor compreensão do panorama. Este é um papel semelhante ao que a GiveWell desempenha relativamente a instituições de caridade na área da saúde global e algo similar a um analista de títulos financeiros em relação aos possíveis investimentos.

Empatia Radical

Um tema do nosso trabalho é tentar ajudar as populações que muitos acham que não merecem ajuda sequer. Vimos grandes oportunidades de melhorar o bem-estar de animais da pecuária industrial, porque pouquíssimos outros estão tentando fazê-lo. Ao trabalhar em reforma da imigração, vimos grandes debates sobre como a imigração afeta os salários das pessoas já residentes nos EUA e muito menos discussão de como isso afeta os imigrantes. Até nosso interesse em saúde e desenvolvimento global é bastante incomum: muitos americanos podem concordar que os dólares doados fazem mais no exterior, mas preferem doar internamente, porque priorizam fortemente as pessoas do seu próprio país, comparadas às pessoas do resto do mundo.

A importância do futuro distante

Ainda que sejamos instintivamente compelidos a ajudar aqueles cujo sofrimento conseguimos ver imediatamente ou que visualizamos claramente, a desconsideração por indivíduos que ainda não nasceram, mas que nossas ações ainda assim irão afetar, parece ser tão equivocada quanto a desconsideração por indivíduos que vivem distantes de nós. Todos aqueles que estão ao nosso alcance merecem nossa consideração, independentemente de estarem ou não vivos ao mesmo tempo que nós.