O que diz Toby Ord sobre a nova era da IA? [Breves do AE]

O progresso da IA está a abrandar? Apesar de se estar a chegar ao fim da era da IA mais inteligente, que consistia apenas em aumentar o seu tamanho, a resposta é, sem dúvida, não! Os modelos de IA continuam a tornar-se muito mais potentes, embora através de métodos bastante distintos. Perante estas mudanças técnicas fundamentais, não será necessário reavaliar profundamente o que nos reservam os próximos anos?

Este é o tópico central da entrevista de Toby Ord, filósofo de Oxford e fundador da organização filantrópica Giving What We Can, ao podcast das 80.000 Hours.

Moldar a Trajectória a Longotermo da Humanidade 

Desde que escrevi The Precipice [O Precipício], um dos meus objectivos tem sido compreender melhor como é que a redução dos riscos existenciais se compara com outras formas de influenciar o futuro a longotermo. […] Por exemplo, se avançássemos um ano no progresso humano, talvez fosse de esperar que atingíssemos um ano mais cedo cada marco histórico subsequente. […] Desenvolvi um modelo matemático simples em que as possibilidades como esta possam ser formuladas com precisão, em que possam ser enunciados com clareza os pressupostos que sustentam essas possibilidades e em que possa ser comparado o seu valor.

O Progresso Moral e a Causa X (Will MacAskill, Toby Ord)

Se observarmos a história das ideias, a história da espécie humana, em cada geração houve enormes atrocidades morais que foram cometidas pelas pessoas dessa geração, o que na época parecia completamente normal. Em cada geração as pessoas têm sido completamente alheias ao facto de como algumas das suas práticas estavam erradas. […] Quais são os principais problemas que hoje em dia ainda nem sequer conseguimos conceber?

O Precipício: Riscos Existenciais e o Futuro da Humanidade

Neste livro oportuno, Toby Ord defende que há uma probabilidade em seis de que a humanidade irá sofrer uma catástrofe existencial nos próximos 100 anos, e que minimizar esse risco deve ser uma das maiores prioridades a nível global. Vivemos numa época de elevado risco existencial, devido a tecnologias tão poderosas como as armas nucleares, a biotecnologia e a inteligência artificial. Ord chama a esta época “o Precipício”. É uma época insustentável: a humanidade não pode continuar a jogar à roleta russa. A menos que em breve alcancemos um nível muito mais elevado de segurança existencial, iremos destruir-nos.