O Ponto Crucial da História

Os perigos de tratar os riscos de extinção como uma preocupação predominante da humanidade deveriam ser óbvios. Ver os problemas actuais na óptica dos riscos existenciais da nossa espécie pode reduzir esses problemas actuais a quase nada, ao mesmo tempo que se justifica quase tudo o que aumente as nossas probabilidades de sobreviver o tempo suficiente para nos propagarmos muito para lá da Terra.

Um olhar actualizado sobre os riscos da IA a longo termo

[O novo artigo] Em vez de fazer um questionário a todos os especialistas em IA, faz um questionário a pessoas que trabalham na “segurança e governação da IA”, ou seja, pessoas que já se preocupam com o facto de a IA ser potencialmente perigosa, e que dedicaram as suas carreiras a abordar esta questão. Como tal, estavam em média mais preocupadas do que as pessoas dos questionários anteriores, e deram uma probabilidade média de ~10% de catástrofe relacionada com a IA.

O Precipício: Riscos Existenciais e o Futuro da Humanidade

Neste livro oportuno, Toby Ord defende que há uma probabilidade em seis de que a humanidade irá sofrer uma catástrofe existencial nos próximos 100 anos, e que minimizar esse risco deve ser uma das maiores prioridades a nível global. Vivemos numa época de elevado risco existencial, devido a tecnologias tão poderosas como as armas nucleares, a biotecnologia e a inteligência artificial. Ord chama a esta época “o Precipício”. É uma época insustentável: a humanidade não pode continuar a jogar à roleta russa. A menos que em breve alcancemos um nível muito mais elevado de segurança existencial, iremos destruir-nos.

Quais são as principais ameaças à humanidade?

A extinção humana pode parecer coisa de pesadelos, mas há muitas maneiras de poder acontecer.

A cultura popular tende a concentrar-se apenas nas possibilidades mais espectaculares: pense na velocidade ameaçadora do asteróide do filme Armageddon ou na invasão de extraterrestres d’O Dia da Independência.

Embora seja possível a humanidade ter um fim dramático, concentrarmo-nos em tais cenários pode significar ignorar as ameaças mais graves que enfrentamos no mundo de hoje.

Conselhos de carreira que eu gostaria de ter recebido quando era jovem

Um leitor que prefere permanecer anónimo — mas cuja carreira achamos que fez uma enorme quantidade de bem — enviou-nos esta lista de conselhos que ficou grato por ter recebido, ou que gostaria de ter recebido quando era mais jovem.

Pensamos que era muito interessante, incluindo aquilo em que não está exactamente alinhado com os nossos pontos de vista habituais, e por isso publicamos aqui com a sua permissão.