PROGRAMA DE INTRODUÇÃO AO ALTRUÍSMO EFICAZ
Parte 6: Tecnologias emergentes
Parte 6: Tecnologias emergentes
Uma maneira de procurar oportunidades para realizar o maior bem possível é perguntar: “Que desenvolvimentos podem ter um impacto extremamente grande ou irreversível na civilização humana?”
Nesta sequência, vamos examinar duas tendências tecnológicas que poderiam criar riscos existenciais num futuro não tão distante: a inteligência artificial transformadora e os avanços na biotecnologia.
Duas maneiras de Ler
Há duas maneiras de começar, dependendo de já ter, ou não, acesso ao livro The Precipice de Toby Ord — e se não tiver, podemos enviar-lhe uma cópia gratuita!
Primeira opção (sem livro): Leia a sequência tal como está escrita.
Segunda opção (livro): Leia o capítulo 5 do The Precipice até à página 138 (o início da secção “Unaligned Artificial Intelligence”). Depois leia “The case for taking AI seriously as a threat to humanity” da Kelsey Piper.
Se quiser ler mais sobre os riscos da IA após terminar o artigo da Piper, experimente o restante material nesta sequência, ou as páginas 138 a 152 do The Precipice — as pessoas apresentam muitas abordagens diferentes para explicar o assunto.
Organização destacada: Center for Security and Emerging Technology |
|
O Center for Security and Emerging Technology (CSET) é uma organização de investigação que fornece análises apartidárias à comunidade política dos Estados Unidos, concentrando-se em questões na intersecção da segurança e da tecnologia. Actualmente concentram-se no progresso da inteligência artificial, na aplicação da IA à ciber-segurança e outros assuntos de segurança nacional dos EUA e na biotecnologia. O CSET visa preparar os decisores políticos para os desafios e oportunidades das tecnologias emergentes. O seu pessoal inclui gente com experiência na direcção de operações de serviços de inteligência e investigação no Conselho Nacional de Segurança, bem como nos Departamentos de Defesa, Estado e Segurança Interna. |
O Essencial
- The case for taking AI seriously as a threat to humanity — Por Kelsey Piper (EA Forum) 1 min
-
Some Background on Our Views Regarding Advanced Artificial Intelligence — Por Holden Karnofsky (EA Forum) 53 min
Mais Leituras
- Paul Christiano on how OpenAI is developing real solutions to the ‘AI alignment problem’, and his vision of how humanity will progressively hand over decision-making to AI systems — Por 80,000 Hours (AE Forum) 277 min
- The AI revolution and international politics — Por Allan Dafoe (AE Forum) 27 min (Vídeo)
- AI Governance: Opportunity and Theory of Impact — Por Allan Dafoe (AE Forum) 19 min
- Assessing global catastrophic biological risks — Por Crystal Watson (AE Forum) 13 min (Vídeo)
Explorar mais
Global historical trends
- Modeling the Human Trajectory (30 mins.)
- Books on macrohistory: Guns, Germs, and Steel or Global Economic History: A Very Short Introduction
Biosecurity
- Does Biotechnology Pose New Catastrophic Risks?
- A description of the challenges of managing dual-use capabilities enabled by modern biotechnology. (60 mins.)
- Explaining Our Bet on Sherlock Biosciences’ Innovations in Viral Diagnostics
- Open Philanthropy reports on their investment in Sherlock Biosciences to support the development of a diagnostic platform to quickly, easily, and inexpensively identify any human virus present in a sample. (15 mins.)
Shaping the development of artificial intelligence
- The new 30-person research team in DC investigating how emerging technologies could affect national security
- How might international security be altered if the impact of machine learning is similar in scope to that of electricity? (Podcast – 2 hours)
- Potential Risks from Advanced Artificial Intelligence: The Philanthropic Opportunity
- Why reducing risks from AI might be one of the most outstanding philanthropic opportunities. (40 mins.)
- Draft report on AI timelines
- Ajeya Cotra discusses how we might estimate how long it will take for transformative AI to emerge. This report is very long, so we recommend starting with Rohin Shah’s summary.
- For more research and discussion on AI timelines, see AI Impacts and LessWrong.
- Human Compatible: Artificial Intelligence and The Problem of Control (Book)
- The Alignment Problem: Machine Learning and Human Values (Book)
Other
- Technology Roulette: Managing Loss of Control as Many Militaries Pursue Technological Superiority
- An argument for how advances in military technology (including but not limited to AI) can impede decision-making and create risk, thus demanding greater attention by the national security establishment. (60 mins.)
- Big nanotech: towards post-industrial manufacturing
- An explanation of how atomically precise manufacturing could displace industrial production technologies and bring radical improvements in production cost, scope, and resource efficiency. (10 mins.)
- AlphaGo
- A documentary exploring what artificial intelligence can reveal about the ancient game of Go, and what that can teach us about the future potential of artificial intelligence. (Video – 1 hour 30 mins.)
- The Artificial Intelligence Revolution: Part 1 and Part 2
- A lighthearted and interesting exploration of artificial intelligence by the popular blogger Tim Urban. (45 mins.)
- Best read alongside Luke Muehlhauser’s additional notes (which correct and clarify many details in Tim’s posts).
- The Future of Surveillance
- An exploration of ways in which the future of surveillance could be bad, and an investigation into accountable, privacy-preserving surveillance protocols. (Video – 15 mins.)
Continuar a ler >> Parte 7: O que poderá estar a escapar-nos?
6
Descubra mais sobre Altruísmo Eficaz
Assine para receber nossas notícias mais recentes por e-mail.
Altruísmo Eficaz 