Superinteligência, depressa ou devagar? [“Breves do AE”]

O Director Executivo [da OpenAI], Sam Altman, esclarece o seguinte sobre o seu plano:
«A transição bem-sucedida para um mundo com superinteligência é talvez o projecto mais importante — e esperançoso e assustador — da história da humanidade.»
[…] Para percebermos a gravidade destes riscos, vejamos o que diz Kelsey Piper [Holden Karnofsky e Scott Alexander]

Será o fim da Internet? [“Breves do AE”]

Assim como o advento da imprensa revolucionou o mundo das ideias e do conhecimento, a Internet, à escala actual, leva isso mais longe e ainda desvenda um metaverso com uma saturação de vozes (dando expressão a quem nunca foi ouvido antes) e parece aspirar à ligação de cada um a todos. Mas será que algo poderia quebrar essa ligação? Há quem acredite que sim. Há quem acredite que essa será uma das consequências da Inteligência Artificial emergente. Mas como? E quando? Isso é o que vamos ver a seguir…

Reduzir riscos biológicos catastróficos globais 

As pragas ao longo da história indiciam o potencial que a biologia possui para causar uma catástrofe global. Este potencial aumenta a par e passo com a marcha do progresso biotecnológico. Os Riscos Biológicos Catastróficos Globais (RBCG) podem constituir uma parte significativa da totalidade dos riscos catastróficos globais e, se assim for, uma ameaça credível para a humanidade.

IA em 2023, o que esperar? [“Breves do AE”]

Quando há quase uma década uma parte significativa do movimento AE se começou a interessar pela Inteligência Artificial como área de causa a priorizar, poderia pensar-se que, face ao cepticismo geral, esse seria um golpe fatal para a possibilidade de crescimento e popularização do movimento. Mas, em 2022, nem mesmo a cobertura noticiosa dos meios de comunicação mais conservadores conseguiu evitar a catadupa de acontecimentos ligados à IA…

Uma crítica ao altruísmo eficaz

O altruísmo eficaz é, que eu saiba, a primeira vez que um conjunto substancialmente útil de princípios éticos e estruturas para analisar o efeito que cada um tem no mundo ganhou uma adesão suficientemente ampla para se assemelhar a um movimento social. (Diria que estes princípios são algo como altruísmo, maximização, igualitarismo e consequencialismo; […]). Infelizmente, enquanto movimento o altruísmo eficaz está a falhar na utilização destes princípios para adquirir crenças não triviais correctas sobre como se pode melhorar o mundo.