A IA é uma “Tragédia dos Comuns”? [Breves do AE]

A IA é um caso de “Corrida às armas” ou de “Tragédia dos Comuns”? Vejamos o primeiro caso, em que se corre para chegar primeiro à meta, não vá o inimigo lá chegar primeiro (como no caso da corrida para desenvolver a 1.ª bomba atómica). Talvez essa não seja a analogia mais correcta, pois na IA há várias metas (em vez do objectivo único da bomba atómica, seria mais como a aplicação alargada da electricidade), mas para além dos potenciais benefícios durante a corrida, aquele que corta a meta e ganha pode ser a própria IA (o que significa que, caso a IA não esteja alinhada com os nossos interesses, uma das partes ao acelerar o passo para a meta, pode estar a acelerar o passo para a morte de todos). E o que dizer da analogia da “Tragédia dos Comuns”? Este termo é aplicado, nomeadamente por ecologistas e economistas, relativamente à extinção de recursos promovida por uma parte, levando ao prejuízo de todos. De que modo isto se aplicaria à IA?

O que acontece depois de criarmos Deus? [Breves do AE]

Se pudéssemos curar doenças como o cancro [BR. câncer], porque é que não haveríamos de fazê-lo? Imagine que para isso tínhamos a capacidade de criar algo com o poder de um deus. O que poderia correr mal? Bom, imagine que esse deus teria a capacidade de curar doenças e de fazer desaparecer miraculosamente os males que assolam a humanidade, mas haveria 1% de probabilidade de, ao operar de forma misteriosa, acabar por exterminar toda a vida na terra. Deveríamos, ainda assim, criar esse deus? Essa ínfima probabilidade, por contraste com o paraíso na terra, seria negligenciável? Mas atenção, seria uma probabilidade de extermínio total… e se houvesse uma probabilidade maior disso acontecer?