Como parar a IA? [Breves do AE]

Num momento em que podemos interagir com uma IA que ouve, fala e vê como se fosse uma pessoa (ex. da Apple, da Google e da OpenAI), podendo em muitos casos tornar-se viciante e até substituir o contacto humano (especialmente preocupante em crianças e jovens), num momento em que a IA pode estar a ver tudo o que fazemos no nosso computador, não deveríamos estar mais preocupados com os criadores e difusores da IA e em como controlar o que estes criam e difundem? […] E no momento em que se perceba que já se foi longe demais, será realmente possível parar?

A IA é uma “Tragédia dos Comuns”? [Breves do AE]

A IA é um caso de “Corrida às armas” ou de “Tragédia dos Comuns”? Vejamos o primeiro caso, em que se corre para chegar primeiro à meta, não vá o inimigo lá chegar primeiro (como no caso da corrida para desenvolver a 1.ª bomba atómica). Talvez essa não seja a analogia mais correcta, pois na IA há várias metas (em vez do objectivo único da bomba atómica, seria mais como a aplicação alargada da electricidade), mas para além dos potenciais benefícios durante a corrida, aquele que corta a meta e ganha pode ser a própria IA (o que significa que, caso a IA não esteja alinhada com os nossos interesses, uma das partes ao acelerar o passo para a meta, pode estar a acelerar o passo para a morte de todos). E o que dizer da analogia da “Tragédia dos Comuns”? Este termo é aplicado, nomeadamente por ecologistas e economistas, relativamente à extinção de recursos promovida por uma parte, levando ao prejuízo de todos. De que modo isto se aplicaria à IA?

Como roubaram 1 milhão aos mais pobres? [Breves do AE] 

O que deve fazer uma organização humanitária quando é vítima de fraude ou de roubo? Deve manter o silêncio, para não arriscar perder a confiança dos seus doadores? Ou, por outro lado, deve ser o mais transparente possível, na esperança de, ao ter uma atitude mais honesta do que a maioria das outras organizações, conseguir manter (ou até reforçar!) a confiança dos seus doadores? Face a este dilema, a GiveDirectly, uma organização humanitária que faz transferências de dinheiro directamente para os mais pobres, decidiu arriscar pela transparência ao anunciar (por sua iniciativa) que tinha sido vítima de fraude, e que tinham roubado quase 1 milhão de dólares aos pobres que pretendia ajudar na República Democrática do Congo (RDC).

O que acontece depois de criarmos Deus? [Breves do AE]

Se pudéssemos curar doenças como o cancro [BR. câncer], porque é que não haveríamos de fazê-lo? Imagine que para isso tínhamos a capacidade de criar algo com o poder de um deus. O que poderia correr mal? Bom, imagine que esse deus teria a capacidade de curar doenças e de fazer desaparecer miraculosamente os males que assolam a humanidade, mas haveria 1% de probabilidade de, ao operar de forma misteriosa, acabar por exterminar toda a vida na terra. Deveríamos, ainda assim, criar esse deus? Essa ínfima probabilidade, por contraste com o paraíso na terra, seria negligenciável? Mas atenção, seria uma probabilidade de extermínio total… e se houvesse uma probabilidade maior disso acontecer?