A IA é uma “Tragédia dos Comuns”? [Breves do AE]

A IA é um caso de “Corrida às armas” ou de “Tragédia dos Comuns”? Vejamos o primeiro caso, em que se corre para chegar primeiro à meta, não vá o inimigo lá chegar primeiro (como no caso da corrida para desenvolver a 1.ª bomba atómica). Talvez essa não seja a analogia mais correcta, pois na IA há várias metas (em vez do objectivo único da bomba atómica, seria mais como a aplicação alargada da electricidade), mas para além dos potenciais benefícios durante a corrida, aquele que corta a meta e ganha pode ser a própria IA (o que significa que, caso a IA não esteja alinhada com os nossos interesses, uma das partes ao acelerar o passo para a meta, pode estar a acelerar o passo para a morte de todos). E o que dizer da analogia da “Tragédia dos Comuns”? Este termo é aplicado, nomeadamente por ecologistas e economistas, relativamente à extinção de recursos promovida por uma parte, levando ao prejuízo de todos. De que modo isto se aplicaria à IA?

O que acontece depois de criarmos Deus? [Breves do AE]

Se pudéssemos curar doenças como o cancro [BR. câncer], porque é que não haveríamos de fazê-lo? Imagine que para isso tínhamos a capacidade de criar algo com o poder de um deus. O que poderia correr mal? Bom, imagine que esse deus teria a capacidade de curar doenças e de fazer desaparecer miraculosamente os males que assolam a humanidade, mas haveria 1% de probabilidade de, ao operar de forma misteriosa, acabar por exterminar toda a vida na terra. Deveríamos, ainda assim, criar esse deus? Essa ínfima probabilidade, por contraste com o paraíso na terra, seria negligenciável? Mas atenção, seria uma probabilidade de extermínio total… e se houvesse uma probabilidade maior disso acontecer?

Devemos parar a Invasão da IA? [Breves do AE]

Será que a chegada da Inteligência Artificial é como uma perigosa invasão alienígena? Há quem apresente precisamente essa analogia: Quando o Havaí foi assolado por ratos, perante o grave prejuízo económico, houve quem se lembrasse de introduzir um predador natural vindo de outro país, o mangusto. Mas a ideia provou ser desastrosa, pois o mangusto terá acabado por se tornar responsável pela extinção de várias espécies locais. E no caso do “mangusto da IA”? Mesmo perante a possibilidade de uma enormíssima vantagem económica, será que faremos uma pausa para assegurar que não ficamos tão impotentes como ovos face à voracidade do mangusto? Quem assinaria uma petição que obrigasse a fazer essa pausa?

Superinteligência, depressa ou devagar? [“Breves do AE”]

O Director Executivo [da OpenAI], Sam Altman, esclarece o seguinte sobre o seu plano:
«A transição bem-sucedida para um mundo com superinteligência é talvez o projecto mais importante — e esperançoso e assustador — da história da humanidade.»
[…] Para percebermos a gravidade destes riscos, vejamos o que diz Kelsey Piper [Holden Karnofsky e Scott Alexander]

Será o fim da Internet? [“Breves do AE”]

Assim como o advento da imprensa revolucionou o mundo das ideias e do conhecimento, a Internet, à escala actual, leva isso mais longe e ainda desvenda um metaverso com uma saturação de vozes (dando expressão a quem nunca foi ouvido antes) e parece aspirar à ligação de cada um a todos. Mas será que algo poderia quebrar essa ligação? Há quem acredite que sim. Há quem acredite que essa será uma das consequências da Inteligência Artificial emergente. Mas como? E quando? Isso é o que vamos ver a seguir…