Afinal o que é AGI? [Breves do AE]

Por que razão será importante saber o que é a Inteligência Artificial Geral? Se isto significa que a IA pode atingir a inteligência humana em todas as suas dimensões, em que medida poderá tornar-se um problema maior do que as soluções que possa trazer? E em que medida será um problema insuperável? […] um grupo de cientistas concentrou-se agora em obter a definição de IAG. Essa resposta poderá esclarecer o ponto em que nos encontramos no desenvolvimento da IA e até o momento a partir do qual o seu desenvolvimento poderá escapar ao nosso controlo.

O que diz Toby Ord sobre a nova era da IA? [Breves do AE]

O progresso da IA está a abrandar? Apesar de se estar a chegar ao fim da era da IA mais inteligente, que consistia apenas em aumentar o seu tamanho, a resposta é, sem dúvida, não! Os modelos de IA continuam a tornar-se muito mais potentes, embora através de métodos bastante distintos. Perante estas mudanças técnicas fundamentais, não será necessário reavaliar profundamente o que nos reservam os próximos anos?

Este é o tópico central da entrevista de Toby Ord, filósofo de Oxford e fundador da organização filantrópica Giving What We Can, ao podcast das 80.000 Hours.

O que acontece depois de criarmos Deus? [Breves do AE]

Se pudéssemos curar doenças como o cancro [BR. câncer], porque é que não haveríamos de fazê-lo? Imagine que para isso tínhamos a capacidade de criar algo com o poder de um deus. O que poderia correr mal? Bom, imagine que esse deus teria a capacidade de curar doenças e de fazer desaparecer miraculosamente os males que assolam a humanidade, mas haveria 1% de probabilidade de, ao operar de forma misteriosa, acabar por exterminar toda a vida na terra. Deveríamos, ainda assim, criar esse deus? Essa ínfima probabilidade, por contraste com o paraíso na terra, seria negligenciável? Mas atenção, seria uma probabilidade de extermínio total… e se houvesse uma probabilidade maior disso acontecer?

Devemos parar a Invasão da IA? [Breves do AE]

Será que a chegada da Inteligência Artificial é como uma perigosa invasão alienígena? Há quem apresente precisamente essa analogia: Quando o Havaí foi assolado por ratos, perante o grave prejuízo económico, houve quem se lembrasse de introduzir um predador natural vindo de outro país, o mangusto. Mas a ideia provou ser desastrosa, pois o mangusto terá acabado por se tornar responsável pela extinção de várias espécies locais. E no caso do “mangusto da IA”? Mesmo perante a possibilidade de uma enormíssima vantagem económica, será que faremos uma pausa para assegurar que não ficamos tão impotentes como ovos face à voracidade do mangusto? Quem assinaria uma petição que obrigasse a fazer essa pausa?