O que diz Toby Ord sobre a nova era da IA? [Breves do AE]

O progresso da IA está a abrandar? Apesar de se estar a chegar ao fim da era da IA mais inteligente, que consistia apenas em aumentar o seu tamanho, a resposta é, sem dúvida, não! Os modelos de IA continuam a tornar-se muito mais potentes, embora através de métodos bastante distintos. Perante estas mudanças técnicas fundamentais, não será necessário reavaliar profundamente o que nos reservam os próximos anos?

Este é o tópico central da entrevista de Toby Ord, filósofo de Oxford e fundador da organização filantrópica Giving What We Can, ao podcast das 80.000 Hours.

A IA é uma “Tragédia dos Comuns”? [Breves do AE]

A IA é um caso de “Corrida às armas” ou de “Tragédia dos Comuns”? Vejamos o primeiro caso, em que se corre para chegar primeiro à meta, não vá o inimigo lá chegar primeiro (como no caso da corrida para desenvolver a 1.ª bomba atómica). Talvez essa não seja a analogia mais correcta, pois na IA há várias metas (em vez do objectivo único da bomba atómica, seria mais como a aplicação alargada da electricidade), mas para além dos potenciais benefícios durante a corrida, aquele que corta a meta e ganha pode ser a própria IA (o que significa que, caso a IA não esteja alinhada com os nossos interesses, uma das partes ao acelerar o passo para a meta, pode estar a acelerar o passo para a morte de todos). E o que dizer da analogia da “Tragédia dos Comuns”? Este termo é aplicado, nomeadamente por ecologistas e economistas, relativamente à extinção de recursos promovida por uma parte, levando ao prejuízo de todos. De que modo isto se aplicaria à IA?