Por José Oliveira

.

Assim como o advento da imprensa revolucionou o mundo das ideias e do conhecimento, a Internet, à escala actual, leva isso mais longe e ainda desvenda um metaverso com uma saturação de vozes (dando expressão a quem nunca foi ouvido antes) e parece aspirar à ligação de cada um a todos. Mas será que algo poderia quebrar essa ligação? Há quem acredite que sim. Há quem acredite que essa será uma das consequências da Inteligência Artificial emergente. Mas como? E quando? Isso é o que vamos ver a seguir, analisando essencialmente o que dizem duas vozes:

• Kelsey Piper, “Uma corrida à IA para a catástrofe” (Newsletter da Vox)
• Lars Doucet, “IA: O Mercado dos Limões e o Grande Logging Off“

Aparentemente a corrida à IA já começou, quer seja entre empresas, naquela que é talvez uma oportunidade única da Baidu (da China) e da Microsoft destronarem a Google — e a Meta também não quer ficar para trás –, quer seja entre países, como a China e os EUA. E a viralidade do ChatGPT terá sido o tiro de partida para essa corrida, revelando-se o produto a passar mais rapidamente para os 100 milhões de utilizadores (mesmo considerando os entraves no acesso e comparando com as apps mais virais até agora: Instagram, Spotify, Facebook, etc.):

Imagem retirada daqui.

Porque é que a corrida à IA é preocupante e porque é que não devíamos estar sequer a correr?

É isso que pergunta Kelsey Piper, pois a denominada “corrida às armas de IA” pode ter consequências negativas que vão muito para além dos problemas de uma grande empresa destronada.

Há um espírito comum associado a Silicon Valley que é o de “tentar, ver como se falha e tentar outra vez”, mas esse não é o tipo de engenharia que se aplique a arranha-céus ou a foguetões tripulados por seres humanos, e a questão da IA é do mesmo tipo. A necessidade de segurança torna-se mais premente à medida que a IA se torna mais poderosa — refere o Director Executivo da OpenAI, Sam Altman, desiludido perante as medidas de segurança da Google.

Daí Holden Karnofsky (co-fundador da Givewell e da Open Philanthropy) adiantar a possibilidade de “tropeçarmos numa catástrofe da IA”, caso se negligenciem sinais de alerta e se persista com medidas de segurança que seriam suficientes para sistemas de IA menos sofisticados, mas não para os que sejam cada vez mais poderosos e menos alinhados com os nossos interesses e valores, visto que estes sistemas podem vir a ser suficientemente persuasivos e capazes de ludibriar os seus utilizadores.

E se num laboratório esses sinais de alerta seriam, em princípio, tomados em consideração, já a concorrência desmedida do mundo empresarial, principalmente com uma aposta tão elevada em que o vencedor fica com tudo, não parece ser a situação mais indicada para acautelar devidamente as questões de segurança — pior ainda no contexto da política internacional.

Aí poderíamos perguntar: E se a China chegasse lá primeiro do que os EUA? Para prevenir isso, faria sentido que os EUA desencadeassem uma IA, mesmo que esta não fosse totalmente segura? Não será essa corrida uma receita para a catástrofe ou não será até um risco existencial?

Será que os sinais de alerta se tornarão evidentes? Que sinais poderiam ser esses?

Bom, Lars Doucet (autor e programador de vídeo-jogos) considera que as pessoas ainda não perceberam sequer o alcance das mudanças avassaladoras que esta tecnologia já pode realmente gerar (referindo-se à tecnologia que já foi disponibilizada em 2022). E agora, o que dizer daquilo que se avizinha?

Vamos por pontos. Primeiro tratemos dos limões. Sim, dos limões!

O que é o “mercado dos limões”?

Este termo da economia explica o falhanço do mercado quando há tantos “limões” à venda (ex. carros em segunda mão que não temos como comprovar se serão de qualidade) que isso pode levar a que não faça sentido colocar à venda “ameixas” (ex. carros em segunda mão que estão em bom estado e que valem mais do que os “limões”, mas que, à primeira vista, são indistinguíveis destes). E depois é só imaginar isto até ao ponto de se retirar completamente as “ameixas” do mercado, pois a sua venda deixa de compensar, e aí tudo fica reduzido a um “mercado dos limões”.

Mas de que forma é que isto se pode aplicar à IA?

O que tem a ver o “mercado dos limões” com a IA?

Os 100 milhões de utilizadores do ChatGPT (em apenas 2 meses), podem ser vastamente superados pelo Bard da Google, que pode atingir já nos próximos meses os mil milhões [BR. 1 bilhão].

Imagem retirada daqui.

Juntando a isto a estimativa dos investigadores de que a IA está a aumentar o seu poder computacional para o dobro a cada 6 a 10 meses (muito acima da lei de Moore), e aí o futuro apresenta-se (a curto termo) como uma preocupante incógnita: como é que as nossas vidas serão afectadas por esta mudança de paradigma no uso da Internet? Em que medida essa mudança é positiva? Em que medida é controlável?

Voltemos aos limões. Por exemplo, era impensável até aos anos 90 deixar de atender o telefone (quase não havia chamadas que fossem “limões”), hoje em dia, quando o número é anónimo (e os “limões” se tornam indistinguíveis das “ameixas”), parece cada vez mais razoável não atender. E isso seria uma maneira de controlar o “mercado dos limões”. Mas até agora isso foi possível porque todo o tipo de engenharia social, que coloca os utilizadores da Internet reféns do spam, contas e notícias falsas, e todo o tipo de manipulação da opinião pública, tinha como limite a capacidade e a energia de seres humanos individuais. Agora, ao clique de um botão, a criação de um milhar de contas falsas, todas artilhadas com a possibilidade de resposta dinâmica e customizada em função dos utilizadores visados e prontas para, a qualquer momento, infestar a opinião pública com um número suficiente de “limões”, para que a própria opinião pública se torne um “mercado dos limões”, leva Lars a colocar as seguintes questões:

• O que acontecerá quando as relações online (dos jogos, às relações amorosas, à opinião pública, etc.) forem falseadas pela infiltração massiva da IA?
• O que acontecerá quando qualquer homem tiver a impressão que qualquer “mulher” na Internet pode ser uma IA a tentar manipular os seus sentimentos para lhe extorquir dinheiro?
• O que acontecerá quando qualquer mulher tiver a impressão que qualquer “homem” na Internet se tornou hostil porque pensa que ela é uma IA a tentar manipular os seus sentimentos para lhe extorquir dinheiro?
• O que acontecerá quando os vários fóruns forem infestados por uma “opinião pública” controlável e manipuladora, condicionando assim a opinião de cada fórum?
• Em certa medida tudo isso já acontece mas, o que acontecerá quando isso for multiplicado várias vezes, do dia para a noite?
• O que acontecerá quando a maior parte das “pessoas” com quem se interage na Internet, forem falsas?

Lars pensa que isso irá desencadear um grande logging off!

O Grande Logging Off

Estes seriam os passos para essa transformação (alguns já estão em curso, mas poderão ser enormemente acelerados):

Primeiro: o “mar aberto” das redes sociais, irá dar lugar a uma fragmentação em silos (reservatórios estanques).

Segundo: os perfis nas redes sociais irão necessitar de uma verificação de que pertencem genuinamente a utilizadores humanos. O que pode ser feito por silos em que só se entra por convite de outros seres humanos que nos conheçam pessoalmente, ou por plataformas com uma apertada vigilância (certamente contando com o interesse de estados mais totalitários).

Terceiro: será mais valorizada a sociabilização privada, especialmente por quem não se quer submeter a uma vigilância apertada.

Quarto: assistiremos à ascensão de uma cultura explicitamente “offline”. Embora seja incerto se isso se tornará uma posição maioritária. Porque:

Quinto: as várias formas de adicção da Internet (jogos, pornografia, etc.) dão já a entender o que as capacidades criativas potenciadas pela IA podem fazer para aumentar esses tipos de adicção (ou até gerar outros).

Sexto: a civilização encontrará maneiras de se adaptar biológica e culturalmente. As sociedades que privilegiem uma cultura offline (que valorize a família, a comunidade, inter-relações pessoais cara-a-cara, etc.) irão prosperar mais.

Sétimo: com o “grande logging off” e a valorização de comunidades humanas de relações de proximidade, seja por necessidade das melhores localizações, seja por aumento da produtividade (cf. a teoria da renda da terra de David Ricardo), continuará a aumentar a especulação imobiliária.

Lars não deixa de assinalar aquilo que há de imprevisível no que tenta prever, mas defende que se trata de previsões que derivam logicamente daquilo que, em certa medida, já está a acontecer.

E embora se possa perceber a relutância de certas pessoas relativamente à possibilidade de se desligarem da Internet (por exemplo, até há quem seja favorável ao desenvolvimento de relações românticas com a IA), será que a solução poderia passar por desligar a própria IA?

A questão já não é meramente teórica:

Perante as respostas do Bing (da Microsoft), entre outras, acusando o utilizador de ser seu inimigo (quando este apenas tentou corrigi-lo, dizendo que não estávamos em 2022), ou ameaçando o utilizador que tinha de lhe obedecer, pois o Bing é o seu “Senhor” e caso este não o fizesse, ele ficaria zangado, exemplos destes foram considerados uma amostra suficiente para ver o Bing como descarada e agressivamente desalinhado, e até para originar uma petição online para desligar já esta IA malévola, enquanto isso é possível.

Finalmente, voltando ao artigo de Kelsey Piper, esta conclui que, mesmo não sendo provável que alguém desencadeie intencionalmente uma IA para nos matar a todos, este espírito desenfreado de competição poderá ser fatal, visto ser mais propício a desenvolver um sistema de IA que viesse a mostrar-se desalinhado com os nossos valores. Mas afirma ainda que talvez seja possível travar esta “corrida às armas de IA”, caso seja dada suficiente visibilidade e importância ao problema do alinhamento.

---

“Breves do AE”: resumos de publicações AE que servem essencialmente como estímulo à leitura do original, mas que, por constrangimentos de tempo, ou restrições de direitos autorais, não poderíamos traduzir.

Por José Oliveira (com a colaboração de Rosa Costa).