Os Maiores Mitos sobre a Inteligência Artificial

/ agosto 24, 2016

Uma conversa cativante está ocorrendo sobre o futuro da inteligência artificial e o que ela irá/deverá significar para a humanidade. Há controvérsias fascinantes sobre as discordâncias dos principais especialistas mundiais, tais como: o impacto futuro da IA no mercado de trabalho; se/quando a IA se desenvolverá ao nível humano; se isso irá levar a uma explosão de inteligência; e se isso é algo que devemos acolher ou temer. Mas também existem muitos exemplos de pseudo-controvérsias causados por mal-entendidos e por se trocar alhos por bugalhos. Como ajuda para nos concentramos nas controvérsias interessantes e questões em aberto — e não nos mal-entendidos — vamos esclarecer alguns dos mitos mais comuns.

AI-infografia

MITOS DE CRONOLOGIA

O primeiro mito diz respeito à cronologia: quanto tempo vai demorar até que as máquinas superem em muito a inteligência humana? Um erro comum é pensar que sabemos a resposta com grande certeza.

Um mito popular é que sabemos que haverá IA sobre-humana ainda neste século. Na verdade, a história está cheia de tecnologias sobrestimadas. Onde estão aquelas centrais elétricas de fusão e os carros voadores que prometeram que já teríamos agora? A IA também tem sido repetidamente sobrestimada no passado, mesmo por alguns dos fundadores desta área. Por exemplo, John McCarthy (que cunhou o termo “inteligência artificial”), Marvin Minsky, Nathaniel Rochester e Claude Shannon escreveram esta previsão demasiado otimista daquilo que poderia ser realizado durante dois meses com computadores da idade da pedra: “Propomos que seja realizado um estudo sobre inteligência artificial em 2 meses e com 10 homens durante o verão de 1956 na Universidade de Dartmouth […] Será feita uma tentativa para descobrir como fazer as máquinas usar linguagem, formar abstrações e conceitos, resolver o tipo de problemas agora reservados para os seres humanos e se auto-aperfeiçoarem. Pensamos que um avanço significativo pode ser feito em um ou mais desses problemas, se um grupo cuidadosamente selecionado de cientistas trabalhar em conjunto durante um verão.”

Por outro lado, um contra-mito popular é que não teremos IA sobre-humana este século. Os pesquisadores fizeram uma ampla gama de estimativas para o quão longe estamos da IA sobre-humana, mas certamente não podemos dizer com muita confiança que neste século a probabilidade é zero, dado o péssimo histórico de tais previsões tecno-céticas. Por exemplo, Ernest Rutherford, provavelmente o maior físico nuclear de seu tempo, disse em 1933 — menos de 24 horas antes da invenção da reação nuclear em cadeia de Szilard — que a energia nuclear era uma “tolice”. E o Astrônomo Real Britânico, Richard Woolley, em 1956 chamou as viagens interplanetárias de “total asneira”. A forma mais extrema deste mito é que a IA sobre-humana nunca vai chegar porque é fisicamente impossível. No entanto, os físicos sabem que um cérebro consiste em quarks e elétrons dispostos de modo a agir como um computador poderoso, e que não há qualquer lei da física que nos impeça de construir bolhas de quark mais inteligentes.

Tem havido uma série de inquéritos que questionam pesquisadores de IA sobre daqui a quantos anos eles acham que teremos IA de nível humano com pelo menos 50% de probabilidade. Todas esses inquéritos têm a mesma conclusão: os principais especialistas do mundo estão em desacordo, portanto, simplesmente não sabemos. Por exemplo, desse inquérito com os pesquisadores de IA na conferência IA de 2015 em Porto Rico, a resposta média (a mediana) foi por volta do ano 2045, mas alguns pesquisadores supuseram centenas de anos ou mais.

Há também um mito relacionado de que pessoas que se preocupam com a IA pensam que esta esteja apenas a alguns anos de distância. Na verdade, a maioria das pessoas de que haja registo que se preocupam com IA sobre-humana acham que esta ainda está, pelo menos, a décadas de distância. Mas argumentam que, enquanto não tivermos 100% de certeza que não vai acontecer neste século, é inteligente começar agora a pesquisa sobre a segurança para nos prepararmos para a eventualidade. Muitos dos problemas de segurança associados com a IA de nível humano são tão difíceis que podem levar décadas a resolver. Portanto, é prudente começar a pesquisá-los agora, em vez de começar na noite anterior àquela em que alguns programadores bebendo bebidas energéticas decidam ligar uma.

MITOS DE CONTROVÉRSIA

Outro equívoco comum é que as únicas pessoas que se preocupam com a IA e que defendem a pesquisa da IA segura são luditas que não sabem muito sobre a IA. Quando Stuart Russell, autor do manual de referência sobre a IA, mencionou isso na sua palestra em Porto Rico a audiência deu uma sonora gargalhada. Um equívoco relacionado é que apoiar a investigação à IA segura é extremamente controverso. Na verdade, para apoiar um investimento modesto em pesquisa à IA segura, as pessoas não precisam de estar convencidas de que os riscos são elevados, mas simplesmente que não são negligenciáveis — assim como um investimento modesto em um seguro de casa se justifica por uma probabilidade não negligenciável de a casa pegar fogo.

Pode ser que a mídia tenha feito com que o debate da IA segura pareça mais controverso do que é na realidade. Afinal de contas, o medo vende, e artigos usando citações fora de contexto para proclamar a desgraça iminente podem gerar mais cliques do que os mais equilibrados e com mais nuances. Como resultado, duas pessoas que só saibam sobre as posições de cada uma por meio de citações na mídia, tendem a achar que discordam mais do que realmente acontece. Por exemplo, um tecno-cético que apenas tenha lido sobre a posição de Bill Gates em um tablóide britânico pode pensar equivocadamente que Gates acredita que a superinteligência está iminente. Da mesma forma, alguém no movimento da IA benéfica que não sabe nada sobre a posição do Andrew Ng, exceto a sua citação sobre a superpopulação em Marte, pode pensar equivocadamente que ele não se preocupa com a IA segura, ao passo que, na verdade, ele se preocupa. O ponto crucial simplesmente é que, sendo as estimativas cronológicas de Ng mais longas, ele naturalmente tende a priorizar os desafios de curto prazo em detrimento dos desafios a longo prazo.

MITOS SOBRE OS RISCOS DE UMA IA SOBREHUMANA

Muitos pesquisadores de IA reviram os olhos ao ver esta manchete: “Stephen Hawking adverte que a ascensão dos robôs pode ser desastrosa para a humanidade.” E outros tantos já perderam a conta de quantos artigos semelhantes já viram. Normalmente, esses artigos são acompanhados por um robô de aparência maligna usando uma arma, e sugerem que devemos nos preocupar com robôs que se revoltam e nos matam porque se tornam conscientes e/ou malignos. Num tom mais ligeiro, tais artigos são realmente bastante impressionantes, porque eles resumem sucintamente a hipótese sobre a qual os pesquisadores de IA não se preocupam. Essa hipótese chega a combinar até três equívocos separados: preocupação com a consciência, a maldade e os robôs.

Se você for dirigindo seu carro pela estrada abaixo, você tem uma experiência subjetiva de cores, sons, etc. Mas será que um carro auto-dirigível tem uma experiência subjetiva? Será que se sente qualquer coisa quando se é um carro auto-dirigível? Embora este mistério da consciência seja interessante em si mesmo, é irrelevante para o risco da IA. Se você for atingido por um carro sem motorista, não faz diferença para você se ele se sente subjetivamente consciente. Da mesma forma, o que vai afetar os seres humanos é o que a IA superinteligente fará, não como se sentirá subjetivamente.

IA

Será que vamos controlar as máquinas inteligentes ou elas a nós? | Imagem retirada daqui.

O medo de as máquinas se tornarem malignas é outra falsa questão. A preocupação real não é a maldade, mas a competência. A IA superinteligente é por definição muito boa a atingir os seus objetivos, sejam eles quais forem, por isso precisamos garantir que os seus objetivos estejam alinhados com os nossos. Os seres humanos geralmente não odeiam as formigas, mas somos mais inteligentes do que elas — por isso, se queremos construir uma barragem hidroeléctrica e há um formigueiro aí, pior para as formigas. O movimento da IA benéfica quer evitar colocar a humanidade na posição dessas formigas.

O equívoco da consciência está relacionado com o mito de que as máquinas não podem ter objetivos. As máquinas podem, obviamente, ter objetivos no sentido estrito de exibir um comportamento orientado para um objetivo: o comportamento de um míssil termo-guiado é resumidamente explicado como um objetivo para atingir um alvo. Se você se sentir ameaçado por uma máquina cujos objetivos são divergentes dos seus, então são precisamente os objetivos dela neste sentido estrito que o preocupam, não se a máquina está consciente e a sentir uma razão de ser. Se esse míssil termo-guiado o está a perseguir, você provavelmente não iria exclamar: “Eu não estou preocupado, porque as máquinas não podem ter objetivos!”

Eu simpatizo com Rodney Brooks e outros pioneiros da robótica que se sentem injustamente demonizados pelos tablóides alarmistas, porque alguns jornalistas parecem obsessivamente fixados em robôs e adornam muitos dos seus artigos com monstros de metal de aparência maligna com olhos vermelhos brilhantes. Na verdade, a principal preocupação do movimento da IA benéfica não é com robôs, mas com a inteligência em si: especificamente, a inteligência cujos objetivos são divergentes dos nossos. Para nos causar problemas, tal inteligência sobre-humana divergente não precisa de um corpo robótico, apenas de uma conexão com a Internet — o que pode permitir ludibriar os mercados financeiros, superar as invenções de pesquisadores humanos, contornar a manipulação de líderes humanos e desenvolver armas que não podemos sequer compreender. Mesmo se a construção de robôs fosse fisicamente impossível, uma IA super-inteligente e super-rica poderia facilmente pagar ou manipular muitos seres humanos que involuntariamente acederiam aos seus comandos.

O equívoco do robô está relacionado com o mito de que as máquinas não podem controlar os seres humanos. A Inteligência permite o controle: os seres humanos controlam os tigres não porque somos mais fortes, mas porque somos mais inteligentes. Isto significa que, se cedermos a nossa posição como os mais inteligente do nosso planeta, é possível que também percamos o controle.

CONTROVÉRSIAS INTERESSANTES

Não perder tempo com os equívocos acima mencionados nos permite prestar atenção às controvérsias verdadeiras e interessantes, sobre as quais até mesmo os especialistas discordam. Que tipo de futuro você quer? Devemos desenvolver armas letais autônomas? O que gostaria que acontecesse com a automação do trabalho? Que conselho de carreira daria às crianças de hoje? Prefere novos postos de trabalho que substituam os antigos, ou uma sociedade desempregada, em que todos gozam uma vida de lazer e riqueza produzida pelas máquinas? Posteriormente, gostaria que criássemos vida superinteligente e a espalhássemos pelo nosso cosmos? Será que vamos controlar as máquinas inteligentes ou elas a nós? Será que as máquinas inteligentes nos substituirão, coexistirão conosco, ou se fundirão conosco? O que significará ser humano na era da inteligência artificial? O que você gostaria que ela significasse e como podemos fazer com que o futuro venha a ser assim? Por favor, junte-se à conversa!

Referência Recomendadas

Vídeos

Artigos na Mídia

Ensaios por Pesquisadores de IA

Artigos de Pesquisa

Coleções de Pesquisas

Estudos de Caso

Publicações em Blogues e Palestras

Livros

Organizações

Muitas das organizações listadas nesta página e suas descrições são de uma lista compilada pelo Global Catastrophic Risk institute; estamos muito gratos pelos seus esforços para a compilarem. Estas organizações acima de tudo trabalham em questões de tecnologia informática, embora tratem muitos outros temas também. Esta lista está, sem dúvida, incompleta; entre em contato conosco para sugerir inclusões ou correções.

Fonte: Future of Life Institute – The Top Myths About Advanced AI

Tradução de Thiago Tamosauskas e José Oliveira.

Guardar

Guardar

Guardar

Guardar

Guardar

Guardar

Guardar

Guardar

Guardar

Guardar

Guardar

Guardar

Guardar

Descubra mais sobre Altruísmo Eficaz

Assine para receber os posts mais recentes por e-mail.

Posts Relacionados

4 comentários sobre “Os Maiores Mitos sobre a Inteligência Artificial”

  1. Conteúdo e referências sensacionais!
    Tema realmente preocupante, ainda mais quando relacionado com a atual conjuntura global, e ainda vemos calhordas sendo eleitos e empresas se tornando conglomerados que parece torna o futuro nebuloso… Parece como no livro 1984

    Curtir

    Responder

  2. Pingback: O que fazer para nunca mais acontecer? Nos precavermos contra outros riscos catastróficos | 80,000 Horas: Como fazer a diferença com sua carreira

  3. Pingback: Steven Pinker sobre riscos da Inteligência Artificial | 80.000 Horas: Como fazer a diferença com sua carreira

  4. Pingback: Leituras: Life 3.0 ou (quem vai) decidir o nosso futuro? – Insustentável Leveza 2

Deixe um comentário