Há quem diga que a investigação em IA atingiu o seu ponto mais alto. No entanto, muitos indícios obtidos no último ano apontam na direcção oposta:
Foram desenvolvidas e surgiram novas capacidades;
A investigação indica que a IA existente pode acelerar o progresso científico.
E, ao mesmo tempo, foram publicadas importantes conclusões sobre a segurança e o risco da IA
As IA actuais não são sencientes. Não temos grandes motivos para pensar que tenham um monólogo interior, o tipo de percepção sensorial que os seres humanos têm, ou uma consciência de que são um ser no mundo. Mas estão a ficar bastante boas a fingir a senciência, e isso já é suficientemente assustador.
“Uma grande esperança relacionada com a IA, à medida que a aprendizagem de máquina melhora, é que a possamos utilizar para a descoberta de medicamentos […].
Será melhor avançarmos cautelosamente: Qualquer sistema com poder e precisão suficientes na identificação de medicamentos que sejam seguros para os seres humanos é inerentemente um sistema que também será bom na identificação de medicamentos que sejam incrivelmente perigosos para os seres humanos.”
[O novo artigo] Em vez de fazer um questionário a todos os especialistas em IA, faz um questionário a pessoas que trabalham na “segurança e governação da IA”, ou seja, pessoas que já se preocupam com o facto de a IA ser potencialmente perigosa, e que dedicaram as suas carreiras a abordar esta questão. Como tal, estavam em média mais preocupadas do que as pessoas dos questionários anteriores, e deram uma probabilidade média de ~10% de catástrofe relacionada com a IA.
Altruísmo Eficaz 