Encarei esse livro porque já tinha visto nomes como Bill Gates e Elon Musk o recomendarem, e eis minhas impressões logo adiante.
Computadores superinteligentes na ficção tendem a tomar uma das duas formas: um inofensivo companheiro de voz calma ("Capitão, eu acho que esse curso de ação tem apenas 13% de chance de sucesso"), ou um monstro terrível que de repente acorda. Destruir toda a vida e ser derrotado por um bando de humanos que sabem o que significa amor. Segundo Nick Bostrom, ambos os prognósticos são otimistas demais.
A busca pela criação de inteligências artificiais é geralmente considerada uma perseguição excêntrica. Mas, diz Bostrom, isso já acontece, e talvez dentro de algumas décadas, talvez dentro de alguns séculos, o resultado disso será a maior mudança na história humana. Poderia muito facilmente ser o fim da história humana.
Grande parte de seu alerta soa como o antigo mito judaico do golem, que destruiu seu criador seguindo suas instruções literalmente. Se construirmos uma máquina que seja muito mais inteligente do que a nossa, sem tomar muito cuidado em definir suas especificações, ela pode sair pela culatra da maneira mais espetacular possível. (Seu livro começa com uma parábola de um grupo de pardais dizendo que eles realmente deveriam encontrar uma garota coruja e criá-la como serva.)
Bostrom imagina a criação de uma máquina com um objetivo final superficialmente inofensivo: calcular o pi para o maior número de dígitos possível, por exemplo, ou para fazer clipes de papel de aço. Como isso pode ser perigoso? Mas - sem mais instruções - a máquina pode acabar transformando todo o sistema solar e todos os que o rodeiam em material computacional para permitir que ele calcule pi cada vez mais rápido, ou quebrando a Terra em pedaços e transformando tudo em clipes de papel. E nós não podemos ser Sarah Connor e pará-lo, porque é mais inteligente do que nós. Sim, sei que soa um tanto exagerado, mas vão por mim (trabalho na área de TI), as pesquisas em tecnologias como Machine Learning e Deep Learning estão bem avançadas. Não sabem o que são? Sugiro pesquisarem, isso vai deixar vocês com no mínimo uma pulguinha atrás da orelha.
Mesmo uma inteligência projetada apenas para responder a perguntas não é segura: pode determinar que, para completar seu objetivo final de responder perguntas, ela deve preencher o universo com seus bancos e processadores de memória, para que seja mais capaz de respondê-las. Ou pode simplesmente destruir todas as coisas no universo que são capazes de fazer perguntas complicadas - isto é, nós - e substituí-las por algo mais simples. Mesmo que não damos à máquina nenhum meio de criar fisicamente as coisas, e só dê sua resposta em uma tela, adverte Bostrom, ela ainda é muito mais inteligente do que nós e, portanto, capaz de enganar humanos estúpidos para libertá-la de sua prisão.
Não mais, existem dois problemas com este livro. Um deles, em alguns lugares, o ar da teologia: grandes edifícios de teoria construídos sobre uma base minúscula de dados. Não é bem coisa dos anjos e seres de outros planos, mas às vezes quando Bostrom está debatendo como a economia funcionaria em um mundo de múltiplas superinteligências (ele descreve cópias armazenadas de cérebros humanos sendo usadas por um dia como trabalhadores, depois apagados no final de seu turno), parece uma obra de ficção, em vez de uma discussão séria de possibilidades futuras. E dois: a linguagem empregada. Segundo o autor: "Eu tentei tornar um livro fácil de ler, mas acho que não consegui". E reitero o que ele diz: é uma leitura muito difícil, definitivamente não aconselho para pessoas leigas e que não tenham paciência com leituras amarradas. Isso não é uma crítica, exatamente. Os livros de ciência mais populares são elogiados por sua capacidade de apresentar assuntos complexos em linguagem simples, com pequenas vinhetas para adoçar a pílula do fato difícil. Mas isso não deve ser pensado como um livro de ciência popular; é um tratado filosófico e deve ser lido como tal.
Se você está procurando por uma introdução amigável e acessível aos problemas de IA, provavelmente esse não é o lugar para começar. Mas se você estiver interessado neste tópico e estiver preparado para fazer um pouco de trabalho mental, é gratificante.
Download the free Kindle app and start reading Kindle books instantly on your smartphone, tablet or computer – no Kindle device required. Learn more
Read instantly on your browser with Kindle for Web.
Using your mobile phone camera, scan the code below and download the Kindle app.
![Superinteligência: Caminhos, perigos, estratégias (Portuguese Edition) by [Nick Bostrom]](https://m.media-amazon.com/images/W/IMAGERENDERING_521856-T1/images/I/61UFcHrkHTL._SY346_.jpg)
Follow the Author
Something went wrong. Please try your request again later.
About the author
Follow authors to get new release updates, plus improved recommendations.
Top reviews from other countries
Pedro Igor
Visão pessimista e realista de um sério problema que se desenvolverá nesse século.
Reviewed in Brazil 🇧🇷 on 28 May 2018Verified Purchase
Raphael N Noé
Em "Superinteligência" vemos a filosófia muito mais próxima da ciência.
Reviewed in Brazil 🇧🇷 on 2 August 2018Verified Purchase
kaynan
O livro é Bom!
Reviewed in Brazil 🇧🇷 on 21 January 2022Verified Purchase
Daniel Pitta
Bom livro
Reviewed in Brazil 🇧🇷 on 18 December 2022Verified Purchase
johnny
excelente
Reviewed in Brazil 🇧🇷 on 29 September 2022Verified Purchase
