(275) O futuro não precisa de nós
Tempo estimado de leitura: 8 minutos.
Estamos a ser rapidamente conduzidos para um novo século sem quaisquer planos, sem controle e sem travões, Bill Joy.
Se alguma coisa puder vir a correr mal, tal acabará por acontecer, Lei de Murphy (Finagle’s law).
A nossa onda é confiar na ciência e abraçar o progresso, sejam quais forem as suas consequências […] A tecnologia pode servir para que a polícia te localize e te ponha o joelho no pescoço. Mas também serve para convocar e organizar manifestações contra a polícia, Aviador Dro.
Estes seres humanos “feitos”, poderão serem felizes numa tal sociedade, mas, certamente, não serão livres. Eles serão reduzidos ao estatuto de animais domésticos, Theodore Kaczynski.
Bill Joy (1954- ), cientista em computadores, cofundador e engenheiro chefe da Sun Microsystems, preocupado com a grande influência que o rápido desenvolvimento tecnológico estava a ter no futuro da humanidade, bem como com possíveis consequências não desejadas do uso da tecnologia, publicou em abril de 2000 na revista Wired, um importante artigo intitulado “Porque é que o Futuro Não Necessita de Nós” (Why The Future Doesn’t Need Us).
Nas conversas/discussões que teve com vários especialistas para se conseguir inteirar do que se estava a passar, começava sempre por lhes pedir para lerem os parágrafos seguintes constantes do livro do visionário Ray Kurzweil, The Age of Spiritual Machines, uma utopia/distopia na qual os humanos conseguiam a imortalidade ao transformarem-se em robôs:
“Comecemos por postular que os cientistas de computadores conseguem desenvolver máquinas inteligentes que fazem tudo melhor que os humanos. Nesse caso, presumivelmente, todo o trabalho passaria a ser feito por enormes sistemas de máquinas altamente organizados, não sendo, portanto, necessário qualquer trabalho humano.
A partir daqui uma de duas coisas poderá ocorrer: ou às máquinas lhes é permitido tomarem todas as decisões sem supervisão humana, ou então acautela-se para os humanos a possibilidade de terem controle sobre as máquinas.
No caso de às máquinas lhes ser permitido tomarem as suas próprias decisões, então nós deixaremos de poder conjeturar sobre os resultados que irão ser obtidos, porque é impossível adivinhar como é que as máquinas se vão comportar. Neste caso, o destino da raça humana ficará à mercê das máquinas.
Poder-se-á argumentar que a raça humana não será tão louca ao ponto de entregar todo o poder às máquinas. Não vamos sugerir que a raça humana entregue voluntariamente o poder às máquinas, nem que as máquinas queiram por si só tomarem o poder. O que sugerimos é que a raça humana se possa deixar ficar indolentemente numa posição de dependência das máquinas em que acabe por aceitar todas as decisões das máquinas.
À medida que a sociedade e os problemas que enfrenta se tornarem cada vez mais complexos, e que as máquinas se tornarem cada vez mais inteligentes, as pessoas deixarão cada vez mais as máquinas tomarem decisões por elas, até porque as decisões tomadas pelas máquinas proporcionam melhores resultados que as tomadas pelos homens.
Eventualmente, pode-se atingir um patamar em que as decisões necessárias para manter o sistema a funcionar sejam tão complexas que os seres humanos sejam incapazes de racionalmente as tomar. A partir dessa fase, as máquinas estarão efetivamente no controle. As pessoas não serão sequer capazes de desligar as máquinas, porque desligá-las significará suicidarem-se.
A outra opção é a possibilidade de os humanos terem efetivamente controle sobre as máquinas que possuem. É o caso do controle que o homem médio poderá ter sobre máquinas privadas que lhe pertencem, como os seus carros, computadores. Só que o controle sobre os grandes sistemas de máquinas ficará nas mãos de uma pequena elite, tal como se passa hoje, mas com duas diferenças.
Devido a uma melhoria das técnicas, a elite tem um maior controle sobre as massas, e como o trabalho humano já não se torna necessário, as massas serão supérfluas, um fardo inútil para o sistema. Se as elites forem humanas, poderão servir-se da propaganda ou de outras técnicas psicológicas ou biológicas para reduzirem a natalidade das massas até que elas se extingam, deixando o mundo para a elite. Ou, se a elite for formada por liberais de bom coração, podem decidir desempenhar o papel do bom pastor para o resto da raça humana. Assegurarão a todos as suas necessidades físicas, que todas as crianças sejam criadas em condições higiénicas psicologicamente, que todos tenham uma ocupação que os mantenha entretidos, e que todos, mesmo os que assim não estejam satisfeitos, sejam submetidos a “tratamentos” para curar os seus “problemas”.
Evidentemente, a vida será tão sem sentido que as pessoas terão de ser biologicamente ou psicologicamente “feitas” por forma a remover-lhes a apetência pelo processo do poder ou de se lhes “sublimar” essa compulsão para o poder transformando-a numa ocupação inócua. Estes seres humanos “feitos”, poderão serem felizes numa tal sociedade, mas, certamente, não serão livres. Eles serão reduzidos ao estatuto de animais domésticos.”
Após terem lido estes parágrafos, Bill Joy explicava-lhes que o que tinham acabado de ler, apesar de constar do livro de Kurzweil, fazia parte do célebre Unabomber Manifesto, “Industrial Society and its Future” (1) de Theodore Kaczynski, o bombista assassino, em que ele desenvolvia racionalmente o problema das consequências não desejadas do uso da tecnologia.
São conhecidos exemplos clássicos de consequências não desejadas, como foram, e são, o uso excessivo de antibióticos que levaram ao aparecimento de bactérias resistentes, e a utilização de DDT contra os mosquitos que acabaram por tornar resistentes os parasitas da malária.
Na mesma direção, embora com outro argumento, aparece o cientista de robótica da Universidade Carnegie-Mellon, Hans Moravec, quando no seu livro, Robot: Mere Machine to Transcendent Mind, explica que as espécies biológicas quase nunca sobrevivem ao encontro com competidores superiores.
Apresenta o caso dos marsupiais do continente Sul americano que foram praticamente eliminados quando o istmo a ligar com o Norte apareceu, pondo-os em contacto com as espécies de placenta com sistemas metabólicos, reprodutivos e nervosos mais efetivos.
Daí que para Moravec, mesmo que queiramos vir a desenvolver uma “cooperação com as indústrias robóticas” decretando leis para que os robôs sejam “boas pessoas” (foi Isaac Asimov, que no seu livro de 1950, I, Robot, incluiu as chamadas “Três Leis da Robótica”: 1. Um robô não poderia fazer mal a um ser humano, ou deixar que um ser humano se aleijasse. 2. Um robô deveria obedecer às ordens dadas pelos seres humanos, exceto se essas ordens conflituassem com a Primeira Lei. 3. Um robô deveria proteger a sua própria existência, desde que essa proteção não entrasse em conflito com a Primeira e Segunda lei), os robôs acabarão, eventualmente, por nos suceder, estando os humanos condenados à extinção.
Bill Joy vem depois chamar-nos a atenção para o facto de não nos preocuparmos muito com os avanços tecnológicos nos campos da robótica, engenharia genética e nanotecnologia. Após os sustos com o desenvolvimento da energia atómica do século XX, foram-se sucedendo sempre a ritmo crescente os sucessos científicos, muitos deles com aplicações práticas positivas, pelo que nos fomos habituando ao seu aparecimento.
E, segundo Joy, devíamo-nos de preocupar, porque são muito mais perigosos os avanços do século XXI que os do século passado. As tecnologias por detrás das armas de destruição massiva – nuclear, biológica e química – eram muito poderosas e constituíam uma enorme ameaça, só que implicavam o acesso a matérias primas raras, num ambiente altamente secreto, desenvolvidas em enormes instalações mandadas construir pelos governos e operadas por militares.
Já as tecnologias do século XXI, não necessitam de enormes instalações nem de matérias primas raras, sendo quase exclusivamente desenvolvidas por corporações privadas para fins comerciais, o que implica a existência de pressões adicionais que possam vir a provocar toda a classe de acidentes e abusos. Além do mais, contrariamente às bombas que só rebentam uma vez e terminam o seu uso, estes novos produtos (robôs, organismos criados geneticamente, nanobots) podem-se auto-replicar.
A quando da construção e utilização das bombas atómicas, para além as muitas dúvidas científicas que se foram pondo (por exemplo, Edward Teller estava convencido que uma explosão nuclear poderia incendiar toda a atmosfera, e mesmo Oppenheimer estava tão preocupado com o resultado da experiência da primeira bomba, que preparou a possível evacuação de todo o sudoeste do Novo México), vários foram os dilemas morais que se foram verificando, especialmente perante o horror das mortes em Hiroxima.
Contudo, Oppenheimer manteve-se firme na defesa da atitude científica que levou à construção da bomba atómica, afirmando, três meses após os bombardeamentos, que:
“Não é possível ser-se cientista a não ser que se acredite que o conhecimento do mundo, e o poder que ele confere, é algo que é um valor intrínseco da humanidade, e que ele é usado para ajudar a espalhar o conhecimento e que, portanto, deve estar pronto para arcar com as consequências.”
Dois anos depois, em 1948, o mesmo Oppenheimer:
“De uma forma chã sem qualquer vulgaridade, sem humor, ou sem que qualquer nova declaração possa extinguir, podemos dizer que os físicos conheceram o pecado, e isto deve ser um conhecimento que não podem perder.”
Esta falha do entendimento sobre as consequências das nossas invenções enquanto estamos obcecados pela descoberta e inovação parece ser uma falta comum aos cientistas e tecnologistas. A procura do conhecimento como caraterística definitória do ser humano (Por natureza, todo o homem deseja conhecer, Aristóteles), base da procura científica, sem pausa para se aperceber que o progresso para novas e mais poderosas tecnologias podem conter em si vida própria, com consequências imprevisíveis.
Da mesma forma que as explosões das primeiras bombas atómicas conduziram a uma corrida ao armamento nuclear que nos colocou, e continua a colocar, à beira da extinção, as novas tecnologias anunciadas para este século (a robótica, com os seus dois grandes sonhos: 1. A criação de máquinas inteligentes que farão todo o trabalho por nós, libertando-nos para uma vida de prazer, um novo Paraíso. 2. A substituição gradual de nós próprios por tecnologia robótica, podendo finalmente alcançar-se uma espécie de imortalidade fazendo o download da nossa consciência. A engenharia genética, com os seus sonhos: 1. Revolucionar a agricultura eliminando os pesticidas, criando novas espécies de bactérias, plantas, vírus e animais, substituir a reprodução pela clonagem. 2. Criar cura para muitas doenças, aumentando os anos e vida e a qualidade da vida. A nanotecnologia, com os seus sonhos: 1. A manipulação da matéria a nível atómico poderá criar um futuro de abundância, em que quase tudo pudesse ser feito a baixo custo, e qualquer doença ou problema físico poderiam ser resolvidos. 2. A criação de ”montadores” (assemblers) a nível molecular que possibilitassem energia solar a baixo custo, o aumento da capacidade do sistema de imunidade humano, a limpeza do ambiente, e a restauração de espécies extintas), podem colocar-nos cada vez mais próximos da criação de alimentos geneticamente modificados, da criação de Grandes Pragas universais e a criação (ou não) dos seus antídotos, da criação de aparatos seletivamente destrutivos que possam afetar apenas uma determinada área geográfica ou um certo grupo de pessoas, animais, plantas, bactérias ou vírus, que sejam geneticamente distintas, que por um simples acidente, erro ou intenção, poderão acabar com toda a biosfera.
Para Bill Joy, “estamos a ser rapidamente conduzidos para um novo século sem quaisquer planos, sem controle e sem travões. Será que já nos encontramos tão afastados do caminho que já não conseguimos alterar o caminho? Não acredito, mas o facto é que não estamos a tentar o suficiente, e o ponto de não retorno aproxima-se rapidamente.”
Para finalizar, o bem-intencionado Joy, transcreve um excerto de um livro de Jacques Attali, Fraternités, que nos descreve como os nossos sonhos de utopia têm mudado ao longo do tempo:
“No alvor das sociedades, os homens viam a sua passagem pela Terra apenas como um labirinto de dor, no fim do qual se encontrava uma porta que os conduzia, após a morte, à companhia dos deuses e à ‘Eternidade’. Com os Hebreus e depois os Gregos, alguns homens atreveram-se a libertarem-se das exigências teológicas e sonharam uma ‘Cidade’ ideal onde florescesse a ‘Liberdade’. Outros, notando a evolução da sociedade do mercado, perceberam que a liberdade de alguns significava a alienação de outros, e pensaram em ‘Igualdade’.”
Vinte anos depois deste artigo/alerta de Bill Joy, o povo está sereno. Como lhe dissera então, para seu espanto, o seu amigo e cientista futurista Danny Hillis (cofundador da Thinking Machines Corporation, e da Long Now Foundation), as mudanças (homens misturarem-se com partes de robôs) virão gradualmente, e que nos iríamos habituar a elas.
E acrescentou:
“Gosto tanto do meu corpo como qualquer pessoa, mas se eu pudesse vir a ter 200 anos com um corpo de silicone, não exitaria”.
Servando Carballar (autodenominado BiovacN), teclista e voz principal do grupo espanhol de música eletrónica, Aviador Dro (El aviador dro y sus obreros especializados), diz numa muito recente entrevista (https://retina.elpais.com/retina/2020/07/03/tendencias/1593765837_057706.html):
“A nossa primeira intenção era formar um grupo de ação que recolhesse os nossos postulados de que a robótica e a cibernética iam contribuir para a melhoria da humanidade […]”
“A nossa onda é confiar na ciência e abraçar o progresso, sejam quais forem as suas consequências […] A tecnologia pode servir para que a polícia te localize e te ponha o joelho no pescoço. Mas também serve para convocar e organizar manifestações contra a polícia”.
Outra das suas citações:
“Os seres humanos irão desaparecer. Mais, é necessário eliminá-los para passarmos para um estado mecânico. Neste estado, não haverá liberdade individual, existe apenas a liberdade coletiva. Os problemas deixarão de existir porque cada homem-máquina será adequadamente programado e todos seremos felizes” ( https://en.wikipedia.org/wiki/Aviador_Dro).
Coitado do Bill Joy. Vá-se lá ser prior nesta freguesia. Por isso é que os priores agora são outros. Como observava José Mário Branco, no seu FMI, “Entretém-te, filho, entretém-te” (2).
Notas:
- https://www.josharcher.uk/static/files/2018/01/Industrial_Society_and_Its_Future-Ted_Kaczynski.pdf.
- https://www.youtube.com/watch?v=_Adp77ivpT8.
Sugestões:
Para complementar os assuntos, sugiro
- Artigo de 13 de julho de 2016, “O perigo dos equívocos da técnica”, https://otempoemquevivemosotempoemquevivemos.blogs.sapo.pt/o-perigo-dos-equivocos-da-tecnica-18131.
- Artigo de 14 de setembro de 2016, “Mecanismos de dissimulação e ilusão”, https://otempoemquevivemosotempoemquevivemos.blogs.sapo.pt/mecanismos-de-dissimulacao-e-de-20788.
- Artigo de 10 de outubro de 2018, “Nada de novo no admirável novo mundo”, https://otempoemquevivemosotempoemquevivemos.blogs.sapo.pt/184-nada-de-novo-no-admiravel-novo-48723.
- Artigo de 25 de março de 2020, “Pandemias na globalização”, https://otempoemquevivemosotempoemquevivemos.blogs.sapo.pt/260-pandemias-na-globalizacao-69137.
