(158) Os novos alquimistas

Tempo estimado de leitura: 7 minutos.

As pessoas preocupam-se com o facto de os computadores ficarem demasiado inteligentes e que possam tomar conta do mundo, mas o verdadeiro problema é que eles são muito estúpidos e já tomaram conta do mundo, Pedro Domingos.

Os computadores podem ‘escrever’ programas que as pessoas não conseguem entender.

 “Ao contrário do que procura cada vez mais incessantemente a ciência moderna, o ideal alquimista não reside na descoberta de novos fenómenos, mas sim em reencontrar um antigo segredo, que ainda é inacessível e inexplicável para a maioria”, Alquimia, Manual Completo.

Para um computador fazer qualquer coisa, necessita que lhe seja dada uma instrução escrita pormenorizadamente detalhada que lhe explique como é que o vai fazer. A essa sequência de instruções dá-se o nome de “algoritmo”.

Essas instruções são fisicamente transmitidas ao computador pelo ligar (1) e desligar (0) de pequenos interruptores conhecidos como transístores. Um computador é constituído por milhões desses pequenos interruptores, e o algoritmo vai-lhes dar ordens para ligar/desligar milhares de milhões de vezes por segundo de acordo com uma certa sequência, por forma a conseguir expressar uma ordem lógica do raciocínio que queremos, utilizando apenas três operações da lógica: E (conector de conjunção: o Carlos E o António, 2 E 4, 2+4), OU (conector de disjunção: hoje é quarta OU quinta) e NÃO (negação). Nada fácil.

Hoje em dia há algoritmos para tudo e mais, milhares de milhões deles, e sempre a aumentarem. O que origina alguns problemas: dado o número incrível de informações que têm de ser armazenadas na memória do computador, se o algoritmo necessitar de mais memória do que aquela que o computador tem disponível, terá de ser posto de lado; se o algoritmo for muito complexo, o computador irá levar muito tempo a corrê-lo, impedindo a sua utilização, pelo que será também posto de lado.

E, há ainda o problema de os algoritmos serem tão intrincados e complicados (devido às interações que possam estabelecer entre eles) que o cérebro humano não os consiga entender, podendo provocar erros difíceis de detetar e corrigir.

Ou seja, tentar com algoritmos reproduzir exatamente qualquer ato da vida económica, científica, moral, etc., para obter resultados, acaba por torná-los de tal forma complicados que deixamos de os poder entender e verificar.

Uma maneira para ultrapassar esta limitação, é fornecermos ao computador os data disponíveis e o resultado que se deseja obter. Este “truque” vai-nos permitir obter o algoritmo que transforma os data no resultado, sem termos de gastar tempo a desenhá-lo.

A estes algoritmos que dão origem a outros algoritmos chamamos “algoritmos que aprendem” (learners) e, a este processo de aprendizagem chamamos “machine learning”. Utilizando a “machine learning”, os computadores escrevem os seus próprios programas.

Ou, dito de outra forma, os computadores podem ‘escrever’ programas que as pessoas não conseguem entender.

Isto tem sido extensivamente utilizado, faz parte já da “nossa” vida quotidiana (telemóveis, robôs, recomendações de compras, desenho de produtos farmacêuticos, automóveis autónomos, etc.).

 Na prática, o que estes algoritmos que aprendem (learners) fazem, é reduzirem as escolhas para que os humanos as consigam gerir. Dizem os especialistas que não existe nenhum perigo na medida em que os objetivos e as decisões são normalmente feitas pelos humanos.

Pelo facto de os computadores poderem aprender, isso não significa que consigam, como por mágica, terem vontade própria. Os algoritmos de aprendizagem aprendem a alcançar os objetivos que nós lhes propomos. Não conseguem por si alterar esses objetivos.

Outro aspeto que é bom recordar é que, por melhor que um algoritmo de aprendizagem seja, ele depende essencialmente dos data que utilizar. Pelo que quem controlar os data, controla o algoritmo de aprendizagem.

Qual a relação entre Inteligência Artificial (IA) e “machine learning”?

A finalidade da IA é por os computadores a fazerem aquilo que os humanos normalmente fazem, sendo, portanto, a aprendizagem um dos seus aspetos mais importantes. Daí que se possa considerar a machine learning como um subcampo da IA. Só que a machine learning se tornou tão importante (reconhecimento de padrões, modelagem estatística, procura de data, descoberta de conhecimento, sistemas autorregulados, previsão de ocorrências, etc.), que acabou por se independentizar e até se sobrepor à IA.

As diversas 'escolas' de aprendizagem

 “Aprender” dentro de um campo em que os data são infinitos, implica a necessidade de se fazerem assunções, o que vai obrigar os learners a “especializarem-se”, acabando por serem bons para umas coisas e não para outras.

Esta “especialização” dos algoritmos de aprendizagem tem que ver com as matérias a tratar, com as escolas de conhecimento em que se filiam, com os resultados obtidos. Podemos distinguir genericamente cinco dessas escolas de conhecimento:

Os simbologistas entendem que, perante um conhecimento inicial básico pré-existente, a inteligência limita-se a manipular os símbolos, da mesma forma que os matemáticos fazem ao resolverem equações quando substituem expressões por outras expressões.

Combinando diferentes peças de conhecimento, conseguem resolver novos problemas. Percebendo o que falta para fazerem uma dedução, através do algoritmo de dedução inversa tornam-na depois o mais geral possível.

 Para os conexionistas, uma vez que a aprendizagem é o que o cérebro faz, bastará reverter o processo para obtermos o resultado. Como o cérebro aprende ajustando as forças de conexão entre os neurónios, o que temos de saber é quais são os que produzem erros e mudá-los.

Comparando o que sai do sistema com o que se desejava que saísse, para depois ir alterando sucessivamente as conexões de camadas atrás de camadas dos neurónios, podemos acabar por obter a saída do sistema que desejávamos. A este algoritmo dá-se o nome de backpropagation.

Os evolucionistas acreditam que a mãe de toda a aprendizagem é a seleção natural. O que temos de fazer é simulá-la no computador. O problema base que têm é o de aprenderem a estrutura: não se trata de ajustar parâmetros, como os conexionistas fazem com o seu backpropagation, mas de criarem mesmo o cérebro, para que depois se possam fazer as afinações.

 O seu algoritmo é a programação genética, na pretensão de criar programas de computador que evoluam da mesma forma que os organismos da natureza.

Os Bayesianos, partem do princípio que todo o conhecimento é incerto, e que a aprendizagem em si é uma forma de interferência incerta. O problema é de como saber lidar com a informação incompleta, até contraditória.

Para eles a solução aparece através da inferência probabilística, sendo o seu algoritmo o teorema de Bayes. O teorema de Bayes diz-nos como incorporar novas evidências nas nossas crenças, através de algoritmos de inferência probabilística.

 Para os analogistas, a chave para o processo de aprendizagem está em reconhecer semelhanças entre as várias situações, e a partir de aí inferir outras que lhe possam ser similares.

Se dois pacientes tiverem sintomas semelhantes, possivelmente têm a mesma doença. O problema é ajuizar o grau de semelhança entre esses sintomas. O algoritmo para os analogistas é a máquina de vetores, com a qual se consegue saber quais as experiências que se devem lembrar e como as combinar para se obterem novas predições.

Todas estas escolas resolvem muito bem, problemas que se põem nos seus campos. Mas, será que não poderá existir um algoritmo de aprendizagem, um learner, que inclua tudo o que exista num cérebro humano, tudo o que a evolução criou, e a soma de todo o conhecimento científico acumulado? Será possível fazer derivar dos data de todo o conhecimento passado, presente e futuro, um simples algoritmo de aprendizagem universal? A ser possível, estaremos a falar de um Algoritmo Mestre, o Master Algorithm, que terá de resolver os cinco problemas, e não apenas um.

Sigamos ainda o que nos diz Pedro Domingos, Professor no Departamento de Ciência de Computadores e de Engenharia na Universidade de Washington, no seu livro The Master Algorithm, How the Quest for the Ultimate Learning Machine Will Remake Our World, 2015 (tem tradução portuguesa A Revolução do Algoritmo Mestre, Como a Aprendizagem Automática Está a Mudar o Mundo, 2017):

“Para se curar o cancro necessitamos de compreender as redes metabólicas na célula: quais, e como, os genes interagem e regulam outros genes, que reações químicas são controladas pelas proteínas resultantes, e como é que a adição de uma nova molécula à mistura irá afetar a rede.

 Será parvoíce tentar aprender tudo isto a partir do zero, ignorando todo o conhecimento prévio que os biologistas foram acumulando ao longo de décadas. Os simbologistas sabem como combinar este conhecimento com os ‘data’ das sequências do DNA, e mais outros, conseguindo obter resultados que sozinhos não alcançaríamos.

Mas o conhecimento que obtemos aplicando a ‘dedução inversa’ é meramente qualitativo: necessitamos de saber não só quem interage com quem, mas em que quantidade o faz, e a ‘backpropagtion’ consegue-nos dar essa resposta. Contudo, a dedução inversa e a backpropagation ficariam perdidas no espaço sem uma estrutura onde se pudessem ancorar as interações e parâmetros encontrados, e isso a ‘programação genética’ consegue fazê-lo.

Aqui chegados, se tivermos o conhecimento completo do metabolismo e de toda a data relevante de um dado paciente, podemos saber o tratamento a indicar.

 Só que na realidade a informação que temos é sempre bastante incompleta, e por vezes até incorreta. Para prosseguir, vamo-nos socorrer da ‘inferência probabilística’. Nos casos mais difíceis, o cancro do paciente mostra-se muito diferente de todos os anteriormente conhecidos, e todo o nosso conhecimento falha. O recurso aos algoritmos com base nas semelhanças pode-nos salvar o dia encontrando analogias entre situações muito diferentes, mostrando-nos as semelhanças essenciais e ignorando as outras. […]

Como é evidente, “Este algoritmo a que chegámos não é ainda o Algoritmo Mestre […]”.

No Manual Completo de Alquimia podemos ler:

“O ideal alquimista não reside na descoberta de novos fenómenos, ao contrário do que procura cada vez mais incessantemente a ciência moderna, mas sim em reencontrar um antigo segredo, que ainda é inacessível e inexplicável para a maioria […]

A corrida atómica intensificou-se durante a Segunda Guerra Mundial, onde vários cientistas desenvolveram a bomba atómica que viria a ser a maior ameaça para sobrevivência da Terra. Se os alemães tivessem tido acesso a estes conhecimentos antes, não teria sobrado muita coisa em nosso planeta. Portanto se os cientistas tivessem mais consciência e um maior conhecimento das consequências das suas descobertas, não teriam divulgado muitas coisas. […]

A 15 de março de 2018, o The New England Journal of Medicine, publicou um artigo de Danton Char, M.D., Nigam Shah, M.B., B.S., Ph.D., e David Magnus, ph.D., investigadores da Universidade de Stanford, EUA, sobre algumas questões éticas que se põem devido à utilização do Machine Learning nos cuidados de saúde, “Implementing Machine Learning in Health Care – Adressing Etical Challenges”,

(http://www.nejm.org/doi/full/10.1056/NEJMp1714229).

Em teoria, a utilização de algoritmos permite fazer previsões e tomar decisões alternativas sobre cuidados a prestar ao doente. No entanto, estes investigadores médicos chamam a atenção para o facto de esse algoritmo ser desenhado com a finalidade de poupar dinheiro ao sistema de saúde, ou para que as decisões sobre os diferentes tratamentos de doentes se basearem na sua capacidade para pagarem esses cuidados, por terem ou não um seguro de saúde.

Fazem ainda notar que a orientação clínica baseada na aprendizagem por algoritmos pode introduzir um terceiro “ator” na relação médico-doente, alterando a responsabilidade e a confidencialidade dessa relação.

E que o excesso de confiança na máquina pode ainda conduzir a falsos diagnósticos se os médicos introduzirem variáveis que nem sempre se aplicam às situações.

Pedro Domingos, apesar de nos garantir que não existe nenhum perigo de os computadores se independentizarem criando uma vontade própria, na medida em que os objetivos e as decisões são feitas pelos humanos, assegurando-nos sobre o futuro brilhante e radioso que se estende à nossa frente, não deixa, contudo, de manifestar algumas preocupações.

A primeira das quais se prende com a possibilidade de as IA caírem em mãos erradas, partindo do princípio (digo eu) de que até aqui elas estão nas mãos certas.

Uma segunda preocupação é a de os seres humanos, voluntariamente, entregarem o controle aos computadores (robôs), deixando-os tomarem todas as decisões, por eles serem muito mais inteligentes.

A sua conclusão é muito interessante, vinda de quem vem, um especialista em computadores:

“As pessoas preocupam-se com o facto de os computadores ficarem demasiado espertos e que possam tomar conta do mundo, mas o verdadeiro problema é que eles são muito estúpidos e já tomaram conta do mundo”.

Atenção, pois, aos “idos de março”.