(126) Aquele que vê de longe
Os objetivos da Companhia são descodificar e controlar o conhecimento.
As máquinas inventaram uma linguagem estabelecendo as suas próprias regras sobre como ela era. E encriptaram-na para mais rapidamente trabalharem entre elas, deixando os humanos de fora por não terem capacidade para a descodificar.
“Por vezes, os números necessitam de serem alterados e de se mentir por um bem superior da sociedade”, do filme Minority Report.
“Predizer o crime será uma importante função do governo. Usarmos sistemas inteligentes para conhecer em antecipação quem poderá ser terrorista, quem poderá ser culpado por um crime, tornará a polícia mais eficiente, a sociedade tonar-se-á mais harmoniosa”, Li Meng, vice-ministro da ciência e tecnologia da China.
Uma das características das muito, muito, mas mesmo muito grandes companhias empresariais existentes é a sua enorme voracidade, processo que lhes permite não só continuarem vivas, mas que fazem desse processo de vida a sua própria finalidade.
É o que se passa com as cinco maiores companhias americanas, as consideradas Cinco Grandes (The Big Five), a Alphabet da Google, a Amazon, a Apple, a Facebook e a Microsoft, que estão permanentemente num estado de virem a ser, constantemente a adquirirem outras companhias que não fazem sentido para mais ninguém, mas que se integram dentro dos seus planeamentos estratégicos.
São, assim, companhias que estão permanentemente em mutação, expandindo o que fazem. Nenhuma delas está focalizada agora no que estavam a fazer seis meses atrás. Bill Gates disse-o desta forma:
“Nós sobrestimamos o que podemos fazer nos próximos dois anos, e subestimamos o que poderemos fazer nos próximos dez anos”.
Esta ‘instabilidade’ dá origem a imensas especulações sobre o que elas andam a fazer, das interligações entre elas e das suas ligações ao poder de que elas fazem parte.
Que pensar da finalidade da criação da Alphabet, a empresa que dá cobertura a todas as empresas da Google? Ela propõe-se tentar melhorar a natureza de tudo aquilo que é humano: o que fazem os humanos, de que é que os humanos são feitos e como é que os nossos cérebros funcionam. Isto é a finalidade da Alphabet, o que convenhamos, é bonito!
A partir daqui podemos acompanhar todo o seu programa de aquisições, que pode, portanto, ser considerado infinito, abrangendo todos os ramos do conhecimento.
Em 2014, a DeepMind Technologies, uma pequena e recém-formada companhia londrina de Inteligência Artificial (IA), foi comprada pela Google por $650 milhões. A DeepMind não era apenas mais uma empresa de IA preocupada com a funcionalidade das máquinas e cérebros, e das suas interações. Ela preocupava-se com algo mais fundamental: a raiz da inteligência.
Não a inteligência artificial ou a humana, mas a inteligência. Humanos e robôs são apenas carapaças movidas por inteligência descodificável. Se descodificarmos essa inteligência, compreenderemos como as coisas funcionam, ou seja, podemos comandar o mundo. O que diz bem dos objetivos da Alphabet: a ambição de descodificar e controlar o conhecimento.
Em setembro de 2016, o departamento de pesquisa de IA, Google Brain (de que a DeepMind era já subsidiária), cria um programa (GNMT – Google Neural Machine Translation) que permitia aos computadores traduzirem instantaneamente linguagens inteiras. Ao computador de IA do Google Brain foi-lhe ‘ensinado’ a tradução de japonês para inglês, e de inglês para coreano. E começaram a acontecer coisas estranhas (https://research.googleblog.com/2016/11/zero-shot-translation-with-googles.html#gpluscomments).
O computador, sem qualquer ‘ensino’, começou a traduzir diretamente de japonês para coreano, criando ele próprio uma nova linguagem artificial que lhe permitia ‘explicar’ como material nunca visto poderia ser traduzido.
Em vez de memorizar e comparar frase por frase, ele começou a utilizar como que um código semântico da frase: o sistema estava a inventar uma linguagem! Uma nova linguagem encriptada que só outros computadores tinham capacidade para aprender e da qual os humanos estavam arredados por não terem capacidade para a descodificar.
Quando interrogados sobre o assunto, a equipa encarregada (Google Brain Team) disse apenas:
“Interpretamos isto como um sinal da existência de uma interlíngua na rede”, “É uma interlíngua. Está lá para resolver um problema.” (Uma ‘interlíngua’ é um tipo de linguagem artificial que é usada para desempenhar um objetivo específico).
Ou seja, as máquinas inventaram uma linguagem estabelecendo as suas próprias regras sobre como ela era. E encriptaram-na para mais rapidamente trabalharem entre elas, deixando os humanos de fora por não terem capacidade para a descodificar.
Tudo bem, é apenas uma interlínguazita! Deixem lá elas tagarelarem, podemos sempre desligá-las!
Em 2004, Peter Thiel (co-fundador da PayPal, investidor da Facebook), Nathan Gettings (ex-engenheiro da PayPal), Joe Lonsdale, Stephen Cohen e Alex Karp (da Universidade de Stanford), criaram a Palantir, com a finalidade de ultrapassar tudo o que até à altura se tinha feito com a utilização da Big Data, pretendendo ir até para além do imaginável.
E foi isso que fizeram. A Palantir vigia hoje tudo aquilo que se faz e prediz tudo aquilo que se pensa vir a fazer de forma a poder evitá-lo (https://www.palantir.com/).
“Palantir” é a “pedra que vê” no Senhor dos Anéis de J.R.R. Tolkien, usada por Saruman para ver no escuro ou numa luz que cega. “Palantir” significa “aquele que vê de longe”, o mítico instrumento de omnipotência.
Tem como principais “clientes” e financiadores a CIA, o FBI, a NSA, o CDC, os Marine Corps, a Air Force, Special Operations Command, West Point e o IRS. Metade do seu negócio é feito com o setor público. Poucos sabem da sua existência e, evidentemente, muito menos da sua localização: visível apenas um pequeno escritório numa rua secundária de Palo Alto, intitulado de SCIF, “Sensitive Compartatmentalised Information Facility” (https://techcrunch.com/2015/01/11/leaked-palantir-doc-reveals-uses-specific-functions-and-key-clients/3/).
Usando as ferramentas mais sofisticadas da pesquisa de dados (data mining), a Palantir consegue seguir quem quer que seja, desde potenciais terroristas até vigaristas empresariais (como a maior parte das provas fornecidas que levaram à prisão de Bernie Madoff), traficantes de crianças e elementos “subversivos”.
Através do seu ramo civil instalado no governo, a Palantir Metropolis, fornece informações que conseguem prever os serviços financeiros de bancos e de outras empresas financeiras, permitindo um controle sobre a Wall Street.
No Iraque, o seu software ajudou, entre outros, a identificar e a prever padrões de instalação de minas ao longo das estradas, locais de maior atividade de insurgentes e padrões de morte de civis.
Essas tecnologias utilizadas inicialmente em Fallujah, foram depois reutilizadas em cidades americanas como Los Angeles e Chicago, em missões de policiamento de condutores ilegais e na pequena criminalidade. Ou seja, a América (ou parte) passou a ser considerada como “zona de guerra” entre a polícia e os jovens negros americanos. Essa utilização de policiamento-preditivo coincidiu, curiosamente, com o maior aumento de mortes de homens negros suspeitos.
Este tipo de policiamento preditivo, ao militarizar as cidades americanas, tem criado um ambiente de suspeição e medo exatamente nas áreas onde as tensões já estão muito extremadas, dificultando ainda mais o policiamento. O mero fato da presença da polícia chegar a uma área só porque um algoritmo o indica, cria mais tensão.
Acresce que, a cada vez maior aproximação entre a polícia militar e a polícia “civil”, doméstica, faz com que as linhas de separação entre elas se tornem difíceis de distinguir. Além do mais, “os militares têm com finalidade a defesa do território contra inimigos externos, e isso não é a missão da polícia que não podem olhar para a população como se ela fosse o inimigo externo.”
Por outro lado, parece que o facto de se estar a executar uma missão assente em trabalho científico de ponta (IA), mesmo sendo só de predição, como que dá ao agente policial um estado de espírito muito assertivo, que o leva a pensar que todos os encontros que vai ter serão com criminosos previamente catalogados.
O conhecimento prévio apoiado nos dados de IA, atua como um reforço dos preconceitos. Ou seja, quando o polícia sair da viatura e se dirigir ao cidadão, a sorte deste já está traçada. Provavelmente, estaremos assim perante uma tática que é por si mais um fator contribuinte para o grande aumento de mortes feito pela polícia.
Por tudo isto, a Palantir vem-nos assegurar que tem capacidade para predizer o futuro, segundos ou anos antes de acontecer.
Talvez isto nos faça lembrar o filme Minority Report em que Tom Cruise, fazia de oficial da polícia de Los Angeles (LAPD) na unidade de “pré-crime”. Com a utilização das premonições de mutantes especialmente sensíveis, os “pré-cogs”, a polícia conseguia predizer quando alguém iria cometer um crime antes de ele acontecer, o que permitia prendê-la antes que o crime fosse feito, reduzindo assim as estatísticas de criminalidade a zero. O “crime” estava ainda na fase de pensamento dos executantes quando eram apanhados.
Contudo, quando o polícia (Tom Cruise), começa a questionar-se sobre a moralidade do sistema, os superiores tratam de se verem livres dele. Tentam forçá-lo a cometer um crime, alterando os dados da história por ele investigada e pensada. No final, frente ao seu chefe, este explica-lhe que, por vezes, os números necessitam de serem alterados e ter de se mentir para um bem superior da sociedade.
A diferença é que o Minority Report é teoricamente passado no ano 2054, ao passo que o Palantir está agora já a produzir operações “pré-crime”.
Mas, alguma coisa de grave se passa: quando um paladino do progresso tecnológico como Elon Musk (Tesla e Space X) vem dizer que considera a inteligência artificial “mais perigosa que a Coreia do Norte”
If you're not concerned about AI safety, you should be. Vastly more risk than North Korea.
e quando Stephen Hawking nos avisa que a continuar este tipo de progresso a “humanidade acabará dentro de uns duzentos anos”, o melhor é pelo menos estarmos atentos.
Anote-se também a Carta Aberta de 21 agosto de 2017 (https://futureoflife.org/autonomous-weapons-open-letter-2017), escrita pelas companhias de ponta de 26 países envolvidas na construção de tecnologias de Inteligência Artificial e Robótica, e dirigida à Convenção de Certos Armamentos Convencionais (CCW) das Nações Unidas, em que manifestam o seu alarme perante a proliferação das mesmas. Transcrevo o último parágrafo:
“As armas letais autónomas ameaçam tornarem-se na terceira revolução no teatro de guerra. Uma vez desenvolvidas, permitirão que os conflitos armados possam ser travados numa escala nunca vista, e com tal rapidez que os humanos não possam compreender. Podem ser armas de terror, armas de déspotas ou terroristas usadas contra populações inocentes, e armas adulteradas propositadamente para se comportarem de modos indesejáveis. Não temos muito tempo para atuar. Uma vez aberta esta caixa de Pandora, será difícil voltar a fechá-la. Por isso, nós os signatários, imploramos que se venha a encontrar um caminho que nos proteja a todos destes perigos.”
Partindo do princípio de que esta petição/declaração é realmente honesta e bem-intencionada, devemos tomá-la como um sério aviso sobre os iminentes perigos que nos espreitam. Mas, tratando-se de companhias que todas elas estão precisamente no mesmo negócio contra o qual nos pretendem alertar, ficamos na dúvida sobre se as suas intenções não são antes evitar o desenvolvimento dos mesmos produtos por companhias rivais.
Vejamos: tudo isto que está a acontecer no mundo ocidental, tem o seu contraponto na China. Também a China tem as suas Big Five que são equivalentes e desempenham quase as mesmas funções que as suas congéneres americanas. A Baidu é a Google chinesa, com os serviços de mapa, nuvem, sistemas de pagamentos, saúde, automóveis autónomos e investigação em IA. A Alibaba, a plataforma de pagamento online, é a maior empresa de comércio eletrónico do planeta. A Ten Cent é a equivalente à Facebook, com a WeChat que combina a WhatsApp, Facebook, Apple Pay e Google News, e 700 milhões de subscritores. A JD.com é a Amazon, oferecendo já entregas no mesmo dia a 600 milhões de clientes. A Didi é a Uber chinesa.
Li Meng, vice-ministro da ciência e tecnologia da China, referindo-se à empresa chinesa de reconhecimento facial com base em Guangzhou, que criou um sistema que permita seguir os movimentos e comportamento por forma a permitir evitar o crime, disse:
“Se usarmos sistemas inteligentes, podemos já prever … quem poderá vir a ser terrorista, ou fazer alguma ação má”.
E continuou afirmando que a prevenção de crimes pela utilização da predição dada pela IA, é a grande prioridade na esfera do governo:
“Predizer o crime será uma importante função do governo. Se usarmos sistemas inteligentes para conhecer em antecipação quem poderá ser terrorista, quem poderá ser culpado por um crime, tornará a polícia mais eficiente, a sociedade tonar-se-á mais harmoniosa”.
Durante este mês, Pequim anunciou que até 2025 serão investidos 59 biliões de dólares na indústria de inteligência artificial.
De um lado chove, do outro lado chove igualmente. É o novo dilúvio anunciado. A finalidade não é, como não foi no primeiro dilúvio, acabar com a humanidade. Trata-se de a transformar. Mas não como no primeiro dilúvio em que a intenção era a de melhorar a humanidade. Agora, trata-se de lhe retirar a humanidade.
Mas até pode ser que estas “predições” ultracientíficas e rigorosas obtidas pelas variadas Inteligências Artificiais, não sejam assim tão rigorosas e inevitáveis como nos querem fazer crer. Embora a intenção desses agentes transformados em pretensos deuses, ou potenciais ditadores, intente ir nesse sentido, talvez que esse seu grau de certeza seja mais para nos intimidar, para que nos quedemos mudos e receosos, perante essa avalancha de conhecimentos e certezas. Mais uma forma para nos dominar melhor através da “reverência científica”, agora que a igreja já não tem poderes para tal.
Porque não são, por exemplo, utilizadas as predições das IA nos mercados financeiros? Imaginemos que a IA começa a criar uma carteira de ações que vá a arrepio do mercado. Como é que um ser humano poderá avaliar se tal é algo que tem sentido e deve de ser seguido ou se a IA está a cometer um erro?
Como observou Satya Nadella, diretor geral da Microsoft: “Como podemos aprovar as contas que os algoritmos decidem, num mundo em que eles não são calculados por nós, mas sim escritos pela IA?
De um modo mais simples: enquanto houver Sporting e Jorge Jesus não há Palantir que chegue.
