Mais mulheres.

Há menos mulheres que homens nas tecnologias de informação e comunicação (TIC). Assumindo ser um problema, propõe-se coisas como «banir a ideia de “empregos de raparigas” versus “empregos de rapazes”, promover a importância das disciplinas STEM, educar os jovens sobre as possibilidades de carreira dentro destas áreas, chamar a atenção para as mensagens com preconceito de género» (1). Penso que quem defende isto falha no diagnóstico e subestima a dificuldade de convencer as mulheres a fazer o que outros julgam ser melhor para elas.

O gráfico abaixo mostra a distribuição de inscritos pela primeira vez no primeiro ano de um curso superior em 2021, por área de estudo e sexo. Mais esbatidos estão os valores para os anos de 2016 a 2020 (2). As mulheres são minoria em TIC mas são a maioria na saúde, educação, humanidades, artes e direito. E são a maioria no ensino superior, diferença que tem diminuído mas que ainda é de seis porcento a favor das mulheres. Suspeito que não há muitas mulheres à espera que lhes digam que curso tirar. Por isso, trazer mulheres para as TIC implica convencê-las a desistir de outros cursos que tenham escolhido ou então apanhá-las ainda crianças, antes de decidirem por si. E como se tem de atrair mulheres sem atrair os muitos homens de outras áreas, o que iria estragar as estatísticas, é preciso tomar medidas discriminatórias como prémios (3) ou programas de formação (4) que excluem quem não tem os genitais seleccionados.



O primeiro problema desta empreitada é o diagnóstico errado. Muitas mulheres em jornalismo, sociologia, direito e outras profissões alegam que as mulheres não vão para TIC por causa do sexismo e estereótipos como o dos «“empregos de raparigas” versus “empregos de rapazes”». Mas esta alegação nunca vem na primeira pessoa. Refere sempre mulheres hipotéticas e anónimas, sendo difícil encontrar uma advogada, médica ou escritora que lamente não ter sido engenheira informática ou de telecomunicações por culpa do sexismo e estereótipos. Também não é plausível que as jovens universitárias acreditem que as TIC são só para homens. A racionalização é que são enviesamentos inconscientes que, tal como Deus, sabemos que existem porque não os vemos. Mas nada disto é consistente com os dados. As mulheres estão em maioria em direito e medicina, profissões mais conservadoras que as TIC e que foram dominadas por homens durante séculos, enquanto as TIC, disciplinas recentes vindas da matemática, tinham muito mais igualdade de género antes de despertarem o interesse dos homens. A tese de que o sexismo impede as mulheres de irem especificamente para as TIC quando não as impede de dominar outras disciplinas outrora exclusivas para homens não faz sentido.

A distribuição de géneros pelas áreas dos cursos sugere que trabalhar com máquinas atrai mais homens e trabalhar com pessoas atrai mais mulheres. O pequeno número de mulheres em TIC explica-se mais facilmente por estar no extremo desta gama. Há poucos homens que gostam de passar o dia a olhar para linhas de código, e mulheres ainda menos. Mas apesar de se invocar diferenças entre os sexos para justificar que é preciso mais mulheres em TIC, não é politicamente correcto admitir que essas diferenças possam fazer as mulheres preferir outras profissões. É isto que obriga a presumir que as mulheres precisam de ajuda para escolherem o curso certo.

O outro problema de «trazer mais mulheres» (5) para as TIC é ético. Há poucos homens em ensino e enfermagem mas, não sendo impedidos de ingressar nesses cursos, se não há é porque não querem. Ninguém tenta "trazer" os homens para curso nenhum, nem para o seu bem, nem para promover diversidade genital nem para beneficiar a indústria. Cada homem decide por si. As mulheres não. No caso delas não é uma escolha individual; «é uma questão de igualdade de género mas também é uma questão económica e social» (5). E, como são mulheres, não se pode assumir que saibam o que é melhor para elas. Tem de se insistir que «escolham de entre todo o leque de áreas que existem, porque não há áreas exclusivamente femininas ou masculinas» até escolherem opções que garantam a tal igualdade nas estatísticas. É uma perversão do valor ético da igualdade.

A igualdade que devemos promover é a da liberdade de cada um escolher por si em vez da igualdade dos números. E é uma violação grosseira deste dever pressionar as mulheres em função da suposta conveniência da indústria, de igualdades estatísticas ou por presumir saber melhor que elas o que elas querem. Isto é tão óbvio que não se faz com os homens, e muito menos se aceitaria que uma faculdade de direito ou medicina criasse bolsas exclusivas para homens em nome da igualdade e da diversidade. Mas este truque de criar tachos, comissões e publicidade à custa de um falso problema está a trocar o feminismo justo da mulher como pessoa, com a mesma autonomia e responsabilidade de um homem, por uma caricatura da mulher como vítima indefesa que tem de ser protegida de tudo, desde «mensagens com preconceito de género» até às suas próprias preferências.

1- Experis.pt, Atrair as Mulheres Para a Tecnologia e Reduzir a Desigualdade de Género
2- Dados da DGEEC, Vagas e Inscritos. Há dados desde 2013, mas nos primeiros anos a categorização das áreas é diferente e mesmo tentando fazer a correspondência por cursos ficam uns milhares de alunos sem área identificada, por isso usei só os dados de 2016 em diante.
3- Por exemplo, Medalhas de Honra L’Oréal Portugal para as Mulheres na Ciência ou Feedzai Women in Science
4- Technovation Challenge Portugal
5- SAPO Tek, “As mulheres criam valor e reforçam áreas TIC que precisam de talento e diversidade”

Conversas.

Muitas divergências nas redes sociais acabam em frustração e ataques pessoais. Algumas até em bloqueio. Mas há outras que estimulam conversas produtivas precisamente por os participantes discordarem. Proponho que o factor determinante é o propósito da conversa. É o que queremos com o diálogo que determina se vamos ter frustração ou proveito.

Para dar um exemplo, há tempos João Vasco Gama propôs ser inconsistente apoiar os ucranianos contra a invasão russa sem apoiar os palestinos contra a ocupação israelita (1). Eu discordei porque, apesar de condenar muito que Israel faz, também não consigo apoiar os palestinos. Os vizinhos de Israel há décadas que tentam obliterar esse país, é constante o ódio e o terrorismo contra os judeus e mesmo antes de Israel existir já os palestinos tentaram aliar-se a Hitler para "resolver o problema" dos judeus naquela região. Discordarmos nisto levou a uma troca interessante (para mim) de comentários sobre guerras, genocídios e ocupações até Gama declarar a conversa terminada porque «já expusemos todos os argumentos que consideramos relevantes» e nenhum ia conseguir convencer o outro. Dizendo-se cansado da conversa, exigiu até que me calasse ou continuasse noutro lado.

Parece-me que a causa desta frustração é tentar convencer. Qualquer opinião minimamente ponderada enquadra-se numa rede de premissas, dados e valores. Esta nossa divergência não se limita à Ucrânia e à Palestina. Inclui diferenças políticas, ideológicas, de ponderação de factores históricos, e até da estimativa do que aconteceria aos judeus se os palestinos tivessem maior poder militar. Para um de nós mudar de opinião tem de refazer toda essa rede que lhe dá contexto e isso leva tempo. É possível, mas não é provável que ocorra numa breve troca de comentários no Facebook. Por isso, quem conversa nas redes sociais com o desejo de lhe darem razão ou só conversa com quem já concorde ou vai ficar frustrado.

Dialogar para convencer também tem o defeito de focar a conversa nas pessoas em vez dos assuntos, o que leva a ataques pessoais, zangas e uma atitude de antagonismo. Até torna difícil terminar o diálogo de forma civilizada, levando a mandar calar o outro ou a bloqueá-lo. Eu prefiro uma abordagem diferente, que não me traz frustração. Dialogar com quem discorda é uma oportunidade para ver um assunto pensado de forma diferente. Mesmo que esse pensamento me pareça errado, o diálogo ajuda a questionar premissas e a tornar ideias mais claras. E numa conversa focada nas ideias em vez dos participantes não importa quem ganha, quem se convence ou quem muda de opinião. Pode-se aproveitar as divergências para ajudar a perceber melhor o assunto em apreço. É por isso que nunca senti esse cansaço que Gama invocou nem a necessidade de mandar calar os meus interlocutores ou de os bloquear.

E isto funciona mesmo que a outra parte não queira colaborar. Há casos, como por exemplo criacionistas, teólogos, anti-vacinas ou aqueles que tentam racionalizar a invasão da Ucrânia, em que o objectivo da outra parte é criar o máximo de confusão para disfarçar os problemas das teses que defende. Mas mesmo assim o diálogo pode ser proveitoso. Por um lado porque a nossa confiança numa posição não deve assentar apenas nas razões a seu favor. Devemos também verificar se não há boas razões para escolher uma alternativa. Por exemplo, quando as melhores justificações que me apresentam para Putin invadir a Ucrânia são dissuadir países de se juntar à NATO ou as «afinidades com as pessoas de língua materna» russa na Ucrânia (2), eu fico mais confiante na minha conclusão de que esta invasão foi um erro trágico motivado por ambição e incompetência. Se o maior ataque à nossa posição equivale a bater latas e atirar poeira ao ar provavelmente estamos no bom caminho.

Por outro lado, a resistência empenhada ajuda a afinar explicações. Por vezes encontro auto-proclamados peritos que escrevem vários parágrafos a dissertar sobre a minha ignorância, e arrogância por discordar deles, mas não conseguem explicar os meus supostos erros. Mesmo não me proclamando perito prefiro não fazer tão triste figura. O diálogo ajuda a tornar as ideias mais claras e, mesmo que aquela pessoa não esteja receptiva a explicações, eventualmente saber explicar será útil. Nunca chegamos à perfeição mas a prática ajuda a ficar mais perto.

Por isso, nas redes sociais, não me preocupo se mudo as ideias dos meus interlocutores. Há muito poucas pessoas cuja opinião individual realmente importa na minha vida e com essas não é nas redes sociais que converso. É verdade que me preocupa a popularidade de algumas opiniões. Vivemos numa democracia e a opinião dominante afecta-nos a todos. Mas isto não se deve a esta ou àquela pessoa em particular. E é também porque a opinião pública importa que é melhor evitar amuos, birras, bloqueios e esses surtos de imaturidade que assolam quem só quer que lhe dêm razão. Dedicar a conversa a explorar os assuntos e a tornar as ideias tão claras quanto possível não só é menos frustrante como também contribui para um debate público mais racional.

1- A conversa estava aqui no Facebook, 7 de Julho de 2022 mas entretanto fui bloqueado portanto não sei se é possível ler sequer o que eu escrevi.
2- Nesta conversa com Paulo Gil no Facebook: 12 de Outubro de 2022
.

O género.

Eu não sou do género masculino. Eu sinto-me do género masculino como eu o concebo, e sinto como enquadro os outros nas minhas categorias de género. Mas não existem géneros objectivos. Os géneros são algo que cada um sente acerca de si, acerca dos outros e acerca de como se relaciona com os outros. Sendo subjectivos, variam muito de pessoa para pessoa. Por exemplo, eu sinto-me do género masculino porque nasci com pénis e testículos, e sinto que quem nasceu com vulva e ovários é do género feminino. Isto é apenas uma descrição grosseira porque eu não defini nada disto de forma explícita e deliberada. Estou a tentar exprimir o que sinto. E é óbvio que outras pessoas poderão sentir isto de forma diferente. Por exemplo, em 2020 a actriz Ellen Page declarou ser do género masculino e mudou de nome para Elliot. Claramente, Page tem uma concepção dos géneros diferente da minha, tal como as outras pessoas terão as suas.

Não devia ser necessário mencionar isto, mas o fervor ideológico em torno deste tema obriga-me a deixar explícito que não desejo mal algum a pessoas transgénero. Defendo incondicionalmente a liberdade de viverem, de se exprimirem e de se relacionarem com os outros de acordo com as categorias de género que sentem. E condeno sem reservas quem as coagir, ameaçar ou agredir só porque discorda dessas categorias de género. Mas isto não é apenas para pessoas trans. É um direito humano. Ninguém deve ser obrigado a fingir categorias de género diferentes daquilo que sente ou a exprimir-se e relacionar-se com os outros de forma que não lhe seja natural.

Infelizmente, a subjectividade das categorias de género choca com os objectivos políticos de quem quer impor umas aos outros. Uma vez mencionei esta subjectividade num grupo de Facebook e a administradora acusou-me de “violência simbólica”. Para me castigar, decidiu referir-se a mim com pronomes femininos para eu sentir o terrível sofrimento que a minha tese estaria a causar. Não teve o efeito desejado. Mas vamos supor que em vez desta infantilidade alguém sinceramente me categorizava no género feminino. Nem seria muito descabido. Eu não sei conduzir, não ligo ao futebol, não cumpri o serviço militar e não sei caçar. Por outro lado, tenho muita experiência a mudar fraldas, a dar banho a bebés, a cantar para adormecerem e a coser peluches lesionados. Quem conceber os géneros em função destes estereótipos em vez dos genitais pode bem achar que eu sou mais mulher que homem. É-me indiferente. Estou satisfeito com o que sou e não me ralo com as categorias dos outros. E esta talvez seja a maior diferença entre pessoas como eu e pessoas como Page, porque alguém que se submete a cirurgias e tratamentos hormonais para alterar o aspecto do seu corpo provavelmente nem está bem consigo nem é indiferente ao que os outros pensam.

É aqui que surge o argumento da empatia: as pessoas transgénero sofrem tanto que temos o dever de fingir que pensamos nelas no género que elas preferem. Mas ter empatia e pena não implica o dever de ser hipócrita. Elliot Page tem todo o direito de dizer-se a si e a mim no género masculino e colocar Ellen Page no género feminino, de acordo com os géneros como Page os concebe. Mas eu tenho o mesmo direito de sentir que Elliot e Ellen estão ambas no género feminino, como eu o concebo, e que é diferente do masculino em que me categorizo, e ambos diferentes dos que Page concebe. Lamento que Page não se sinta bem com o seu corpo mas isso nada tem que ver com a liberdade de termos categorias de género diferentes. Além disso, esta abordagem da “empatia” é prejudicial porque não distingue entre o normal e o patológico. Que uma pessoa de um sexo sinta que o seu género é outro não é doença nem merece pena. É um sentimento subjectivo. Mas amputar partes saudáveis do corpo, tomar hormonas só para mudar a aparência e viver obcecado com os pronomes que os outros usam são sintomas de patologia. É um erro grave fingir que isto é tudo normal e saudável, ao ponto de se dar hormonas a crianças para impedir a puberdade. Isto não é empatia e até devia ser crime.

À direita, os mais conservadores querem impor categorias de género baseadas no sexo alegando que o sexo é objectivo. Se bem que as características sexuais sejam objectivas, é subjectivo se as usamos para conceber os géneros. Eu uso, mas é legítimo não o fazer. E à esquerda querem dar a certas pessoas o poder de ditar aos outros como categorizar os géneros. Assumem que uma pessoa é objectivamente de um género se disser que é desse género. Mas quando Page diz ser do género masculino está a referir-se a esse género como Page o concebe. Isso não tem nada que ver com o meu conceito de género masculino, que é diferente do de Page. Cada pessoa sente estas coisas de forma diferente e ninguém consegue definir objectivamente o que é ser masculino ou feminino. Portanto, se alguém se referir a mim como “a Ludwig” não está a dizer nada acerca do meu género como eu o concebo. Está apenas a exprimir-se de acordo com as suas categorias de género, que nada têm que ver com as minhas. Não há por isso qualquer justificação para ser eu a ditar-lhe que pronomes pode usar ou como me deve categorizar.

Se admitirmos que as categorias de género são subjectivas todos os problemas parvos que se tem inventado desaparecem. Quando é necessário objectividade, ignora-se o género. Exames à próstata são para quem tem próstata, seja de que género for. No desporto, tal como as categorias de peso dependem do que está na balança e não do atleta se sentir esbelto ou rechonchudo, também as provas femininas devem ser para atletas do sexo feminino seja qual for o seu género. Resta o problema real de quem sofre demasiado com o seu corpo e com que os outros pensam, mas esse é um problema de saúde para os médicos resolverem. Nós temos é de resistir a qualquer tentativa de nos impor conceitos de género ou restringir como os exprimimos. O que cada um sente é consigo e mais ninguém tem legitimidade para mandar nisso.

É moeda, só que não.

Hugo Ramos é um guru português da Bitcoin. É o autor do price to time model, segundo o qual cada Bitcoin iria valer $200000 no final de 2021 (1), e de vários canais no YouTube intitulados «F U Money»(2). Em Maio, Ramos reagiu a uma conversa sobre cripto-activos entre Mariana Mortágua e Adolfo Mesquita Nunes (3). O estilo do discurso torna o vídeo doloroso de assistir mas Ramos revela aspectos do evangelismo da Bitcoin que é importante conhecer, especialmente se alguém pensa meter-se nisto. Antes de mais, devo declarar que até há uns anos fui entusiasta desta tecnologia e talvez volte a ser se alguma coisa sobrar depois dos reguladores acabarem com as aldrabices. Mas por agora só estou fascinado a ver o camião do lixo a arder.

Ramos começa por contradizer Mortágua afirmando que a Bitcoin é uma moeda e não um activo financeiro, e explica que só não é moeda porque legalmente não é reconhecida como tal. O que é estranho porque uma moeda distingue-se de um activo precisamente pelo seu estatuto legal. Depois diz que é moeda em El Salvador. Realmente, lá o governo obriga os comerciantes a aceitar Bitcoin e tentou que a população adoptasse a Bitcoin como moeda. Não teve sucesso (4) mas, legalmente, em El Salvador Bitcoin devia funcionar como moeda. No entanto, quando Mortágua apontou que tinham perdido dinheiro por comprar Bitcoin mais cara do que está agora, Ramos disse que não porque só se perde dinheiro com um activo financeiro quando se vende esse activo e, além disso, muitos ganharam porque compraram quando o preço estava inferior ao que está agora. Para quem estiver na dúvida acerca do que é a Bitcoin, é simples: é o que der mais jeito, moeda quando sobe para contar logo o ganho e activo quando desce porque nesse caso só conta como perda se venderem. O importante é que comprem sempre.

Acerca do uso ilegal de activos criptográficos, Ramos aponta que há mais uso criminoso de dólares do que de Bitcoin. Mas isto diz pouco. Não só porque há muito mais valor em dólares do que em activos criptográficos mas, e especialmente, porque o mercado destes activos não é regulado e muito que seria crime em dólares não foi ainda declarado ilegal com Bitcoin. Por exemplo, as transacções de activos criptográficos parecem ser maioritariamente falsas (wash trading), sendo o vendedor também o comprador (5). Isto serve para manipular preços ou dar uma ideia falsa de liquidez e é crime em mercados regulados. Como este mercado não tem regulação legal, ninguém foi preso por isto. Este mercado é regulado apenas pela decência natural que sabemos caracterizar quem quer ganhar dinheiro seja por que meios for.

Outro aspecto interessante da apologia da Bitcoin é uma ideologia libertária que Mortágua descreve como infantil mas que eu julgo ser demasiado hipócrita para tal benevolência. Por exemplo, Ramos defende que o princípio fundamental que justifica a Bitcoin é a liberdade das pessoas criarem o seu dinheiro e não serem oprimidas pelo Estado. Mas ao mesmo tempo Ramos opõe todos os activos criptográficos que não sejam Bitcoin, aos quais chama shitcoins, e aplaude a decisão do governo de El Salvador de obrigar os comerciantes a aceitar Bitcoin quer queiram quer não. A retórica de Ramos acerca da economia também é confusa e contraditória. Insurge-se repetidamente contra o que chama “economia Keynesiana”, ser ser claro o que quer dizer, e protesta contra a inflação apontando que imprimir dinheiro tira valor ao dinheiro que as pessoas têm. Mas depois pergunta porque é que o Estado cobra impostos se pode imprimir dinheiro. Pois é precisamente para mitigar a inflação que de outra forma resultaria ao pagar polícias, professores, médicos e assim por diante. Neste contexto, Ramos alega que a Bitcoin é a forma mais segura de guardar valor porque é impossível de roubar ou confiscar e não depende do Estado. Mas basta aos meliantes uma corda e um barrote para em poucos minutos persuadir Ramos a dar-lhes as chaves criptográficas e assim roubar-lhe irreversivelmente as Bitcoin. Ramos precisa de um Estado que o proteja destas coisas, mais ainda do que se tivesse o dinheiro no banco. A ideologia supostamente libertária que Ramos apregoa parece ser só demagogia para disfarçar o problema da utilidade prática da Bitcoin ter morrido afogada em especulação.

Se se conseguir resolver os problemas de escala, consumo de energia, e regulação, esta tecnologia de transacções distribuídas pode ter alguma utilidade. Mas o valor económico desta aplicação será talvez uma milésima do que alegam ser agora o valor total dos activos criptográficos. O preço de uma Bitcoin multiplicado pelo total em circulação dá quase quinhentos mil milhões de euros. Só que isto nem corresponde ao dinheiro disponível para comprar Bitcoin nem deriva de qualquer negócio que justifique os 23 mil euros por Bitcoin. O preço cai sempre que ao volume regular de transacções fictícias se junta uma fracção a trocar Bitcoin por dinheiro porque para isso é preciso gente disposta a meter dinheiro no sistema. É essa necessidade de aguentar a pirâmide que orienta o discurso dos cripto-evangelistas, as “mãos de diamante” e os olhos de laser.

Eu não tenho qualificações para dar conselhos sobre investimento financeiro. Mas se alguém estiver interessado em investir nestes activos recomendo o esforço de ver o vídeo de Ramos (3). Oiçam Ramos tendo em mente que quem investiu nisto só lucra se outros a seguir investirem mais ainda.

1- YouTube, P2T Model (Bitcoin) Revealed for the First Time on Tone Vays Channel - 3rd Jan 2021
2- Ver mais em fyoumoneypod.com
3- YouTube, F You Money! [#12] Hugo Responde à Amiga Mariana Mortágua Sobre a Bitcoin - Take #2
4- Investing, NBER: El Salvador’s Bitcoin Legal Tender Adoption Failed To Take-Off
5- Pennec et al., Wash trading at cryptocurrency exchanges

Consciência, Inteligência Artificial, e porque é que estamos tramados.

Um engenheiro da Google, entretanto despedido, alegou que o LaMDA, um modelo linguístico dessa empresa, se tinha tornado consciente (1). Muitas pessoas apontaram que é disparate mas as justificações que tenho visto não me deixaram satisfeito. Uns alegam que LaMDA não pode ser consciente porque apenas calcula probabilidades de frases e palavras. Além de isto subestimar a complexidade destes modelos, muito mais complexos do que aquilo que um ser humano consegue conscientemente fazer, mesmo tarefas simples podem ser feitas com consciência. Contar pelos dedos, por exemplo. Portanto, não é por "apenas" estimar probabilidades que não pode ser consciente. Outra justificação é que as palavras produzidas por LaMDA não têm intencionalidade, aquela propriedade de ser acerca de algo. Quando uma pessoa diz que subir ao monte Evereste é um grande feito, sabemos que diz essas palavras referindo aquele monte e conceito. Quando LaMDA dá essa resposta (2), são apenas palavras. Só na mente do leitor é que referem alguma coisa. Isto é verdade mas só diz que LaMDA não é consciente porque não é consciente. Neste contexto, intencionalidade e consciência acabam por ser o mesmo.

Eu proponho que o problema está na forma como o algoritmo é materializado. Um algoritmo é uma sequência abstracta de instruções que podem ser executadas de forma automática. Por exemplo, para calcular a área do triângulo somamos o comprimento dos lados, dividimos por dois, subtraímos a esse valor cada um dos lados, multiplicamos esses quatro valores (o total e as diferenças) e calculamos a raiz quadrada desse produto. Isto em abstracto. Em concreto, o melhor é arranjar algum suporte material e convencionar uma correspondência com estes passos. Marcas num papel ou a posição das contas de um ábaco, por exemplo. Ou, melhor ainda, cargas e tensão num circuito electrónico. Aí corre tudo automaticamente e no final só temos de interpretar o resultado. É assim que LaMDA funciona. Em abstracto, uma frase como "porque é que as pessoas sobem ao monte Evereste?" é mapeada numa tabela de números, esses números são multiplicados e somados a outros números, dá uma tabela ainda maior de números, faz-se isso várias vezes com muitos milhões de números e várias funções e no fim saem números indicando a probabilidade de cada palavra que pode vir a seguir*. Mas isso é o algoritmo em abstracto. Em concreto não vamos lidar com números mas sim com cargas e tensões num circuito que, para nós, representam esses números e essas operações. No final aparece uma mancha no ecrã que interpretamos como sendo uma resposta à nossa pergunta.

O que eu proponho é que a consciência não vem do algoritmo, que é abstracto, mas depende do suporte físico em que este for materializado. Um algoritmo simples materializado num cérebro humano é executado de forma consciente. Se o humano usar um ábaco ou um lápis, a consciência continua no humano e não no ábaco ou no lápis. E se materializar o algoritmo num circuito electrónico, também não é o circuito que fica consciente. Se LaMDA for consciente, então todos os aparelhos electrónicos serão conscientes também, o que não é plausível.

Isto não presume nada de sobrenatural ou imaterial acerca da consciência. É um problema mais genérico. Por exemplo, podemos pensar num algoritmo para construir um muro de tijolos, com todos os cálculos para posicionar os tijolos e colocar a argamassa em função das dimensões do muro e dos tijolos. E podemos materializar esse algoritmo fazendo as contas de cabeça, usando papel e lápis ou um computador sem que nada disso produza um muro de tijolos. Apenas vai produzir alguma representação do muro. Para termos mesmo um muro de tijolos o algoritmo terá de ser materializado num sistema físico que assente mesmo os tijolos e ponha a argamassa. Tal como assentar tijolo, a consciência também deve ser uma actividade específica que não surge automaticamente em qualquer materialização de algoritmos. Exactamente como a poderemos obter não sei, mas o que me parece é que não é empurrando electrões de um lado para o outro num circuito para representar operações algébricas. Deve ser preciso algo mais do que isso.

Se isto for verdade, então nem LaMDA é consciente nem qualquer rede neuronal ou programa de IA que se implemente neste tipo de computadores será consciente. Enquanto estivermos a materializar os algoritmos nestes ábacos electrónicos, por muito rápidos os ábacos e complexos os algoritmos, nem vão assentar tijolo nem gerar consciência. O que me preocupa é a capacidade destes modelos parecerem humanos aliada à sua capacidade sobre-humana de ter milhões de conversas personalizadas ao mesmo tempo. LaMDA é mais sofisticado do que apenas um modelo linguístico, porque a Google incluiu métricas como relevância, correcção factual, "segurança" (i.e. ser politicamente correcto) e afins (2). Mas os objectivos podiam ser outros. Podiam ser o de persuadir as pessoas a votar num candidato ou de as convencer que a democracia é uma experiência falhada e precisamos é de um ditador, por exemplo.

Um sistema sofisticado destes, capaz de criar conversas aparentemente inteligentes, gerar imagens falsas, criar artigos automaticamente e o que mais for preciso para persuadir pode ter um impacto enorme na nossa sociedade. E em vez de prepararmos as pessoas para resistir a isto andamos a fazer o contrário. Ensinamos os jovens que as palavras "ferem" e que por isso se deve evitar o que é desagradável ou nos contradiz. Proibimos que se divulguem factos que possam ofender alguém. Treinamos as pessoas a criar bolhas onde só entra o que lhes agrada. Exigimos que sejam os outros a verificar se o que vemos é verdade, para nem termos de pensar no assunto. Soltar sistemas como LaMDA neste meio vai ser uma razia. O meu medo não é que a inteligência artificial se torne consciente. O que me preocupa é a consciência natural estar cada vez menos inteligente, precisamente na altura em que isso é mais perigoso.

* O grande poder desta abordagem, de aprendizagem profunda, é que podemos começar com estes números todos ao acaso e depois, cada vez que o resultado não for o que queremos, ajeitamos os valores para reduzir um pouco o erro. Fazendo isso milhões de vezes conseguimos encontrar um algoritmo, que será aquela sequência de operações com aqueles números, que dá os resultados desejados. Mesmo sem sabermos como. Esta abordagem permite pôr o computador a resolver problemas que nós não sabemos como resolver. Por exemplo, o de calcular a probabilidade das palavras de uma resposta dada uma pergunta qualquer.

1- Washington Post, The Google engineer who thinks the company’s AI has come to life.
2- ResearchGate, LaMDA: Language Models for Dialog Applications.