Não há nada aqui para ver.

Segundo Carlos Guimarães Pinto, não nos devemos preocupar que a IA tenha muito impacto. Pelo contrário, o preocupante é ter pouco: «Segundo a AMECO, na segunda metade dos anos 80, antes da internet, a produtividade por trabalhador cresceu a uma média de 4,2% ao ano. Nos anos 90 esse crescimento foi de 2,6%. Na primeira década do século, o crescimento viria para os 0,9%. Na década de 2010, o crescimento médio anual foi de uns míseros 0,7%. Nesta década, até ao momento, vamos com 0,5%.»(1) Como a produtividade é «um bom indicador de automação de tarefas [e] a variável que mais se correlaciona com o aumento dos salários», CGP conclui que o problema é a inovação tecnológica estar a abrandar e é por isso que os salários não sobem tanto. Mas «A “boa” notícia para os trabalhadores é que, de facto, não andam a ser substituídos tão rapidamente como alguns temem.».

Um defeito desta explicação, que CGP reconhece, é que "mais produtividade" em economia não quer dizer produzir mais. Quer dizer mexer mais dinheiro por hora de trabalho. Portanto, se uma hora de trabalho de um empregado da Netflix disponibiliza cem vezes mais horas de vídeo que uma hora de trabalho do antigo empregado de clube de vídeo mas o preço é 1% do que era em 1990, a "produtividade" não mudou porque o dinheiro por hora de trabalho é o mesmo. CGP diz que «mesmo descontando todos estes fatores, a realidade é que o melhor indicador de substituição de trabalho por tecnologia indica que essa substituição é cada vez mais lenta» mas não é claro que esse desconto seja bem feito se a diferença pode ser de ordens de grandeza. Isto leva o modelo de CGP à conclusão pouco plausível de que a inovação tecnológica foi muito mais rápida nos anos 80 do século passado do que nesta última década.

Penso que o erro fundamental de CGP é descurar a mudança na relação entre trabalhadores e máquinas. Quando passámos da enxada para o tractor, a produtividade aumentou no sentido comum do termo por se produzir mais alimentos por hora de trabalho. E aumentou no sentido económico porque conduzir um tractor exige mais qualificações, o que permite exigir um salário melhor e mexe mais dinheiro por hora de trabalho. Agora é diferente. Num centro de distribuição os trabalhadores viam os endereços nos pacotes e tinham de os encaminhar correctamente num processo complexo. Separavam os nacionais dos internacionais, depois por diferentes zonas do país, em cada zona separavam por códigos postais e assim. Precisavam de saber o processo e não era trivial substituir um trabalhador. Agora têm um sistema automático que lê os rótulos, identifica as moradas e separa tudo, precisando apenas que o rótulo fique para baixo, virado para o leitor. O trabalho humano passa a ser virar os pacotes conforme passam no tapete rolante. Aumenta o número de encomendas processadas por dia mas não aumenta o dinheiro movimentado por hora de trabalho porque os trabalhadores precisam de menos qualificações, ganham menos e o dono pode baixar os preços mesmo tendo mais lucro. É menos trabalho por encomenda mas menos dinheiro a mexer porque o trabalho, em vez de ficar mais caro, ficou mais barato.

Isto nota-se na prática. No ano 2000, o salário bruto de um informático recém formado era cerca de 200.000$00, o que seria uns 1600€ agora. Hoje ronda os 1200€. Não é por a produtividade ter diminuído. É porque a relação com a tecnologia mudou. O progresso em compiladores, motores de bases de dados, ambientes de desenvolvimento, Internet e afins fizeram com que o informático pudesse produzir cada vez mais usando o conhecimento que tinha. Essa relação entre tecnologia e trabalho aumentava o preço do trabalho e o indicador económico de produtividade. Mas o progresso recente em modelos de linguagem e IA tem outro efeito. Permite produzir o mesmo dispensando muito do conhecimento especializado do informático recém formado. Nestes casos, a maior capacidade de produzir não aumenta o salário nem a "produtividade" económica porque as competências do trabalhador podem ser substituídas por máquinas mais baratas.

É por isto que a IA é uma tecnologia qualitativamente diferente. Na métrica clássica de quanto dinheiro muda de mãos por hora de trabalho a IA tem pouco efeito porque essa métrica depende de mais tecnologia exigir mais competência e aumentar os salários. Sempre houve algumas excepções. Muitos artesãos, por exemplo, foram substituídos por operários fabris menos talentosos, menos qualificados e com salários menores. Mas era um efeito pequeno na economia. O efeito dominante era a tecnologia exigir mais competência. A IA muda esta relação porque substitui competências. Alguns trabalhadores ainda beneficiam dela por terem qualificações difíceis de substituir. Por enquanto. Mas aumenta constantemente o número de trabalhadores com competências dispensáveis. Isto não aparece na métrica do dinheiro movimentado por hora de trabalho porque a competição com máquinas cada vez mais baratas faz baixar esses salários. No entanto, e ao contrário do que CGP defende, este problema é preocupante. Não só para quem é directamente afectado mas também porque a desigualdade económica e a degradação das perspectivas dos jovens são um perigo para a democracia se não houver uma intervenção atempada. Fingir que não se passa nada é a opção mais perigosa.

1- Carlos Guimarães Pinto, Preocupados com o problema errado.

Transformações e licenças.

Ed Newton-Rex afirma ser injusto usar obras criativas para treinar redes neuronais geradoras sem pagar licença aos autores. O seu manifesto já tem mais de 50 mil signatários (1). Argumenta que as empresas que treinam estas redes gastam muito dinheiro em pessoal e computadores e, por isso, deviam também pagar pelos dados que usam, que vêm do trabalho criativo dos artistas (2). Isto presume que beneficiar de algo obriga a remunerar o autor, presunção consequente de se subsidiar certas profissões concedendo monopólios sobre a cópia. Mas isto é uma excepção. Felizmente para todos, incluindo os artistas, o normal é pagar a quantia combinada quando o trabalho é feito, e pronto. Não se paga licenças aos professores pelo uso do que se aprendeu, aos médicos por cada dia de saúde ou ao electricista cada vez que se liga um interruptor.

Quando se passou da tecnologia de Gutenberg para o domínio digital exigiram outra excepção. Não se concede monopólios sobre números e álgebra. Por exemplo, em 1976, Diffie e Hellman inventaram um método algébrico para trocar chaves criptográficas (3) do qual depende todo o comércio online. Saía caro se déssemos por isto os mesmos privilégios legais que se dá por bonecos ou cantigas. Também os parâmetros das redes neuronais não dão direito a monopólios. Por muito tempo e dinheiro que custe criar e treinar os modelos, o resultado não é propriedade de ninguém porque são números. Mas quem carrega no botão da máquina fotográfica, grava uma música ou faz um desenho no computador fica com um monopólio comercial sobre os números que o aparelho guardou. E como não se pode especificar que números pertencem a quem, esta excepção obriga a censurar os outros conforme o significado dado aos números, bloqueando sites, proibindo a partilha de ficheiros ou até declarando ilegal ver provas desportivas sem licença (4). Agora exigem ainda mais uma excepção: querem cobrar pela autorização de treinar modelos alegando que aprendem a imitá-los à custa do seu trabalho. Mas nunca se pagou licença para aprender e nem é verdade que estes modelos aprendam a fazer o que os autores fazem. Não aprendem a escrever, nem a compor música nem a desenhar. Aprendem apenas a converter formatos digitais. É como gravar um documento do Word em PDF.

Se representarmos a posição de Lisboa e de Coimbra no espaço é difícil planear uma viagem porque a Terra roda sobre si própria, orbita o Sol e o Sol anda disparado pela galáxia. A posição de cada cidade muda ao longo do tempo em espirais aninhadas e isto complica muito o traçado e a escolha do caminho a seguir. Mas uma transformação algébrica adequada permite projectar estas coordenadas em duas dimensões num mapa estático onde é fácil escolher o percurso. Ou seleccionar outros destinos, porque qualquer ponto do mapa corresponde a um ponto na superfície da Terra. Escolher coordenadas ao acaso na outra representação, de espaço e tempo, calha quase de certeza algures no vácuo onde a estadia seria desconfortável e curta.

O grande poder das redes neuronais, a tal "IA generativa", é encontrar transformações convenientes para o que quisermos fazer. Por exemplo, normalmente representamos texto no computador atribuindo um número a cada letra, o que torna difícil prever a palavra seguinte. Os modelos de linguagem são operações algébricas que transformam esse formato noutro que dá imediatamente a distribuição de probabilidades da próxima palavra. E é só isso. Depois gera-se texto aplicando estas transformações para ir escolhendo palavras novas mas a rede neuronal é apenas uma sequência de operações que converte umas coordenadas noutras. É o mesmo com a geração de imagens a partir de texto. A rede transforma a sequência de números representando letras numa representação intermédia que se pode ajustar aleatoriamente e depois transformar nas matrizes de números como normalmente representamos imagens. É só isto que uma rede neuronal consegue fazer. Não tem desenhos, nem texto, nem canções. É só contas. Isto fica disfarçado por metáforas como a de "alimentar" a rede com as obras dos autores mas apenas se dá as coordenadas dos pontos que nos interessam para calcular a projecção adequada. Como a que permite calcular onde Lisboa e Coimbra ficam no mapa.

Esta tecnologia pode substituir muito trabalho humano, não só de artistas mas de toda a gente. Isso vai impor muitas mudanças mas não justifica licenças para aprender nem muito menos monopólios sobre a álgebra. Infelizmente, há grupos poderosos que querem expandir estes monopólios. Os "direitos de autor" são maioritariamente detidos por grandes empresas em benefício dos seus accionistas e, do outro lado, as grandes empresas que criam redes neuronais também querem acesso exclusivo aos dados para inibir potenciais concorrentes. Nós é que saímos prejudicados com a negociata, não só pelo efeito dos monopólios nos preços como também por concentrar ainda mais o controlo sobre o desenvolvimento e uso desta tecnologia.

O que nos deve preocupar não é actores fictícios (5) "roubarem" o trabalho dos actores humanos (6) ou minudências afins. O que temos de precaver são coisas como a violação de privacidade, burlas, e abusos de poder por parte do Estado. O reconhecimento de matrículas, a utilização massiva de informação que queremos privada e a vigilância descontrolada por parte das autoridades são exemplos do que nos deve preocupar. Estes monopólios que os artistas exigem, além de absurdos, limitam a concorrência, a transparência e a possibilidade de desenvolvimento e avaliação independente dos modelos. Para regular estas coisas é crucial que fique tudo à vista, modelos e dados, em vez de oculto atrás de acordos de exclusividade entre a Disney e a Google ou entre a Sony e a Meta. E é preciso que a tecnologia esteja acessível a todos em vez de apenas a quem pode contratar equipas de advogados e pagar licenças para fazer contas.

1- Statement on AI training
2- Guardian, Thom Yorke and Julianne Moore join thousands of creatives in AI warning
3- Wikipedia, Diffie–Hellman key exchange
4- A PJ lançou uma “campanha se sensibilização” contra ver futebol pirateado: Acredita, acaba com o teu jogo!. É certamente um dos crimes que mais preocupam os portugueses.
5- Particle 6, AI Commissioner
6- CNN, Hollywood is fuming over a new ‘AI actress’

Receios.

A inovação tecnológica desperta receios mais ou menos racionais. O comboio a vapor, por exemplo, levou à preocupação justificada com os acidentes mas também à convicção de que as vibrações causavam insanidade (1). A reacção à novidade depende também da disposição de cada um. Como dizia Douglas Adams, o que existe quando nascemos é normal, o que é inventado até termos 35 anos é excitante e o que surge depois disso é contra a ordem natural das coisas. E, obviamente, a tecnologia preocupa quem tem de competir com ela no mercado de trabalho. Nisto os modelos de linguagem como o ChatGPT trazem uma novidade importante. Até agora a inovação tecnológica tirou emprego a muitos mas beneficiou os peritos na nova tecnologia. O tractor substituiu trabalhadores agrícolas mas deu emprego a mecânicos e engenheiros. Os computadores eliminaram muitos postos de trabalho mas criaram emprego para informáticos. Agora é diferente. Modelos como o ChatGPT estão a ficar cada vez melhores a explicar, ensinar, programar, resumir conhecimento e outras tarefas que hoje pagamos a peritos para executar (2). Incluindo peritos em informática e inteligência artificial. Talvez isso tenha contribuído para, agora, alguns desses peritos apontarem a perda de postos de trabalho como um perigo desta tecnologia.

Mas penso que o receio mais profundo é do que estes avanços revelam acerca de nós. Nota-se em vários detalhes. Por exemplo, chamam "caixa preta" às redes neuronais sugerindo que não se percebe o seu funcionamento porque não se vê o que está lá dentro. Mas todos os parâmetros e operações de uma rede neuronal estão à vista. O que nos impede de a compreender é ter milhões de operações. Chamar-lhe "caixa preta" disfarça o verdadeiro problema: falta-nos a inteligência necessária para perceber algo tão complexo. A expressão "Inteligência Artificial" também permite um equívoco entre os robôs inteligentes da ficção e processos automáticos que um computador executa. Toda a inteligência artificial que temos está nesta segunda categoria, de soluções automatizadas para problemas que nós resolvemos com inteligência. Mas isto significa que o desempenho assombroso destes métodos, que já aproxima ou ultrapassa humanos em muitas tarefas, resulta de mera álgebra. É triste para quem se apelida de sapiens ser ultrapassado por uma máquina de calcular. Talvez seja melhor imaginar tratar-se de um C3PO ou Terminator, mesmo que isso crie medos ridículos como o das "mentes digitais poderosas"(3).

O receio que as características cognitivas que mais estimamos percam valor nota-se especialmente no esforço para demonstrar que os sistemas de IA não compreendem o que fazem. Isto devia ser tão surpreendente como descobrir que um ábaco não sabe matemática. No ChatGPT, as palavras que escrevemos são representadas por uma sequência de números, o computador faz uma carrada de contas e a sequência de números resultante é mostrada no ecrã como palavras. Nós imaginamos que aquilo significa alguma coisa mas o ChatGPT é só a sequência de contas. Que por vezes dá disparate. Mas o espantoso é que muitas vezes dá a resposta certa. Por exemplo, modelos como este podem criar programas funcionais a partir de descrições em texto (4). Eu admito desconsolo ao ver que capacidades que eu julgava necessárias para programar, como raciocínio computacional e compreensão dos algoritmos, afinal podem ser substituídas por operações algébricas executadas sem inteligência. Mas parece-me inútil fingir que a IA é uma "mente digital" só para me sentir superior quando ela se engana.

Não acho que esta tecnologia vá substituir todos os peritos porque estes métodos só servem para interpolar dentro da distribuição dos exemplos de treino. Como não são bons a extrapolar não conseguirão substituir inovadores como Newton, Darwin ou Turing. Mas para a maioria de nós esta limitação trará pouco consolo. Quase tudo o que quase todos fazemos com o nosso talento e inteligência está dentro da distribuição de exemplos conhecidos e poderá ser reproduzido de forma automática. Além disso, ainda estamos no ZX Spectrum desta tecnologia. Vai haver grandes mudanças nos próximos anos. Especialmente no mercado de trabalho. Nenhuma máquina nos vai tirar o gozo de compreender as coisas ou de as fazer por nós mas a necessidade de comprar trabalho humano, mesmo o trabalho de peritos, vai diminuir drasticamente.

A regulação será necessária como é com qualquer tecnologia. Também não queremos que a electricidade sirva para torturar prisioneiros nem a genética para registar o ADN de todos os cidadãos. Por exemplo, as redes neuronais têm grande potencial para coisas como vigilância e censura, e será preciso restringir esses usos. Mas esta tecnologia não é perigosa em si. São só contas; não é material radioactivo nem robôs assassinos. Por isso o que se deve regular são as aplicações. Um sistema de IA não pode cometer erros a conduzir camiões mas pode enganar-se num jogo de estratégia. O enviesamento tem de ser evitado nos empréstimos bancários mas não é grave se um gerador de imagens desenha barba apenas em rostos masculinos. E o "perigo" que a rede gere algo ofensivo ou qualquercoisofóbico resolve-se desaconselhando o uso por crianças e wokes. Os adultos não precisam de protecção contra coisas feias.

O alarmismo dos peritos que invocam perigos abstractos e "mentes digitais" deve ser encarado com cepticismo. Não só pela natureza destes receios como também porque pessoas diferentes têm interesses diferentes. Por exemplo, se a nossa tolerância ao erro fosse como a de alguns peritos que criticam a IA ninguém usava a Internet e a meteorologia seria crime. A IA deve ser regulada de forma democrática, com a participação de todos e não apenas pelos peritos. Deve-se regular aplicações em função de problemas específicos em vez de regular toda a tecnologia por causa de medos vagos. E deve-se sempre ponderar, a par dos riscos, também os benefícios da tecnologia e a liberdade de cada um decidir se estes compensam os riscos.

1) Atlas Obscura, The Victorian Belief That a Train Ride Could Cause Instant Insanity.
2) Este exemplo ilustra bem o potencial desta tecnologia, compreensivelmente assustadora para alguns: Daniel Tait, Sumplete.
3) Future of life, Pause Giant AI Experiments: An Open Letter.
4) Por exemplo, o Copilot, que é a mesma tecnologia mas treinado especificamente para escrever código.

A carta.

Uma carta aberta do instituto Future of Life pede uma moratória à investigação em modelos de aprendizagem automática mais poderosos do que o GPT-4, aquele que a Open AI de momento explora comercialmente (1). Há alguns nomes sonantes entre os signatários mas é fraca a adesão de peritos na área. Como até eu recebi um e-mail a pedir que assinasse esta carta antes de a publicarem, presumo que tenham contactado mesmo muita gente. Mas parece quem nem pessoas da Open AI assinaram, e teriam claro interesse numa moratória à concorrência (2). A explicação, e razão pela qual não assinei, é que a carta faz pouco sentido.

Fundamentam o pedido de moratória afirmando que «Sistemas de IA poderosos só devem ser desenvolvidos depois de termos confiança que os seus efeitos serão positivos e que podemos gerir os seus riscos». Mas só podemos avaliar os riscos depois de compreender bem o potencial e as aplicações de uma tecnologia, e isso exige investigação. É um problema que enfrentamos há séculos porque é intrínseco à ciência. Descobrir coisas tem riscos mas a ignorância não permite perceber nem os riscos nem os benefícios. Isto nota-se até nos exemplos que dão. Alegam que a «sociedade pôs em pausa outras tecnologias com efeitos potencialmente catastróficos para a sociedade», como clonagem humana ou modificação de genes na linha germinal humana. Mas não se suspendeu a tecnologia e muito menos a investigação. Apenas se regula aplicações específicas. A modificação genética humana levanta problemas éticos mas a dos tomateiros, leveduras ou bactérias é menos problemática. E a investigação não parou. Aliás, se tivessem suspendido a investigação em manipulação genética teríamos sofrido um atraso enorme em aplicações como a produção de vacinas e insulina ou técnicas de diagnóstico médico. Uma moratória à investigação é um exagero. Nem com as armas nucleares se faz isso. Regula-se actos específicos como a purificação de urânio mas não se impede os físicos de criarem modelos mais sofisticados do átomo.

Outro problema desta proposta é ter uma minoria de peritos a condicionar o que toda a gente pode usar. Exigem que estes modelos sejam mais «exactos, seguros, interpretáveis, transparentes, robustos, confiáveis e leais» mas a relevância destes requisitos depende do uso que cada pessoa lhes queira dar. Como eu não vou confiar no texto gerado por um modelo estatístico nem me vou ofender ou magoar com as palavras que produza, não quero restringi-lo a ser seguro, exacto, leal ou confiável. Para ter personagens interessantes em jogos de computador, para gerar textos pornográficos, para ter ideias acerca de mundos fantásticos, aprender insultos noutras línguas ou conversar com um amigo imaginário estes requisitos podem não se aplicar. E é cada utilizador que deve avaliar o que quer.

Mesmo que se possa apontar usos prejudiciais, ainda assim é devido respeito pela liberdade de cada um decidir por si, como se faz no caso de religiões, ideologias políticas, superstições e tradições parvas. Não temos peritos a decidir essas coisas pelas pessoas. O mesmo se aplica ao investigador. É verdade que a investigação científica tem valor social e, em média, beneficia-nos a todos. Mas a razão mais importante para permitir que alguém faça investigação é o direito individual de tentar perceber como as coisas funcionam. Não é legítimo limitar os direitos dos utilizadores e dos investigadores só porque alguns peritos invocam a possibilidade vaga de perigos ainda por determinar. Essa limitação só é legítima perante perigos concretos e suficientemente graves. Modelos estatísticos para gerar sequências de palavras parecem estar muito abaixo dessa fasquia.

A carta invoca também perigos para as profissões, que são consequência de qualquer inovação tecnológica e nunca justificaram parar o progresso científico, e o perigo de desenvolver «mentes não humanas», que não tem nada que ver com estes modelos para os quais pedem uma moratória. Não é por minimizar uma função com milhões de parâmetros que se corre o perigo de criar uma mente. A única coisa que me parece razoável nesta carta é exigir mais transparência. Isso já subscrevia se não fosse restrita apenas a modelos estatísticos. Eu gostava que houvesse transparência para eliminar impedimentos à decisão informada. Por exemplo, obrigar fornecedores de software ou serviços baseados em software a divulgar o código fonte para que, colectivamente, os utilizadores pudessem saber o que estes sistemas fazem e discutir os seus riscos e benefícios. Esta medida não exigiria moratórias, melhorava a capacidade de escolha e provavelmente até melhorava a qualidade do software. É como o restaurante ter a cozinha à vista. A proposta de serem os peritos a assegurar-nos de que está tudo conforme os seus critérios não ajuda a resolver este problema. E nem parece bem que seja subscrita pelos peritos.

O problema que enfrentamos neste momento não é a possibilidade de haver um novo ChatGPT que diz menos parvoíces. É a tecnologia concentrar cada vez mais poder de decisão numa minoria cada vez mais pequena pela facilidade com que se monopoliza a informação. Nestas condições, é obviamente má ideia dar a uma minoria de peritos selectos o poder de decidir como vão ser os sistemas a que vamos ter acesso ou até o que se pode investigar. O que precisamos é de garantir o acesso generalizado à informação para que estes juízos de valor, acerca do que queremos que estes sistemas façam, possam ser resolvidos de forma democrática. Os peritos são úteis para resolver problemas técnicos mas não para decidir se suspendemos o uso de ficheiros pdf para voltar a haver ardinas.

1) Future of life, Pause Giant AI Experiments: An Open Letter.
2) Vice, The Open Letter to Stop 'Dangerous' AI Race Is a Huge Mess

Consciência, Inteligência Artificial, e porque é que estamos tramados.

Um engenheiro da Google, entretanto despedido, alegou que o LaMDA, um modelo linguístico dessa empresa, se tinha tornado consciente (1). Muitas pessoas apontaram que é disparate mas as justificações que tenho visto não me deixaram satisfeito. Uns alegam que LaMDA não pode ser consciente porque apenas calcula probabilidades de frases e palavras. Além de isto subestimar a complexidade destes modelos, muito mais complexos do que aquilo que um ser humano consegue conscientemente fazer, mesmo tarefas simples podem ser feitas com consciência. Contar pelos dedos, por exemplo. Portanto, não é por "apenas" estimar probabilidades que não pode ser consciente. Outra justificação é que as palavras produzidas por LaMDA não têm intencionalidade, aquela propriedade de ser acerca de algo. Quando uma pessoa diz que subir ao monte Evereste é um grande feito, sabemos que diz essas palavras referindo aquele monte e conceito. Quando LaMDA dá essa resposta (2), são apenas palavras. Só na mente do leitor é que referem alguma coisa. Isto é verdade mas só diz que LaMDA não é consciente porque não é consciente. Neste contexto, intencionalidade e consciência acabam por ser o mesmo.

Eu proponho que o problema está na forma como o algoritmo é materializado. Um algoritmo é uma sequência abstracta de instruções que podem ser executadas de forma automática. Por exemplo, para calcular a área do triângulo somamos o comprimento dos lados, dividimos por dois, subtraímos a esse valor cada um dos lados, multiplicamos esses quatro valores (o total e as diferenças) e calculamos a raiz quadrada desse produto. Isto em abstracto. Em concreto, o melhor é arranjar algum suporte material e convencionar uma correspondência com estes passos. Marcas num papel ou a posição das contas de um ábaco, por exemplo. Ou, melhor ainda, cargas e tensão num circuito electrónico. Aí corre tudo automaticamente e no final só temos de interpretar o resultado. É assim que LaMDA funciona. Em abstracto, uma frase como "porque é que as pessoas sobem ao monte Evereste?" é mapeada numa tabela de números, esses números são multiplicados e somados a outros números, dá uma tabela ainda maior de números, faz-se isso várias vezes com muitos milhões de números e várias funções e no fim saem números indicando a probabilidade de cada palavra que pode vir a seguir*. Mas isso é o algoritmo em abstracto. Em concreto não vamos lidar com números mas sim com cargas e tensões num circuito que, para nós, representam esses números e essas operações. No final aparece uma mancha no ecrã que interpretamos como sendo uma resposta à nossa pergunta.

O que eu proponho é que a consciência não vem do algoritmo, que é abstracto, mas depende do suporte físico em que este for materializado. Um algoritmo simples materializado num cérebro humano é executado de forma consciente. Se o humano usar um ábaco ou um lápis, a consciência continua no humano e não no ábaco ou no lápis. E se materializar o algoritmo num circuito electrónico, também não é o circuito que fica consciente. Se LaMDA for consciente, então todos os aparelhos electrónicos serão conscientes também, o que não é plausível.

Isto não presume nada de sobrenatural ou imaterial acerca da consciência. É um problema mais genérico. Por exemplo, podemos pensar num algoritmo para construir um muro de tijolos, com todos os cálculos para posicionar os tijolos e colocar a argamassa em função das dimensões do muro e dos tijolos. E podemos materializar esse algoritmo fazendo as contas de cabeça, usando papel e lápis ou um computador sem que nada disso produza um muro de tijolos. Apenas vai produzir alguma representação do muro. Para termos mesmo um muro de tijolos o algoritmo terá de ser materializado num sistema físico que assente mesmo os tijolos e ponha a argamassa. Tal como assentar tijolo, a consciência também deve ser uma actividade específica que não surge automaticamente em qualquer materialização de algoritmos. Exactamente como a poderemos obter não sei, mas o que me parece é que não é empurrando electrões de um lado para o outro num circuito para representar operações algébricas. Deve ser preciso algo mais do que isso.

Se isto for verdade, então nem LaMDA é consciente nem qualquer rede neuronal ou programa de IA que se implemente neste tipo de computadores será consciente. Enquanto estivermos a materializar os algoritmos nestes ábacos electrónicos, por muito rápidos os ábacos e complexos os algoritmos, nem vão assentar tijolo nem gerar consciência. O que me preocupa é a capacidade destes modelos parecerem humanos aliada à sua capacidade sobre-humana de ter milhões de conversas personalizadas ao mesmo tempo. LaMDA é mais sofisticado do que apenas um modelo linguístico, porque a Google incluiu métricas como relevância, correcção factual, "segurança" (i.e. ser politicamente correcto) e afins (2). Mas os objectivos podiam ser outros. Podiam ser o de persuadir as pessoas a votar num candidato ou de as convencer que a democracia é uma experiência falhada e precisamos é de um ditador, por exemplo.

Um sistema sofisticado destes, capaz de criar conversas aparentemente inteligentes, gerar imagens falsas, criar artigos automaticamente e o que mais for preciso para persuadir pode ter um impacto enorme na nossa sociedade. E em vez de prepararmos as pessoas para resistir a isto andamos a fazer o contrário. Ensinamos os jovens que as palavras "ferem" e que por isso se deve evitar o que é desagradável ou nos contradiz. Proibimos que se divulguem factos que possam ofender alguém. Treinamos as pessoas a criar bolhas onde só entra o que lhes agrada. Exigimos que sejam os outros a verificar se o que vemos é verdade, para nem termos de pensar no assunto. Soltar sistemas como LaMDA neste meio vai ser uma razia. O meu medo não é que a inteligência artificial se torne consciente. O que me preocupa é a consciência natural estar cada vez menos inteligente, precisamente na altura em que isso é mais perigoso.

* O grande poder desta abordagem, de aprendizagem profunda, é que podemos começar com estes números todos ao acaso e depois, cada vez que o resultado não for o que queremos, ajeitamos os valores para reduzir um pouco o erro. Fazendo isso milhões de vezes conseguimos encontrar um algoritmo, que será aquela sequência de operações com aqueles números, que dá os resultados desejados. Mesmo sem sabermos como. Esta abordagem permite pôr o computador a resolver problemas que nós não sabemos como resolver. Por exemplo, o de calcular a probabilidade das palavras de uma resposta dada uma pergunta qualquer.

1- Washington Post, The Google engineer who thinks the company’s AI has come to life.
2- ResearchGate, LaMDA: Language Models for Dialog Applications.

A próxima revolução.

Há dias tive o prazer de debater com colegas e alunos o impacto da inteligência artificial (IA) na sociedade (1). A minha expectativa, consensualmente considerada pessimista, é a de que o progresso tecnológico vai reduzir muito o mercado para o trabalho humano nas próximas décadas, ou mesmo já nos próximos anos. Não é necessariamente mau. É uma boa oportunidade para criar uma sociedade mais justa e melhor para todos. Mas compreendo que este futuro pareça indesejável quando se assume que só quem tem pais ricos ou encontra comprador para o seu trabalho é que merece viver confortavelmente e participar no mercado.

Há duas razões normalmente invocadas para defender que o progresso tecnológico presente não vai reduzir o mercado de trabalho: sempre que a tecnologia eliminou profissões surgiram profissões novas para as substituir; e há profissões que nunca irão desaparecer por muito que se automatize. Isto é quase verdade mas o diabo está nos detalhes. Consideremos, por exemplo, o que aconteceu nos EUA de 1850 até hoje (2). A agricultura, que ocupava a maioria das pessoas em 1850, já era residual em 1950. O trabalho industrial aumentou inicialmente, em substituição da agricultura, mas acabou por diminuir também e agora os serviços dominam o mercado de trabalho. Muitos julgam que o próximo passo será mais do mesmo. Eu duvido que seja.

A mecanização da força humana libertou pessoas da agricultura para outras profissões que já existiam. Médicos, operadores de máquinas, advogados, professores. Sugiram algumas profissões novas mas o seu impacto foi pequeno. O que safou foi que havia muitas profissões nas quais os tractores não substituíam ninguém. Mais tarde, a automação nas fábricas substituiu a destreza humana em tarefas repetitivas mas isso não criou profissões novas com impacto relevante no mercado de trabalho. Apenas deslocou trabalho para profissões nas quais máquinas de furar, soldar ou tecer não adiantavam de nada. Noto que deslocou trabalho e não os trabalhadores. Não foi o operário de 40 anos tornado redundante pelo robô de soldadura que foi tirar um curso de cirurgia. Esse tramou-se. Mas a geração seguinte teve tempo de se preparar para carreiras diferentes. Este é outro aspecto preocupante do progresso tecnológico presente: é muito mais rápido. Mas o problema principal é que, ao contrário do que sempre aconteceu até hoje, agora não há sectores significativos da economia onde a tecnologia não substitua mão-de-obra. Quando se substituiu a força aumentou trabalho de destreza e inteligência. Quando se substituiu a destreza o trabalho migrou quase todo para os serviços. Agora estamos a substituir o trabalho cognitivo e o que sobra é muito pouco ou quase nada. E se é verdade que muitas profissões não vão desaparecer, essa esperança é enganadora.

Apesar do progresso que houve desde 1850, ainda há pessoas a trabalhar na agricultura e em fábricas. Essas profissões não desapareceram. Mas a procura por esse trabalho diminuiu muito e isso é que importa. Um sistema de IA que faça perguntas aos utentes do centro de saúde e prepare um diagnóstico preliminar enquanto esperam pelo atendimento não permite dispensar os médicos. Mas adianta trabalho que permite ao médico antender mais pacientes e isso significa menos médicos. Robôs que fazem as camas, dão injecções, mudam o soro e monitorizam os doentes reduzem a procura por enfermeiros. Vai haver menos empregados de balcão, menos motoristas, menos mecânicos. E até menos jornalistas, futebolistas e apresentadores porque a automação está a criar formas alternativas de entretenimento e de comunicação que competem nesse mercado mas compram muito menos trabalho. Facebook, YouTube, Google, Netflix e afins, por exemplo.

Não me parece sensato contar com novas actividades que rentabilizem o trabalho humano substituído pela automação. O progresso tecnológico sempre empurrou o trabalho para áreas que a tecnologia não tinha afectado mas essas já não existem. A requalificação da força laboral também exige tempo, que é cada vez mais curto. A formação de trabalhadores capazes de fazer coisas que as máquinas não fazem tem exigido um aumento constante no nível de escolaridade e esse parece estar a atingir um limite prático. Além disso, a tendência do mercado é para actividades económicas que exigem muito menos mão-de-obra. Tudo isto aponta para um decréscimo na procura por trabalho humano e um aumento na dificuldade de vender trabalho.

Que, de resto, não é mera futurologia. Já podemos ver a acontecer. O aumento da produtividade não tem sido acompanhado por um aumento no poder de compra dos trabalhadores. Nos EUA, por exemplo, à excepção dos salários acima do percentil 90, o rendimento real está estagnado (3). A precariedade está a aumentar, com as empresas a recorrer cada vez mais ao trabalho temporário e, em cada vez mais casos, o empregado está a transformar-se num cliente da empresa. Exemplos como Uber, Glovo ou AirBnb mostram como as empresas podem lucrar intermediando a venda de serviços entre terceiros sem empregarem essas pessoas. O resultado é forçar quem tem de vender trabalho a baixar constantemente o preço numa competição desigual com sistemas automáticos cada vez mais baratos.

Isto pode ser uma coisa boa. Se a maioria não conseguir vender trabalho por falta de comprador, isso quer dizer que não precisamos de obrigar essas pessoas a trabalhar. É uma oportunidade excelente para tornar o rendimento menos dependente da venda de trabalho e a sociedade mais justa e igualitária. O problema é que muita gente se vai tramar enquanto não se adaptar a sociedade a estas condições. É só nisto que a revolução tecnológica de hoje vai ser semelhante às anteriores.

1- No MathMasters 2020, organizado pelo Departamento de Matemática da FCT/NOVA.
2- Os EUA porque foi o pais para o qual encontrei os gráficos. Mas será mais ou menos a mesma coisa por todo o lado: Five lessons from history on AI, automation, and employment
3- Pew Research Center, For most U.S. workers, real wages have barely budged in decades

Treta da semana: fissão é a solução.

Tenho visto muita gente a defender a fissão nuclear como a melhor opção para travar o aquecimento global. Teoricamente, parece que sim: não liberta CO₂; produz electricidade de forma fiável e constante, ao contrário da energia solar ou eólica; precisa de menos terreno do que um parque eólico ou solar, ou uma barragem; a electricidade nuclear sai mais barata do que a das renováveis; e se tudo for feito como deve ser não vai haver acidentes como Chernobyl ou Fukushima porque esses erros já não serão repetidos.

Infelizmente, é ingénuo assumir que tudo vai sempre ser feito como deve ser. O colapso do BES, da ponte de Entre-os-Rios e da estrada de Borba são apenas alguns de muitos exemplos de tragédias teoricamente evitáveis que resultaram de problemas humanos que, na prática, são inevitáveis. Vai sempre haver erros, incompetência, ganância ou corrupção. Centrais nucleares não são imunes a estes problemas e quando temos em conta que tudo tem de correr bem não só durante as décadas de operação da central mas também durante os séculos de armazenamento do lixo radioactivo, temos de estimar como muito alta a probabilidade de haver asneiras.

Os defensores da fissão nuclear também subestimam a gravidade dos problemas. É difícil estimar o número de mortes devido ao desastre de Chernobyl (1) e o de Fukushima parece não ter causado mortes directas (2). Em contraste, trabalhar em telhados é perigoso (3) e a instalação de painéis solares vai levar a mais acidentes. Mas esta contabilidade é enganadora. Morre ainda mais gente em acidentes de automóvel mas é consensual que aceitamos esse risco pela liberdade de ir para onde queremos. Um acidente nuclear como Chernobyl ou Fukushima obriga centenas de milhares de pessoas a abandonar a sua casa, escola, bairro, comunidade ou negócio e refazer a vida num lugar diferente, com outras pessoas. O custo pessoal e social de um acidente nuclear é enorme e não pode ser descartado apontando acidentes de construção ou de viação.

Outro problema é o lixo radioactivo, que é das substancias mais perigosas que produzimos. Só na Europa, são quase três mil toneladas de metais radioactivos por ano (3). Comparado com outras formas de produção de energia é um volume pequeno de resíduos. Mas é material que terá de ficar isolado durante séculos. Qualquer problema no armazenamento, seja por corrupção, negligência, crise económica ou instabilidade política, pode ter consequências desastrosas. Isto é especialmente relevante se quisermos usar a fissão nuclear para travar o aquecimento global. A maior parte do CO₂ emitido para a atmosfera já vem da Ásia (4) e é nos países em desenvolvimento mais populosos que temos de travar o seu aumento. O aquecimento global não se resolve com centrais nucleares na Alemanha ou na Dinamarca. Tem de ser em países como China, Índia, Indonésia, Brasil, Paquistão e Nigéria. É absurdo presumir que seria seguro investir na construção em massa de centrais nucleares nesses países.

Economicamente, também não é tão viável como parecem presumir. A energia nuclear exige um investimento inicial muito grande e só dá lucro ao fim de décadas. Com a queda constante dos custos de produção das renováveis, melhorias tecnológicas na produção e armazenamento de energia e potencial para alterações sociais – por exemplo, a automação levar as pessoas a sair das cidades, distribuindo o consumo e a produção de energia – é muito arriscado estar a investir milhares de milhões de dólares (5) sem uma garantia de retorno. E não é nada claro que seja um bom investimento, mesmo considerando apenas a redução das emissões de CO2. Em números redondos, o custo de construir uma central nuclear é o mesmo de reflorestar o necessário para compensar as emissões da mesma energia produzida durante dez anos pela combustão de biomassa (6). São estimativas por alto, porque o custo varia muito em detalhe, mas o custo de substituir centrais térmicas por centrais nucleares é semelhante ao de converter centrais térmicas para usar biomassa e reflorestar o suficiente para compensar as emissões. Para o aquecimento global o efeito é o mesmo e ficamos com florestas em vez de lixo radioactivo.

Um defeito que apontam ao uso de biomassa para produzir energia é que estamos a queimar a madeira agora e só mais tarde voltamos a sequestrar o CO₂, porque a floresta demora anos a crescer. Mas esse problema é igual para a energia nuclear. Entre decidir ter energia nuclear e pôr a central a funcionar já as árvores estão todas grandes. E se bem que a florestação exija investimento público, a energia nuclear também. Nenhum privado vai investir esse dinheiro sem garantias de retorno e não é razoável esperar que sejam os privados a guardar o lixo radioactivo durante séculos.

Temos de abandonar a queima de combustíveis fósseis. Mas a fissão nuclear não é uma boa alternativa. A quantidade de reactores que seria preciso e os países onde os teríamos de construir é receita certa para desastres. O enorme investimento seria melhor aplicado na recuperação de solos e reflorestação, que mais que reduzir emissões retiraria carbono da atmosfera. E a fissão nuclear é um beco tecnológico, como o motor a vapor ou o VHS. O progresso na produção de energia de fontes renováveis, melhorias nas baterias ou alterações demográficas que favoreçam a produção distribuída, com menos gente concentrada nas grandes cidades, facilmente tornam a fissão nuclear economicamente inviável. Além disso, não é de excluir a possibilidade da fusão nuclear se tornar rentável no prazo de 30 ou 40 anos de um novo investimento em fissão nuclear. Somando a isto tudo, o lixo radioactivo produzido pela fissão nuclear seria um fardo – e um perigo – para muitas gerações além das que beneficiariam da electricidade produzida, uma atitude irresponsável que criticamos nas gerações passadas e que temos o dever de não perpetuar.

1- Wikipedia, Deaths due to the Chernobyl disaster
2- World Nuclear Association, Fukushima Daiichi Accident
3- EEA, EN13 Nuclear Waste Production EN13 Nuclear Waste Production
4- Global Carbon Atlas
5- Dois a nove mil milhões de dólares por unidade, segundo a USCSA, Nuclear Power Cost
6- A construção de uma central de fissão nuclear fica em cerca de $5000/kWe segundo a World Nuclear Assoiation, excluindo custos de financiamento. Uma tonelada de madeira produz um MWh e uma tonelada de CO₂ custa $100 a sequestrar. Dez anos de produção de um kWe dá 87MW, o que custa cerca de $8700 a sequestrar em floresta.

Computadores e trabalhadores.

Em 1997, o Deep Blue derrotou Kasparov. Foi a primeira vez que um computador derrotou um mestre de Xadrez a este nível. Em 2016, o AlphaGo derrotou Lee Sedol, um dos melhores jogadores mundiais de Go. Outra estreia mas, para muitas pessoas, foi mais do mesmo. O Pedro Romano deve ser uma dessas pessoas. Acerca do efeito potencial da inteligência artificial no emprego, Romano afirma que podemos «excluir da nossa lista de preocupações prementes o risco de uma sociedade sem empregos» e que a tese de estarmos «a viver uma era de inovação nunca vista, que vai causar conturbações sociais enormes» é incompatível com a tese de que «estamos num período de estagnação» económica, porque «Se cada pessoa produz mais, então […] cada pessoa pode também consumir mais»(1). Está enganado.

O Deep Blue usava uma tabela de parâmetros criada pelos programadores para avaliar as jogadas. Os valores eram ajustados por análise estatística de jogos passados mas os factores a avaliar – controlar o centro, perder um cavalo e assim por diante – foram fixados pelos programadores. Por isso, o Deep Blue era um computador que jogava Xadrez. O AlphaGo avalia cada jogada com uma rede neuronal treinada com um conjunto de partidas de Go sem qualquer especificação prévia sobre o que é importante. O AlphaGo não é um computador programado para jogar Go. É um computador programado para aprender a partir de exemplos.

Tecnologicamente, isto é muito diferente do que aconteceu até agora. Romano admite que «em prazos mais curtos – e o ‘curto’, neste caso, pode bem ser 10 ou 20 anos – é perfeitamente possível que se notem efeitos no mercado laboral» como consequência de inovações tecnológicas. Mas diz ser errado supor «que há um número fixo de postos de trabalho [porque] a procura adicional gerada pelo aumento da produtividade [...] vai implicar um aumento do emprego noutros novos sectores.» Ou seja, 10 ou 20 anos depois de se automatizar uma tarefa, uma nova geração de trabalhadores aprende a desempenhar outras tarefas, ainda não automatizadas. Mas se dez anos era um prazo curto no tempo do Deep Blue, no tempo do AlphaGo é uma eternidade. A mesma tecnologia que permite ensinar* o computador a jogar Go também permite ensinar a conduzir um automóvel, a atender clientes no restaurante ou a cobrar produtos na caixa do supermercado. Os humanos demoram 10 a 20 anos a adaptar-se e aprender novas profissões. Os computadores demorarão 10 a 20 dias. Ou 10 a 20 horas. E isto em qualquer tarefa que possa ser aprendida a partir de exemplos.

Romano também erra na estimativa do efeito económico do aumento de produtividade. Até certo ponto, um aumento de produtividade leva a melhores ordenados, mais consumo e mais emprego. Mas só até certo ponto. Uma pessoa que ganha um milhão de euros por mês não consome o mesmo que mil pessoas a ganhar mil cada uma, e esse efeito já se faz sentir. Escreve Romano que «não há sinal visível de progresso tecnológico acelerado nas estatísticas. Por que digo isto? Porque a produtividade em praticamente todo o mundo desenvolvido tem vindo a cair ao longo das últimas décadas e está hoje mais ou menos estagnada.» Isto é exactamente o que se espera se Romano não tiver razão e a automatização crescente estiver mesmo a prejudicar esta economia baseada na venda de trabalho. O Facebook, por exemplo, tem cerca de mil milhões de utilizadores, dezassete mil milhões de dólares de negócio anual e apenas doze mil empregados. O sucesso do Facebook depende da selecção criteriosa daquilo que cada utilizador vê mas, sem aprendizagem automática, isto iria exigir centenas de milhares de empregados para monitorizar os feeds de tantos utilizadores. Nessas condições, essa gente toda a trabalhar para o Facebook daria um empurrão grande à economia. Mas a automatização permite dispensar esses empregados, trocar trabalho por capital e acumular lucros em offshores. É por isso que os indicadores económicos não reflectem o enorme sucesso de empresas de alta tecnologia como a Microsoft, Amazon, Apple, Google e Facebook. Os rendimentos milionários dos accionistas não têm o mesmo efeito que teriam repartidos em salários.

A aplicação desta tecnologia a novas áreas de negócio é apenas o início. A aplicação a negócios já estabelecidos, como a restauração, venda a retalho ou transportes, vai demorar um pouco mais porque exige investimento e, em alguns casos, legislação. Mas é inevitável e será num prazo muito mais curto do que os tais 10 a 20 anos. Economicamente, este aumento de produtividade vai concentrar ainda mais a riqueza e agravar a tendência, que já se sente, para uma economia com menos transacções e mais dívidas e manipulação financeira. Uma economia frágil, sem crescimento real e que beneficia uma minoria cada vez mais pequena. E, tecnologicamente, esta inovação não é igual ao que aconteceu no passado porque não se trata de automatizar uma ou outra tarefa específica. O que se automatizou foi a capacidade de aprender e isso permite substituir os trabalhadores humanos não só em quase tudo o que fazem agora mas também em quase tudo que possam vir a fazer.

Isto não é necessariamente uma coisa má. Mas exige repensar a economia e abandonar a ideia de que o rendimento da maioria tenha de vir da venda do trabalho. Porque, em breve, o trabalho humano deixará de ter valor comercial. Como o dinheiro é um veículo importante de informação, que cada um pode usar para indicar as suas preferências, teremos de continuar a distribuí-lo e a manter a economia a funcionar. Mas essa distribuição não poderá ser pela venda de trabalho.

* Termos como “ensinar” e “aprender” sugerem alguma consciência da parte de quem aprende. Mas, neste contexto, uso-os apenas conforme a definição operacional de Mitchell: um sistema aprende se melhorar o seu desempenho numa tarefa conforme lhe fornecemos exemplos.

1- Pedro Romano, Robôs a roubar empregos

Treta da semana (atrasada): o dia de reflexão.

O post anterior suscitou algumas dúvidas acerca da possível violação das directivas da Comissão Nacional de Eleições. Nomeadamente, «Aquele que no dia da eleição ou no anterior fizer propaganda eleitoral por qualquer modo é punido com prisão até seis meses e multa de 50 € a 500 €, nos termos do artigo 147º da LEALRAM.» Penso que não violei esta proibição, em primeiro lugar, porque a «propaganda eleitoral» refere-se especificamente a «actividade que vise directa ou indirectamente promover candidaturas, seja dos candidatos, dos partidos políticos, dos titulares dos seus órgãos ou seus agentes ou de quaisquer outras pessoas, nomeadamente a publicação de textos ou imagens que exprimam ou reproduzam o conteúdo dessa actividade». Ou seja, o que é proibido é a actividade de promoção de candidaturas – a campanha eleitoral – ou a divulgação dessa actividade. Ao contrário do que muita gente parece pensar, isto não equivale a uma proibição geral de qualquer discussão política durante o tal dia de reflexão.

Em segundo lugar, a lei eleitoral tem de estar subordinada à Constituição. Na Constituição não vem nada sobre um dia de reflexão mas está claramente estipulado, no artigo 13º, que «Todos têm o direito de exprimir e divulgar livremente o seu pensamento pela palavra, pela imagem ou por qualquer outro meio, bem como o direito de informar, de se informar e de ser informados, sem impedimentos nem discriminações». Por isso, a proibição da propaganda eleitoral na véspera e no dia das eleições tem de ser rigorosamente circunscrita à actividade de promoção de candidaturas porque, de outra forma, acaba por violar um direito fundamental que não é legítimo ao legislador negar a quem quer que seja.

Esta é uma razão pela qual acho importante discutir-se política hoje e amanhã também, se houver paciência. É legítimo, e razoável, que se proíba comícios, manifestações e arruadas nestes dias. Não queremos gente a gritar com cartazes em punho à porta dos locais de voto. Mas não é legítimo que se proíba as pessoas de dizerem o que pensam, mesmo que seja só por uns dias, e não podemos deixar o medo e a picuinhice tornarem a lei mais censória do que já é. Se nos coibirmos de falar de política com medo disto estaremos a transformar uma lei razoável de limitação da campanha eleitoral numa violação inadmissível da nossa liberdade de expressão.

Mas o mais grave é a forma como esta lei foi adaptada às novas tecnologias de comunicação. Por exemplo, «no que respeita à proibição de fazer propaganda em véspera e dia da eleição, as Cronologias Pessoais e as Páginas do Facebook não podem registar qualquer ação de propaganda praticada após as 00h00 da véspera da eleição. Ao invés, a atividade desenvolvida até essa hora pode aí permanecer (tal como acontece, por exemplo, com os cartazes afixados na rua)». A medida é ridícula. O problema, aparentemente, não é a pessoa ver o post no dia 3 ao almoço. A preocupação do legislador parece ter sido apenas se o post foi publicado às 00:00 do dia 3 ou às 23:59 do dia 2. Além disso, os sites dos partidos continuam online, os vídeos da campanha continuam no YouTube e os cartazes continuam escarrapachados por todo o lado. Esta medida faz-me lembrar uma recomendação da minha avó, há uns anos, para que eu não deixasse os miúdos ir à Internet à noite por causa dos programas que lá dão a essa hora.

Este blog, ou a minha página no Facebook, não são publicações no sentido tradicional do termo. Não são revistas que os leitores comprem na expectativa de ir ler reportagens sobre automóveis ou ver fotografias de gente famosa. O blog ou a página no Facebook também não são cartazes na rua nem comícios em locais públicos. Quem visita tais páginas fá-lo porque quer, de propósito e sem legitimidade para exigir nada de quem as escreve. Não estou a ocupar a via pública nem tenho qualquer contrato com os meus leitores. Por isso, as “redes sociais” são o equivalente a conversas de esplanada. Se eu estiver a conversar sobre isto com alguém, qualquer outra pessoa é livre de se sentar próximo e ouvir a conversa. É um espaço pessoal não privado. E até pode ser bem vinda. Mas veio ouvir uma conversa pessoal. Não está a ler o jornal que comprou nem a apanhar uma manifestação a caminho do trabalho. Por meio da Internet, conversamos com quem nos quiser ouvir mas fazêmo-lo no nosso espaço pessoal, sem intromissão no espaço de terceiros.

Neste contexto, é inadmissível que o Estado intervenha de forma censória para proteger a liberdade de decisão de quem só cá vem ler o que quer. E este ponto é muito mais importante do que apenas pela treta do dia de reflexão. Enquanto os legisladores não compreenderem que a Internet é diferente da rádio, das revistas ou dos cartazes na rua, corremos o risco de violarem a nossa liberdade de expressão pessoal apenas porque usamos uma tecnologia nova para comunicar. Se a CNE proibisse conversas políticas por telefone ou por carta, saltava-lhes logo tudo em cima. Mas como esta coisa da Internet só existe há umas décadas e é parecida com a televisão, pouca gente percebe que estas proibições, o bloqueio de sites, a limitação do anonimato e medidas afins são um ataque sério ao direito de conversar.

Treta da semana (passada): A experiência.

O Facebook mostra a cada utilizador uma página com publicidade, notificações e posts seleccionados por critérios que desconhecemos mas que certamente visam manipular as nossas emoções e comportamento para maximizar as visitas. Sempre me pareceu óbvio ser esse o propósito da empresa. É um negócio de venda de espaço publicitário e não uma instituição de caridade. Surpreendentemente, muitas pessoas ficaram agora chocadas por o Facebook ter mostrado algumas páginas com publicidade, notificações e posts seleccionados por critérios que, além dos que desconhecemos, também incluíram a análise de palavras chave para estimar o seu conteúdo emocional (1).

Experiências e manipulações dessas hé em todo o lado. Na publicidade, como é óbvio, mas também nos programas de televisão que nos levam a ver os anúncios dos intervalos. Há nas notícias, tanto na forma como são dadas como na escolha do que se noticia, e há em cada montra de cada loja e em cada supermercado. Não é por acaso que os brinquedos estão logo à entrada e os legumes e o leite lá bem no fundo. E estão sempre a experimentar para nos manipular melhor. Sendo isto tão comum, é intrigante a reacção ao que o Facebook fez. Uns dizem que é um abuso da sua informação pessoal, outros que não deviam poder fazer isto sem o consentimento informado das pessoas e outros até querem leis para proibir estas coisas (2).

A reacção dos utilizadores escandalizados parece dever-se a um mal-entendido acerca da sua relação com a Facebook. Não se escandalizam quando os supermercados põem os bens de primeira necessidade longe dos acessos porque o stock é deles e arrumam o arroz onde quiserem. Mas muita gente julga que o que põe no Facebook é seu. A ilusão não é acidental porque todo o sistema está concebido para dar essa impressão. Escrevemos aqui, marcamos ali, clicamos acolá e parece que somos nós quem manda. Mas a realidade é que damos esses dados à empresa e autorizamo-la a fazer o que quiser deles. Legalmente, é o que está no contrato; eticamente, somos responsáveis por essa escolha; e, na prática, assim que os nossos dados, textos e fotografias estão nos servidores da empresa ficam fora do nosso controlo. Nem aquilo que demos à empresa é nosso nem sequer somos os seus clientes. Uma forma lisonjeira de pensarmos nesta relação é imaginando-nos como colaboradores voluntários do Facebook. Mas o mais realista é imaginar que somos mercadoria. Somos pacotes de arroz. Porque o negócio destas empresas é vender a nossa atenção aos seus verdadeiros clientes, que é quem lhes paga para fazer publicidade. Nós somos o stock e o que lhes damos é apenas a montra.

Os académicos que exigem consentimento informado também fazem confusão. É claro que uma universidade ou entidade pública que financie experiências com pessoas deve exigir que se peça o consentimento prévio aos sujeitos da experiência. Mas isto é um extremo num contínuo de situações com exigências diferentes. Os produtores de um programa de apanhados não vão pedir primeiro o consentimento informado das pessoas a quem vão pregar partidas. Só depois é que pedem autorização para publicar as imagens da figura triste que as vítimas fizeram. E um supermercado que expõe revistas junto às caixas para ver se o tédio de esperar a vez é motivação para as comprar não precisa de pedir autorização a ninguém. Esta é a situação em que está a experiência do Facebook, que simplesmente organizou a “montra” para ver como conseguir mais visitas.

Alguns legisladores é que, suspeito, protestam porque percebem bem o que está a acontecer. A manipulação faz parte da comunicação e os meios que chegam a muita gente sempre foram usados para isso. Mas cadeias de televisão, rádio ou jornais exigem uma infraestrutura pesada que os políticos sabem influenciar. Twitters e Facebooks são um bicho diferente. Surgem do nada, podem desaparecer de um momento para o outro e qualquer tentativa de os manipular dá resultados imprevisíveis. Naturalmente, isto assusta algumas pessoas que, por isso, condenam a “manipulação” do Facebook mesmo que não se oponham ao Big Brother nem à agregação da comunicação social em enormes empresas controladas por poucas pessoas.

Se não queremos que espreitem para dentro de nossas casas penduramos cortinas. Se queremos conversar em privado fechamos a porta. E se não queremos que mexam nas nossas coisas pomos fechaduras e trancas. Quem protege a nossa privacidade, em primeiro lugar, somos nós e não a “regulação”. Na Internet é a mesma coisa. Se queremos conversas em privado temos de usar encriptação e se queremos canais seguros de comunicação temos de usar redes distribuídas em vez de serviços centralizados. O Blogger, o Facebook e o Twitter são convenientes mas tão pouco seguros como um banco de jardim. Não servem para o que for privado. Preocupa-me que reajam a esta experiência da Facebook como se fosse excepção quando é a norma em todo o lado. Preocupa-me que culpem a Facebook porque o que publicamos é da responsabilidade de cada um de nós e não das empresas ou do legislador. E preocupa-me especialmente que façam tanto alarido com a informação que voluntariamente cedem quando o problema principal é a informação que Estados e empresas recolhem sem que o possamos evitar. O que devíamos exigir era, por exemplo, uma lei proibindo os prestadores de serviços de comunicação de guardar quaisquer registos que já não fossem necessários para cobrar serviços prestados. Uma vez paga a factura, deviam ser obrigados a apagar todos os registos das nossas chamadas e do tráfego de Internet. Em vez disso, a regulação vai cada vez mais no sentido contrário, obrigando a uma acumulação de dados pessoais que está totalmente fora do nosso controlo e é muito pior do que qualquer coisa que a Facebook faça com os dados que lhe dermos.

1- NY Times, Facebook Tinkers With Users’ Emotions in News Feed Experiment, Stirring Outcry
2- Guardian, Facebook reveals news feed experiment to control emotions

Treta da semana (passada): o melhor do universo.

O Mats, aparentemente dotado de sabedoria extra-galáctica, alega que o ADN é «O melhor sistema de armazenamento de informação do universo»(1). No entanto, para suportar a alegação considera apenas a densidade de informação por grama de ADN, cerca de 700 terabytes, e compara-a com a dos discos rígidos que temos neste momento, talvez assumindo serem o segundo melhor sistema de armazenamento de informação do universo:

«uma grama de ADN pode armazenar 700 terabytes de dados. […] Para armazenar o mesmo tipo de dados em discos rígidos – o meio de armazenamento de dados mais denso actualmente – seriam precisos 233 3TB discos, totalizando mais de 151 quilos.»(2)

Para mostrar que tudo neste universo foi criado pelo menino Jesus em seis dias, o Mats afirma que «Nada feito pelos seres humanos se aproxima desta notável eficiência biológica. [...] Quem diria que o ADN pode armazenar informação de modo mais eficiente que nós?» A resposta é simples. Ninguém com dois dedos de testa diria tal disparate.

Mesmo em densidade de informação, o ADN não é assim tão bom. Um metro quadrado de uma fina película polimérica, pesando alguns grama, pode armazenar cerca de mil terabytes (3). Usando padrões de interferência de electrões numa superfície condutora é possível armazenar dezenas de bits por electrão (4), numa relação de bits por massa milhares de vezes superior à do ADN, com uma vintena de átomos por bit.

Além disso, não é só a densidade da informação que conta. O acesso à informação também é importante. No caso do ADN, talvez em breve seja possível sequenciar – “ler” – mil milhões de bases em poucos minutos e por poucas centenas de dólares (5). Isto é extraordinário, como tecnologia de sequenciação. Mas como armazenamento fica muito aquém de um disco rígido comum, que lê essa informação num segundo pelo preço de 0,000003 kilowatt-hora em electricidade.

Mas o Mats não está a falar apenas da nossa tecnologia. A mensagem importante é que «Nada feito pelos seres humanos se aproxima desta notável eficiência biológica». Nas células, o ADN é transcrito em ARN por enzimas naturais e não por máquinas de sequenciação automática. Talvez seja essa a “notável eficiência” que o Mats refere. Se for, pior ainda. A polimerase do ARN é uma enzima muito rápida, transcrevendo o ADN em ARN a uma velocidade de 50 bases por segundo(6). Não é mau, para uma proteína. Mas isto são 50 bits por segundo. Um disco rígido debita informação a uma taxa de mil milhões de bits por segundo. À velocidade «desta notável eficiência biológica» um filme de duas horas em alta definição demoraria uns mil e quinhentos anos a ver. Nem o Manoel de Oliveira aguentava.

Outro aspecto importante é a fiabilidade. A taxa de erro na leitura do ADN para ARN, em sistemas biológicos, é de um em cada dez mil bases lidas. Mais uma vez, para biologia não está nada mal. Mas isto equivale a cerca de um erro de leitura por kilobyte, mil e quatrocentos erros por disquette, setecentos mil por CD, quatro milhões por DVD e mil milhões de erros por disco rígido. Na terminologia informática, um computador com esta «notável eficiência biológica» designa-se por avariado.

Ironicamente, estes exemplos que os criacionistas apresentam em defesa da criação por intervenção divina só suportam a alternativa, de que os sistemas biológicos surgiram por processos naturais de evolução e não por design inteligente. A grande vantagem que o ADN tem em relação a um disco rígido ou um cartão de memória não está no armazenamento de dados. Enquanto um disco rígido acede a um bloco específico em milissegundos e transmite centenas de megabytes em poucos segundos, o ADN é transcrito por tentativa e erro, um pedaço aqui e outro ali, por batalhões de proteínas cegas, com cada uma “lendo” poucos bytes por segundo. A grande vantagem do ADN é que, ao contrário de circuitos electrónicos e discos rígidos, é algo que pode resultar de um processo gradual de evolução a partir de moléculas orgânicas modestas e comuns. Um cartão de memória ou um leitor de DVD não pode resultar da acumulação de características hereditárias sob selecção natural. Estas coisas têm mesmo de ser produzidas sob supervisão de algum ser inteligente. Os sistemas biológicos são muito menos eficientes para certas coisas, como armazenamento de dados, mas são muito mais robustos e autónomos. As células reproduzem-se, alimentam-se, desenvolvem-se e, em conjunto, com o passar das gerações, evoluem. É isso que os sistemas biológicos têm de extraordinário. Mas é precisamente por isso que não precisam de um criador inteligente.

1- Mats, O melhor sistema de armazenamento de informação do universo
2- Traduzido daqui:Harvard cracks DNA storage, crams 700 terabytes of data into a single gram
3- Science news, New Method Of Self-Assembling Nanoscale Elements Could Transform Data Storage Industry
< 4- Stanford News, Reading the fine print takes on a new meaning (fonte: Wikipedia).
5- Science now, DNA Sequencing, Without the Fuss
6- Stryer, Biochemistry. 5th edition, Section 28.1Transcription Is Catalyzed by RNA Polymerase

Treta da semana: A nossa TDT.

A Televisão Digital Terrestre traz vantagens sobre a transmissão analógica de sinais de TV. A transmissão digital é mais robusta, os algoritmos de compressão reduzem a largura de banda necessária para transmitir vídeo com a mesma qualidade e é mais fácil transmitir em vários formatos. Mais importante, para os espectadores, pode-se facilmente ter dezenas de canais de TV gratuitamente, sem satélites nem subscrições de serviços por cabo.

Foi o que aconteceu aqui, ao pé de Valença. Tínhamos quatro canais e agora temos uns cinquenta. Graças à TDT. À TDT espanhola, claro. Porque portugueses continua a haver apenas quatro. O que é uma aldrabice.

A ANACOM concedeu a exploração de um quinto da banda disponível à Portugal Telecom (PT). Apesar de haver outras empresas interessadas na TDT, a ANACOM decidiu que o resto era para guardar, não se fosse estragar. Excepto a parte que vendeu para serviços de rede móvel 4G. Também à PT. Entretanto, ficamos apenas os quatro canais que já tínhamos mais, eventualmente, o do Parlamento. A PT tinha ficado também com uma concessão para canais de TDT pagos mas, em 2010, pediu para revogar o contracto, alegando que o negócio já não era viável, e que lhe dessem o dinheiro de volta. A Entidade Reguladora para a Comunicação Social disse que isso era uma desculpa da treta e que não mereciam reembolso nenhum, mas a ANACOM teve pena e devolveu o dinheiro. Entretanto não houve mais concursos para essas frequências (1).

A gama de frequências é de todos, mas tem de ser gerida senão ninguém se entende. A justificação para concessionar a agentes privados um bem que é público é que, supostamente, uma empresa privada pode usar esse recurso para gerar algo cujo valor compense estar a cobrar-nos dinheiro para usufruirmos do que é nosso. Mas estas parcerias público-privadas só funcionam se não for a parte privada a decidir tudo e se o regulador regular como deve ser. Neste caso, estamos mal. A ANACOM tem favorecido a PT (2) e a PT apenas quer ficar com estes canais para vender os seus serviços de rede móvel e evitar que haja concorrência aos seus serviços de TV por cabo, que têm ganho muitos subscritores com a perda do sinal analógico (3). Entretanto, até a televisão pública, que já pagamos através da taxa audiovisual e dos impostos, tem canais transmitidos por cabo apenas a quem pagar novamente para os ver (4).

Penso que a única coisa boa na TDT em Portugal é haver tanto Portugal mesmo ao pé de Espanha. De resto, é mais um exemplo de como este país funciona.

1- Sérgio Denicoli, Os paradoxos da TDT portuguesa. Leiam também o blog do Sérgio: TV Digital
2- O que não é de admirar, com coisas como esta: Novo vogal da Anacom era membro do Conselho Consultivo da PT
3- MEO foi o grande beneficiado após a chegada da TDT e ampliou em 185,7% o total de clientes e Telecom: PT com 1,111 milhões clientes Meo no 1.º trimestre, aumento de 27%
4- Deputada utiliza argumento equivocado ao justificar ser contra à inclusão dos canais da RTP na TDT e Resposta da deputada Francisca Almeida, do PSD, a respeito do pedido para que os canais da RTP sejam disponibilizados na TDT

Head crash.

Num disco rígido, os pratos rodam a cerca de cem voltas por segundo e as cabeças de leitura têm de ficar muito próximas da superfície dos pratos, que passa a uns cem quilómetros por hora. A essa velocidade, é importante que não se toquem. Normalmente, as cabeças são mantidas no sítio pelo fluxo do ar arrastado pelos pratos. No entanto, se alguma impureza ou choque perturba a posição da cabeça, está tudo estragado. A designação head crash é sugestiva não só do que se passa no disco mas também da vontade do utilizador em dar cabeçadas se porventura descurou as cópias de segurança.

Felizmente, no meu caso, o head crash só afectou o disco. Costumo ter cuidado com os backups e tudo o que seja importante guardar copio para vários discos. Por isso, apesar do disco estar cheio de tralha (todos os discos ficam cheios de tralha em pouco tempo, independentemente da capacidade), só precisava de recuperar umas filmagens do aniversário dos miúdos, que tinha tirado da máquina pouco tempo antes do crash. Graças ao TestDisk consegui recuperar a partição e aqueles ficheiros que me interessavam. Mesmo a tempo. O contacto entre a cabeça e o prato não só danifica o prato naquela pista. Também liberta pequenos fragmentos de metal que acabam por afectar as outras cabeças, propagando os problemas. Ao fim de pouco tempo o disco ficou inutilizável.

Como comprei o disco em Abril de 2010, já está fora dos 2 anos de garantia. Seja como for, não me parece boa ideia entregar um disco rígido a desconhecidos, se tem informação pessoal. Mesmo que pareça estragado. Portanto, decidi desmontá-lo para a fotografia e sempre posso usar os pratos para assustar os pássaros da horta. O da direita está menos danificado, com o aspecto de um prato saudável. No da esquerda nota-se uma linha bem marcada devido à cabeçada que levou.



Se bem que, nesta fase, seja muito improvável que alguém se dê ao trabalho de levar os pratos do disco, limpá-los, montá-los no hardware adequado, alinhá-los e tentar recuperar os ficheiros só para ver os meus extractos bancários e fotos da família, também não custa esfregar umas vezes com os ímanes que ancoram as cabeças de leitura (mas cuidado com os dedos; estes ímanes não são como os do frigorífico). Julgo que isso baste para destruir a informação na superfície magnética do disco.

Dia anti-DRM.

Sexta-feira, dia 4, foi o dia internacional contra o DRM, sigla para Digital Rights Management e que refere a tecnologia que controla o uso de ficheiros para proteger os conteúdos de acordo com os direitos de quem os vendeu. Doublespeak no seu melhor. Por um lado porque não é preciso restrições de cópia, partilha ou leitura para proteger informação digital. Pelo contrário. A melhor forma de a proteger é fazendo cópias de segurança e distribuindo essas cópias. Por outro lado, os direitos do autor não incluem direitos de propriedade sobre o equipamento dos outros. Se copiarem este post, é justo que refiram o autor. O que não é justo é o autor deste post ditar como, quando e para que fins os leitores podem usar os seus computadores, mesmo que seja para copiar este post. Portanto, o DRM, apesar do nome e do que dizem, não tem nada que ver com protecção de conteúdos nem com direitos.

É também um conceito inconsistente. O conteúdo digital é uma representação numérica de algo como músicas, filmes, imagens ou texto e, para o cliente poder usufruir desse conteúdo, precisa de poder descodificar essa representação. Ou seja, além da mensagem codificada, é preciso dar também a chave para a descodificar para que o cliente tenha acesso à mensagem. O DRM é o exercício fútil, contraditório e criptograficamente ridículo de tentar ocultar a mensagem depois desta ser descodificada. É como tentar escrever um livro de forma a que se possa ler facilmente mas que não se consiga ler em voz alta ou descrever que letras tem.

A justificação mais comum do DRM, que é combater a pirataria, é outra treta. Qualquer sistema de DRM é fácil de contornar, coisa que os “piratas” rapidamente fazem, e o DRM acaba por ser um incentivo forte à pirataria porque a versão pirateada é melhor. Não exige contorcionismos de validação e licenciamento, funciona em vários suportes, permite fazer cópias de arquivo e o que mais se quiser. O verdadeiro propósito do DRM é maximizar o rendimento extraído àqueles clientes que, por falta de conhecimento, por fidelidade ou por uma noção enganada de honestidade decidem submeter-se aos caprichos da empresa a quem pagam pelo conteúdo. Várias vezes.

Por estas razões desagrada-me o DRM, o que contribui para não ter iTretas, não comprar DVD, preferir software livre e assim por diante. No entanto, não me considero anti-DRM. Isto porque, por muito estúpido que seja, reconheço a qualquer um o direito de disponibilizar os seus ficheiros como quiser. Se me desse na cabeça, podia distribuir este post num ficheiro encriptado e só dar a password a quem saltasse à corda com amendoins enfiados nas narinas. Seria uma parvoíce, mas teria todo o direito de o fazer. Porque só saltava quem quisesse.

O que sou contra é haver legislação para punir «a neutralização de qualquer medida eficaz de carácter tecnológico» (1). Porque o meu direito de distribuir esta informação como me der na gana não se pode sobrepor ao direito dos outros usarem o seu equipamento e partilharem a informação que têm como quiserem. Ou seja, o problema não é haver empresas que incluem medidas tecnológicas de restrição nos ficheiros que vendem. O problema é apenas haver uma lei que proíbe que se altere essa sequência de 0s e 1s para outra que seja mais conveniente.

É claro que, tecnologicamente, o DRM é algo tão ridículo que, sem a lei, rapidamente desaparecia. Mas isso seria apenas a cereja em cima do bolo.

International Day Against DRM

1- (Gedipe) LEI 50/2004, de 24 Agosto (pdf).

Portátil no forno.

Há umas semanas, felizmente só depois de terem acabado as aulas deste semestre, o meu portátil pifou. No arranque apareciam uns caracteres estranhos e linhas no ecrã, e ao fim de uns minutos bloqueava. O problema era obviamente na placa gráfica e, como neste portátil (um HLB2 da Compal*) a placa gráfica faz parte da motherboard, tinha poucas esperanças de o salvar. Mas uma pesquisa na 'net surpreendeu-me com uma solução. Os portáteis aquecem muito e as flutuações de temperatura vão causando pequenas fracturas nas soldaduras. Isto acontece geralmente no processador gráfico, que é a parte que aquece mais. E uma maneira de tentar resoldar estes circuitos é aquecer a placa no forno, a 200ºC, durante uns minutos (1).

Porque havia o risco da cura não funcionar, porque mesmo que resultasse ficaria sempre com receio do bicho morrer em tempo de aulas, e porque estamos no Natal, comprei logo um novo**. Mas hoje tentei ressuscitar o defunto. Deu um bocado de trabalho, desmontar a cangalhada toda, mas tirei quase tudo da motherboard. Os cabos de alimentação não se desencaixam, por isso embrulhei-os em folha de alumínio para os proteger do calor. Fiz o mesmo com a pilha do relógio, que parecia estar colada, o que foi asneira. Como era de esperar, pilhas a 200ºC não sobrevivem.

Depois de assar 8 minutos e arrefecer, encaixei os cabos do monitor e de alimentação, liguei, e nada. Só então me lembrei que não tinha montado o CPU. Com esse no sítio já funcionou. Apareceu o ecrã de arranque sem riscas estranhas nem gatafunhos. Depois de montar a tralha toda, fiquei com o portátil a funcionar como velho (que é o mesmo que funcionar como novo mas sem ter de instalar o software). Falta só comprar uma pilha para ter as horas certas no portátil e, à cautela, pasta térmica boa para ver se não frita outra vez tão cedo.

Três vivas para a Internet!

* Não a dos sumos. Esta.
** Clevo W150HNM. Muito porreiro, para o preço, mas como a placa gráfica é uma NVIDIA Optimus, tive de instalar o Bumblebee. Deixo aqui a dica porque perdi umas horas até descobrir por que raio não conseguia pôr o GLX a funcionar.

1- Addictive tips, Fix Your Graphics Card By Baking In Oven.

Redes sociais.

As redes sociais já existem há muito tempo. Talvez até precedam a nossa espécie, dependendo da definição. Mas o termo é recente e, em vez de referir o que parece significar – a rede de indivíduos e as suas relações sociais – refere um conjunto de meios de comunicação substancialmente diferentes daquilo que estamos habituados a usar. Infelizmente, além do equívoco no termo há também um equívoco acerca do que estas “redes sociais” têm de diferente.

Confundindo a rede social com estes serviços de comunicação, há quem defenda que os “amigos” no Facebook têm de ser mesmo amigos a sério e que o valor das “redes sociais” depende de escolher criteriosamente quem é que fica na lista que aparece ao carregar no desenho de um botão. Presumem que o Google+, Facebook, LinkedIn e afins devem reflectir as nossas relações de amizade, profissão ou família. Mas não é claro porquê. É natural que as listas de endereços de email ou números de telefone que nós guardamos correspondam às nossas relações mais próximas, pois só temos interesse em guardar essas. Mas estes serviços que se apresentam como redes sociais são fundamentalmente diferentes do telemóvel, cliente de email ou agenda onde mantemos os nossos contactos.

Há diferenças sociais e tecnológicas entre estes serviços modernos, dos blogs ao Twitter, e o que havia há vinte anos. As BBS não tinham tanta bonecada nem esperava encontrar a minha mãe no Gopher ou nos newsgroups. Mas o que faço hoje no blog ou no Facebook é fundamentalmente o mesmo que já fazia nos anos 90 em listas de discussão. Isto agora é mais prático, mais bonito e menos geek, pelo que se encontra por cá mais gente. Mas o que se passou desde o início da Internet até ás “redes sociais”, ao nível social e tecnológico, foi mais uma evolução gradual do que uma revolução.

A revolução foi comercial, mas essa, por conveniência de quem oferece estes serviços, tem passado despercebida. Até recentemente, fosse por carta, telegrama, telefone ou email, nós mantínhamos contacto com as nossas redes sociais pagando serviços de comunicação. Dos CTT aos ISP, o cliente era quem enviava e recebia as mensagens, e quem prestava esse serviço apenas levava a mensagem de um lado para o outro. Os correios não tiravam fotocópias das cartas, a companhia dos telefones não gravava as nossas conversas e, pelo menos até recentemente, o ISP não ficava com os nossos emails*. A revolução das “redes sociais” foi virar isto ao contrário.

Quando pomos algo no FriendFeed, Facebook ou Blogger, não estamos só a enviar a mensagem para as pessoas da nossa rede social. Estamos, primeiro e sobretudo, a cedê-la a estas empresas, bem como todos os direitos de a usar como bem entenderem. E nem sequer somos clientes dessas empresas. O serviço é gratuito, para nós, precisamente porque somos a mercadoria. No Facebook indicamos criteriosamente quem são os nossos amigos, informação essa que a empresa depois vende aos seus verdadeiros clientes, que fazem publicidade pondo-nos um link à frente a dizer que não sei quantos amigos nossos gostam daquilo. É muito mais eficaz do que se não soubessem quem são os nossos amigos. Estes sistemas são bons se aproveitarmos bem a borla, mas não são as nossas redes sociais. São apenas formas de exploração económica da informação pessoal que lhes quisermos dar.

Sistemas P2P, como o Diaspora (1), podem ser diferentes. Nesses, cada um guarda a sua informação e partilha-a directamente com quem quer, sem precisar de dar todos os detalhes a uma empresa primeiro. Sistemas de cliente e servidor, como o Google+, Facebook, blogs e companhia, são cómodos de usar e úteis para partilhar com toda a gente, mas é preciso ter em mente que aquilo que oferecem de privacidade, selecção de “amigos”, círculos e afins é só fogo de vista, porque tudo o que lá pusermos deixa de estar sob nosso controlo e, por isso, deixa de ser privado.

Aquilo que hoje se chama “redes sociais” não é o que parece. São empresas de publicidade que nos incentivam a partilhar dados pessoais – quem são os nossos amigos, onde moramos, o que gostamos de fazer e assim – para depois venderem essa informação a quem quer fazer publicidade dirigida. Nos meios de comunicação em que mantemos controlo sobre as mensagens e conteúdos, como os telemóveis, telefones, cartas e (algum) correio electrónico, faz sentido organizar as coisas de acordo com as nossas redes sociais, distinguindo amigos, familiares, colegas e conhecidos. Mas nestes meios de comunicação em que tudo fica propriedade de uma empresa não faz sentido fingir que temos privacidade nem detalhar à empresa todas as nossas relações sociais. Por isso, coisas como o Facebook, FriendFeed ou Google+ serão como este blog: onde ponho o que quero mostrar a quem se interessar, seja meu conhecido ou não. Se quero partilhar algo apenas com amigos ou familiares, uso o email ou (aguardando ansiosamente) o Diaspora. Não preciso do Facebook para me dizer quem são os meus amigos.

*Penso que ainda será assim em muitos casos. Uma das razões pelas quais uso a Netcabo para os emails pessoais é a premissa de que eles não têm capacidade de armazenamento para guardar os emails todos eternamente. No entanto, com o outsourcing para “as nuvens” cada vez mais frequente, suspeito que já nem assim me safe...

1- joindiaspora.com.

Como guardar bitcoins.

Conforme o Bitcoin se torna mais popular é de esperar que vão surgindo mais roubos (1), troianos (2) e outras manigâncias para separar bitcoins dos seus donos. Não por qualquer fraqueza intrínseca do sistema mas aproveitando a confusão acerca do que é esta moeda criptográfica. Um problema sério de segurança com as bitcoins vem de as imaginar como uma variante anónima do cartão de crédito em vez de uma variante electrónica de notas e moedas.

O dinheiro que usamos por via electrónica está no banco. É o banco que o guarda, que identifica as pessoas, que autoriza as transacções e que resolve a maioria dos problemas. Se me roubam o cartão, posso telefonar ao banco para o cancelar, por exemplo. Assim delegamos no banco grande parte da segurança, mesmo que nem sempre mereça essa confiança (3). Em contraste, quando pagamos com notas são as notas em si que provam a autenticidade da transacção. Não é preciso alguém autorizar, comprovar que temos dinheiro ou identificar as partes envolvidas. Basta passar a nota de um para o outro que se passa também o valor que a nota representa.

As bitcoins são como as notas. Cada pessoa tem um conjunto de chaves criptográficas para autenticar as transferências que, apesar de serem por via electrónica e ficarem registadas na rede, não precisam de intermediários que possam arbitrar conflitos. Uma vez transferido, o dinheiro não volta atrás (4). Por isso é tão importante proteger o ficheiro com as chaves criptográficas como é proteger um molho de notas. Aqui fica a minha receita.

Primeiro, instalar o Truecrypt e criar um volume encriptado com cerca de 1GB. Depois, instalar o cliente Bitcoin e copiar a pasta para o volume encriptado. Se usarem Windows e Linux, podem copiar para lá ambos. Finalmente, criar uma pasta no volume encriptado para os dados (“Data”, no meu caso) e um shortcut ou script para correr o programa. Eu tenho dois, na raiz do volume encriptado. Um para correr o Bitcoin no Windows:

Bitcoin\bitcoin.exe -datadir=..\Data

E outro para Linux:

./bin/32/bitcoin -datadir=./Data

Assim, para usar bitcoins basta montar o volume com o Truecrypt e correr o programa. A directiva “-datadir=” fá-lo guardar todos os dados nessa pasta, incluindo o ficheiro wallet.dat, com as chaves criptográficas. Quando se desmonta o volume encriptado nada disto fica acessível; mesmo que alguém copie esse ficheiro não pode fazer nada sem a password.

Infelizmente, temos de usar tantas passwords que se torna muito tentador usar a mesma em todo o lado, e escolher uma pequena, fácil de lembrar e de escrever. É um erro. Não sabemos como ficam guardadas nos sites onde as usamos. A Sony, por exemplo, guardava as passwords dos clientes em texto simples (5). E mesmo quando guardam apenas o hash da password, como fazia o MtGox (6), se a password for simples é fácil descobri-la (7). Por isso eu uso uma frase secreta para os ficheiros encriptados. Uma frase é fácil de lembrar e suficientemente longa para ser criptograficamente segura. E uso o Password Safe para gerar passwords diferentes, ao acaso, em todos os sites que precisar. Como nem tenho de as decorar, porque posso ir sempre copiá-las ao Password Safe, podem ser tão complexas quanto quiser (15 caracteres, com maiúsculas, minúsculas e algarismos). Mesmo que alguém copie o ficheiro com as passwords, está encriptado com a tal frase e não lhes serve de nada.

Isto não é 100% garantido. Os sinais dos teclados sem fios podem ser interceptados, o sistema operativo pode guardar vestígios das palavras secretas no disco* e a maioria das passwords pode ser descoberta com dois gajos grandes e um barrote. Mas ter notas em casa também não é 100% garantido. Nem sequer o dinheiro no banco está garantido. Por isso parece-me que o dinheiro criptográfico ainda pode ser o mais seguro, desde que se tenha algum cuidado. O maior risco é legal. A EFF deixou de aceitar donativos em Bitcoins porque considera os riscos legais demasiado grandes (8) e, mais cedo ou mais tarde, é natural que alguém vá tentar usar a força da lei para acabar com isto. A questão é como vão proibir as pessoas de dar valor a um sistema monetário arbitrário sem deixar de dar valor aos outros, igualmente arbitrários.

Da maneira como andam as finanças internacionais, parece-me que um sistema monetário independente de bancos e governos é a nossa única esperança. Suspeito que, se não pusermos isto a funcionar, o próximo dinheiro que vamos usar será caricas de Nuka-Cola.

* Mas o Truecrypt permite encriptar o disco todo, resolvendo este problema.

1- TNW, Close to US$500k stolen in first major Bitcoin theft
2- Venture Beat, Bitcoin-stealing trojan spotted in the wild
3- Um exemplo, entre os muitos milhões em fraudes bancárias todos os anos: Krebs on Security, Court: Passwords + Secret Questions = ‘Reasonable’ eBanking Security, via Schneier on Security.
4- Mas há formas de criar contractos de transferência sem precisar de intermediários nem de confiar em ninguém: Contracts.
5- Ars Technica, Sony hacked yet again, plaintext passwords, e-mails, DOB posted.
6- Venture Beat, Popular Bitcoin exchange Mt. Gox hacked, prices drop to pennies
7- Vijay's Tech Encounters, GPU Password Cracking – Bruteforceing a Windows Password Using a Graphic Card.
8- Electronic Frontier Foundation, EFF and Bitcoin, via o Friendfeed do José Furtado

Os bits e os bancos.

A propósito do Bitcoin e do dinheiro criptográfico, o João escreveu que «A moeda de cada estado ou união de estados tem um valor relacionado com o que esse estado consegue produzir. [...] Nos sabemos a quantidade de dinheiro que ha em circulação e que essa quantidade deve dar para pagar o tipo de bens e serviços que se prestam e trocam.»(1) Penso que muita gente assume que o dinheiro tem um valor real porque é um Estado que o imprime, e que se sabe exactamente quanto dinheiro há em circulação. No caso das bitcoins, sabe-se quantas existem porque essa informação é publicada na rede(2). Mas, no caso do dinheiro que costumamos usar, estas premissas são falsas. Para perceber porquê basta ver como se faz o dinheiro. Ou seja, como funcionam os bancos.

A Ana deposita mil euros no BPX, que fica com um passivo de 1.000€, que deve à Ana, e um activo de 1.000€, dinheiro esse que pode emprestar. Não todo, porque se exige dos bancos que guardem um mínimo em reserva. Cá em Portugal é de cerca de 8% mas arredondo para 10% para simplificar as contas. Assim, dos €1.000 da Ana o BPX pode emprestar €900 ao Bruno, guardando €100 de reserva. O activo continua a ser de €1.000 porque o dinheiro que o Bruno deve ao BPX conta como dinheiro do BPX. O Bruno compra coisas à Carla, que deposita €900 no BPY. Este banco empresta €810 ao David, guardando €90 de reserva, e o David paga algo à Eva, que deposita o dinheiro. E assim por diante. Desta forma, os bancos transformam os €1.000 da Ana em quase €10.000 de dinheiro depositado mais €9.000 em dívidas a juros. Os €1.000 iniciais podem ter sido impressos em nome de algum Estado, mas todo o resto foi inventado pelos bancos.

E não ficam por aqui. Agora o Zacarias quer pedir dinheiro ao BPX, mas este banco já emprestou tudo o que podia. Para poder emprestar mais, o BPX pede dinheiro ao banco central, que empresta aos bancos a juros muito mais baixos do que estes cobram aos Zacarias. Mas o banco central exige garantias. Por isso o BPX contrata uma agência de rating que diz ao banco central que o empréstimo ao Bruno tem uma data de As e é seguro. Desta forma, dando como garantia o dinheiro que já tinha emprestado, o BPX obtém mais dinheiro para emprestar a juros. O banco central, sendo um banco especial, pode emprestar o dinheiro que for preciso desde que lhe dêem estas “garantias”. Isto parece surreal, mas é mesmo assim. E, volta e meia, dá asneira.

Se o dinheiro fosse um conjunto de papeis impressos pelo Estado podia desvalorizar mas não podia desaparecer. Algures teria de ir parar. Só que a maior parte do dinheiro em circulação é um conjunto de dívidas e apostas, com “garantias” que também são dívidas e apostas, num entrelaçado fictício seguro apenas na expectativa de um valor futuro. Assim que se admite que certas dívidas não podem ser pagas, esse dinheiro desaparece. Tem acontecido regularmente. Formam-se bolhas especulativas de promessas e apostas que rebentam e levam com elas enormes quantias de dinheiro que simplesmente deixa de existir. Neste momento, o Banco Central Europeu tem 740 mil milhões de euros em garantias da treta para o dinheiro que emprestou aos bancos comerciais na União Europeia. O tipo de coisas que serve de garantia inclui, por exemplo, títulos de dívida pública portuguesa de 1943 que vencem no dia 31 de Dezembro de 9999 (3). Esses 740 mil milhões de euros só têm valor enquanto todos estiverem convencidos de que essas promessas vão ser cumpridas. Daí o cagaço da reestruturação.

O João acha que uma moeda baseada em criptografia é má ideia porque não é controlada pelo Estado e é pouco transparente. É provável que muita gente pense o mesmo. Mas esta opinião vem de dois mal-entendidos. Um, é não perceber que é precisamente esse o problema que assola o sistema financeiro que temos. O dinheiro é quase todo criado por entidades privadas – os bancos – com entidades privadas a avaliar os riscos – as agências de rating – e regulado por bancos centrais sem qualquer responsabilidade para com os eleitores. Deixamos todo o dinheiro a cargo de quem só tem a lucrar com decisões que nos lixam. É como comer salsichas: um exercício de confiança cega.

O outro mal-entendido é não perceber o que é um sistema monetário baseado em criptografia. Por exemplo, no caso do Bitcoin, as moedas que eu tenho estão na rede toda, a público, em vez de ficarem guardadas num banco. Toda a gente sabe que aqueles endereços Bitcoin têm aquelas moedas. Mas não sabem quais são os meu endereços, por isso a posse desse dinheiro é pública, inteiramente transparente, mas também anónima. E como só eu é que tenho a chave criptográfica que permite assinar uma ordem de transferência desse endereço para outro qualquer, só eu é que posso usar essas bitcoins. Não mas podem tirar. Não pode acontecer o banco falir e eu ficar sem o dinheiro que lá tinha.

Os detalhes podem variar mas, basicamente, a criptografia permite criar marcadores virtuais praticamente impossíveis de falsificar e um sistema seguro, mas anónimo, de validar transferências. Sem ser preciso confiar em pessoas ou instituições para guardar o dinheiro, nem para o gerir, nem para o gerar. As regras, as quantias, as operações, tudo isso pode ser público e transparente sem violar a privacidade de ninguém e sem permitir aldrabices. A criptografia rege-se por regras matemáticas e limitações computacionais, que são muito mais fiáveis do que os escrúpulos dos banqueiros ou a justiça de um sistema jurídico que só castiga quem for pobre.

1- Comentários em Posts por encomenda.
2- Para um valor actualizado, ver Bitcoin charts
3- Não é gralha. É mesmo daqui a 8,000 anos, segundo o Spiegel online, Junk Bonds Weigh Heavy on ECB

Como é que sabem?

O mês passado foi lançada uma aplicação para o iPhone para facilitar as confissões aos católicos. Tem menus fáceis de navegar, cobre os pecados mais frequentes e estipula as penitências apropriadas. Foi elaborada em colaboração como Padre Thomas Weinandy, do Secretariado para a Doutrina e Práticas Pastorais da Conferência de Bispos Católicos dos EUA, e teve o Imprimatur do Bispo Kevin Rhodes, da diocese de Fort Wayne. Segundo o National Catholic Register, já fazia falta uma aplicação séria para confissões electrónicas, contrapondo a «ofensiva aplicação Penance que saiu em Dezembro e que faz troça da Igreja»(1). O abençoado programa «providencia um exame de consciência personalizado, protegido por uma palavra passe, e um guia passo-a-passo para o Sacramento».

Infelizmente, e apesar de dizerem abraçar os novos meios de comunicação, o Vaticano torceu o nariz. Segundo o porta-voz Federico Lombardi, «é essencial perceber que os ritos de penitência exigem um diálogo pessoal entre penitentes e confessor. Este não pode ser substituído por um programa de computador.»(2)

A dúvida que isto me suscita é como conseguiram determinar que o padre é um confessor mais eficaz que o computador. Presumivelmente, quem absolve os pecados é Deus, e não o padre. E, segundo dizem, Deus sabe o que vai no coração de cada pessoa. Por isso, se alguém declara os seus pecados, os expõe à sua consciência e se arrepende deles com sinceridade, Deus devia ser capaz de perdoar mesmo pelo iPhone. Jesus, por exemplo, nunca rezava com padres, e contam que veio cá ensinar as pessoas a falar com Deus. Também não me parece que a Bíblia seja clara acerca do papel do iPhone nas confissões, e duvido ter havido tempo para o Vaticano executar um estudo de eficácia confessional, devidamente controlado e com uma amostra representativa de pecadores, para apurar as vantagens e desvantagens do iPhone.

Mais uma vez, parece que tudo converge no factor comum a estas tretas. Não é a fé, nem a religião, nem tão pouco a “espiritualidade”, o que quer que isso seja. É algo muito mais terra-a-terra. É o tacho.

1- NCRegister, First iPhone App to Receive an Imprimatur
2- Daily Mail, You can't confess to your iPhone: Vatican bans £1.19 app for Catholics. Via Boing Boing