sábado, fevereiro 03, 2007

Algoritmos e Consciência.

Nisto da mente e corpo há uma longa tradição de dualismo, a ideia de duas substâncias, uma física e a outra pensante. É atraente porque torna a mente algo independente do corpo. A sua encarnação mais recente é ver a mente como software a correr no hardware do corpo, a consciência como um algoritmo.

O termo «algoritmo» vem do nome do matemático árabe Al-Khowarizmi, que no século IX publicou um tratado sobre a resolução de equações. Aquilo que aprendemos na escola: mudar de sinal quando passa para o outro lado, o que multiplica passa a dividir, até isolar a incógnita de um lado da igualdade. Podemos estender o conceito a outras coisas, por exemplo ao algoritmo para bombear sangue, ou mesmo o algoritmo da consciência. Mas o algoritmo não é o processo; é a descrição do processo. Vejamos a diferença.

O algoritmo de bombear sangue é qualquer coisa como relaxar o átrio e o ventrículo, contrair o átrio, fechar a válvula tricúspida, e assim por diante. Mas é o coração que bombeia o sangue, não o algoritmo. Para curar um doente cardíaco precisamos de uma máquina capaz de fazer o que o algoritmo descreve, seja um coração transplantado ou um coração mecânico. Um algoritmo novo não cura ninguém.

Um dia vamos compreender o algoritmo da consciência como compreendemos o de bombear sangue, e poderemos construir máquinas conscientes como hoje fazemos corações mecânicos. Mas o que bombeia ou pensa são as máquinas; o algoritmo apenas descreve o processo. Não faz sentido separar o processo de consciência da máquina que o executa, por muito atraente que seja a ideia.

É atraente imaginar que eu sou um programa a correr no meu cérebro. Quando o cérebro estiver degradado eu posso transferir o programa para outro cérebro e continuar a existir aí. É a versão moderna da alma imortal. E é o mesmo disparate numa embalagem mais atraente. Quando substituo a bomba do poço por uma nova é disparate dizer que transferi o “bombear” de uma máquina para a outra. O bombear, tal como a consciência, é a acção da máquina. Não é uma coisa, nem faz sentido dizer que se transfere seja para onde for.

Dois clones perfeitos do António, que pensem da mesma maneira, com as mesmas memórias e ambos convencidíssimos que são o António, não são o António a viver em dois corpos. São dois Antónios. Um cérebro que funcione mal e às vezes pense que é a Ana, outras a Cassilda, e outras o Gervásio, não são três pessoas a habitar o mesmo corpo. É esquizofrénico.

A consciência é uma acção. O ser consciente é a máquina que executa a acção, seja uma máquina biológica ou outra qualquer. Era bom se o dualismo fosse verdade, mas não é. Nem sequer é falso. Simplesmente não faz sentido.

18 comentários:

  1. bom, se o artigo é destinado a mim, devo dizer que já disse várias vezes que não considero a «pessoa» um algoritmo, mas sim o processo de correr o algoritmo.

    «Mas o que bombeia ou pensa são as máquinas; o algoritmo apenas descreve o processo. Não faz sentido separar o processo de consciência da máquina que o executa, por muito atraente que seja a ideia.»

    Isto é exactamente como dizer que o Software não existe, na verdade aquilo que existe são computadores a ler códigos. Apenas existe Hardware.

    Mas isso não faz muito sentido. Na verdade, se eu escrevi um programa e o executo no meu computador:

    a) O programa existe

    b) O processo de executar o programa existe

    Claro que eu podia dizer que não, que aquilo que existe é um processsador que recebe 0s e 1s e interage com a RAM e o disco rígido para enviar 0s e 1s para o ecrã, disco, etc...
    Mas isso esquece que este programa poderia estar em qualquer outro computador, em boa verdade este processo.


    O problema com as analogias que ridicularizas é que elas levam à conclusão que não existem processos a correr nos computadores; não se pode falar do algoritmo sem referir a plataforma em que se quer que ele corra; sempre que se fala num processo, esse processo não pode ser separado do computador específico em que corre. Lidando como lidas com a programação, sabes que isso é tudo um disparate.

    As analogias que escolheste parecem absurdas apenas porque escolheste processos tão simples que parece não existir qualquer ganho em separá-lo da implementação. Nesses casos até pode parecer que não existe o processo em si. É mesmo assim a nossa linguagem: não damos essa categoria (existência) aos processos simples.


    Mas «pessoa» está longe de ser um processo simples...


    (continua)

    ResponderEliminar
  2. Sobre as pessoas com múltipla personalidade, SUPONHO que nas suas redes neuronais está a correr um único processo que se manifesta dessa forma bizarra.

    Tens razões para considerar que isto não é assim? Que existem vários processos diferentes que vão tomando conta do corpo? Nesse caso, sim, eu concluiria que existirá mais do que uma pessoa ali. Isso ia querer dizer que elas nem sequer partilhavam recordações ou qualquer memória. Se uma aprendia a falar, a outra ainda não teria aprendido, etc... Suponho que não é isto que se sucede...


    Mas já agora, eu volto a perguntar: se para ti "pessoa" não é o processo, mas sim o suporte físico que o permite, volto ao problema do "José" e do "António".
    Cada uma destas é uma inteligência artificial, que eu instalei no meu computador, e estão as duas a correr. Ambos têm sentimentos, consciência, etc...
    Se eu decidir abortar o processo "José", efectivamente destruíndo esse processo, então pela tua perspectiva não terei morto ninguém.

    E se o José estivesse sozinho nesse computador e fizesse o mesmo? Teria morto alguém.

    E se eu instalei o José e o António, mas não comecei a correr esses programas, e decidir destruír o computador, metei alguém?

    E se eles já correram, terminaram naturalmente, e eu decidir destruír o computador? Mato alguém?

    (continua)

    ResponderEliminar
  3. «É atraente imaginar que eu sou um programa a correr no meu cérebro. Quando o cérebro estiver degradado eu posso transferir o programa para outro cérebro e continuar a existir aí. É a versão moderna da alma imortal.»

    Não, não é atraente.
    Nem tu nem ninguém aceita as evidências de que assim o é (e caramba, tu acreditas que pode haver consciência artificial, com sentimentos, criatividade, etc... - para ti ainda deveria ser mais evidente), exactamente porque não é atraente.
    «Eu» sou um mero programa?
    As pessoas preferem acreditar que não, pela mesma razão porque queriam estar no centro do Universo.
    Queremos ser especiais.

    «E é o mesmo disparate numa embalagem mais atraente.»

    Ui! Muito mais!
    Deve ser por isto que os padres já se deixaram da história antiga e começaram com esta conversa, para voltar a encher as igrejas ;)

    «Quando substituo a bomba do poço por uma nova é disparate dizer que transferi o “bombear” de uma máquina para a outra. O bombear, tal como a consciência, é a acção da máquina.»

    O bombear é um processo muito simples. Por isso ninguém lhe confere a categoria de "existente".

    Mas o Warcraft II não é um CD. Quando tu compras o Warcraft II, mais do que um CD, tu compras um algoritmo.
    A esse algoritmo e a esse processo já damos a categoria de existentes. O "Warcraft II" existe, e o processo no teu computador de correres esse jogo também existe.



    «Não é uma coisa, nem faz sentido dizer que se transfere seja para onde for.»

    Mas se tu pensares em programas de computador, já pode fazer sentido dizer que transferiste um processo.
    Porquê?

    ------

    Por fim: eu não sou grande fã da imortalidade, mas sim, creio que o exemplo que deste é verdade.
    Repara, o importante no coração é que bombeie.
    Por isso, se passar a ser uma máquina artificial a bombear, tu continuarás vivo, mesmo que o teu coração esteja a falhar.

    Por outro lado, o importante no cérebro é que além de uma série de tarefas de regulação do corpo (controlo dos batimentos cardíacos, das hormonas, etc...) ele corre o algoritmo que dá origem à tua pessoa.
    Assim sendo, se tu colocares um "cérebro artificial" composto por uma rede nuronal EXACTAMENTE no mesmo estado, e substituíres pelo teu cérebro antigo, creio que continuas vivo, pois o processo relativo à tua pessoa continua a correr.

    Mas o engraçado nisto é tu discordares.
    Repara que tu podes substituír um fígado e continuas a ser tu. Podes substituír um coração, e podes continuar vivo.
    Mas não acreditas que isso se passe em relação ao cérebro.

    Portanto, para ti o cérebro é essencial. E isso acontece porque tu sabes que é lá que corre o processo relativo à tua pessoa. Mesmo que evites reconhecer, porque queres, como toda a gente, acreditar que és mais do que um processo.

    A minha ideia não é atraente. Mas continuo com todas as razões para crer mesmo que assim é.

    ResponderEliminar
  4. «Dois clones perfeitos do António, que pensem da mesma maneira, com as mesmas memórias e ambos convencidíssimos que são o António, não são o António a viver em dois corpos. São dois Antónios.»

    Pois, são dois processos iguais a correr em suportes iguais.


    «Um cérebro que funcione mal e às vezes pense que é a Ana, outras a Cassilda, e outras o Gervásio, não são três pessoas a habitar o mesmo corpo. É esquizofrénico.»

    Pois, creio que é um único processo com uma manifestação bizarra.
    Se a Cassilda aprender a falar, o Gervázio também o saberá.
    Bem sei que num computador podemos ter processos diferentes a partilhar o acesso ao disco (por exemplo), mas numa rede neuronal, a memória está embuída no processamento.
    Assim sendo, o facto do Gervázio saber falar é um bom indício de que o processo que corre no cérebro deste indivíduo com múltipla personalidade é o mesmo.

    ResponderEliminar
  5. «A consciência é uma acção. O ser consciente é a máquina que executa a acção, seja uma máquina biológica ou outra qualquer.»

    É uma acção, sim.
    Um sub-processo, chamado pelo processo «pessoa». E existe, claro.

    Se tivesses um computador a «correr» 8 pessoas, terias apenas um «ser consciente»?

    Se sim, então o «ser consciente» não é uma categoria muito relevante, visto que poderias matar pessoas sem destruir o ser.

    ResponderEliminar
  6. João,

    Estás a usar os termos "software" e "programa" de uma forma ambigua. Se te referes ao suporte material -- o CD, HDD, pendisk, etc -- com um certo padrão que desencadeia as acções adequadas, então existe.

    Se te referes ao algoritmo, ou ao source code, ou mesmo à sequência de bytes que corresponde ao executável, desligado do suporte material, então existe apenas no sentido platónico no qual existe a raiz quadrada ou a derivada.

    Enquanto não resolveres esta ambiguidade, não consigo compreender o que propões. Se por programa queres dizer o algoritmo em abstracto, então não, uma pessoa não pode ser um programa pela mesma razão que os numeros inteiros não podem ter consciência.

    Se um programa é algo com suporte físico, uma actividade específica da matéria, então claro que somos programas. Que outra coisa poderiamos ser? Mas a actividade não é uma coisas que se ponha "a correr" num lado e depois se "leve" para outro. Não podes tirar o movimento das minhas mãos e levá-lo para as tuas, nem os pensamentos do meu cérebro e levá-los para o teu. Isso não faz sentido.

    ResponderEliminar
  7. Ludwig:

    A analogia com o programa é mesmo muito boa.

    Tu tens um determinado programa, e ele manifesta-se com um determinado suporte físico. Obviamente que sem suporte físico não podes "usar" um programa.

    Mas é óbvio que o Minesweeper é mais do que aqueles polos magnéticos no teu disco. Se o teu computador desfragmentar o disco, o Minesweeper não é afectado. Estava lá e continua lá (mesmo que numa localização diferente do disco).

    Se tu estiveres a correr um jogo de minesweeper, tu sabes que existe um suporte físico por trás, mas quando falas do teu jogo não é a esse suporte que te referes.


    No caso das memórias isto ainda é mais gritante: o Diablo permite criar "personagens" que vão ganhando habilidades e poderes. Nunca joguei pela internet, mas creio que se pode ter uma conta num determinado servidor, e aceder através de qualquer computador.
    Se fores jogando Diablo com a mesma personagem através de computadores diferentes, o jogo é o mesmo; mesmo que o suporte físico varie.

    Podes dizer que o jogo "Diablo" não existe a não ser no sentido platónico. Mas qualquer pessoa que jogue dá um sentido bem concreto a essa existência. O seu jogo "existe".


    A minha namorada tem uma opinião diferente da tua e da minha acerca de "pessoa" Estuda antropologia e após ter estudado esses temas a fundo parece ter concluído que pessoa é inerentemente indefinível. O "eu" é uma ilusão: não existe.

    Não existe, diz ela, porque ao fim de uns tantos anos de vida já praticamente não tens as células com que nasceste (pelo que o suporte físico é diferente).
    Não existe, diz ela, porque uma pessoa pode a certa altura acreditar que é outro (o Napoleão, por exemplo). Enfim, deu-me 1001 razões.

    Nisto tudo eu acho engraçada a forma como as vossas objecções à minha definição (e não é só minha, que eu não sou assim tão esperto - é aquela que vem em dois ou três livros que li sobre AI) acabam por se responder umas às outras.
    Talvez seja porque "pessoa" existe num sentido platónico que a Ana me diz que não existe.
    Mas platónico, em última análise, que seja,
    é tão concreto como o Minesweeper que podes jogar neste preciso momento. É uma "ilusão" como dizem alguns antropólogos? Eu não creio.
    É algo que pode acontecer em diferentes suportes físicos (e, nesse sentido, os ultrapassa)? Creio que é óbvio.

    ResponderEliminar
  8. «Creio que é óbvio.»

    Aqui fui um tanto radical.


    Uma resposta mais sensata seria: «creio que sim»,

    eh!eh!

    ResponderEliminar
  9. Vasco,

    A Ana tem razão.

    Se "minesweeper" se refere a um arranjo de partículas no meu PC, então existe. Mas ao desfragmentar o disco deixa de existir esse arranjo e passa a haver outro.

    Se "minesweeper" se refere a todos os arranjos que produzam certos efeitos no ecrã em resposta a certos inputs que caiam numa certa categoria, então "minesweeper" é um conceito tão abstracto como numero primo.

    A categoria "pessoa" é um conceito abstracto. Classificar o João Vasco desde a concepção até à morte como sendo um organismo é uma forma de raciocínio abstracto. Nesse sentido, "pessoa" não existe realmente. É meramente conceptual.

    O que existem são pessoas, ou seja seres físicos que são exemplos materiais desse conceito abstracto de "pessoa".

    A tua posição (e essa doutrina de AI) é uma confusão entre a categoria conceptual e os elementos físicos assim categorizados.

    ResponderEliminar
  10. Repara Ludwig, que tu não concordas com a Ana.

    Porque tu acreditas que uma pessoa "existe". Ela não.

    Eu concordo contigo. Uma pessoa existe.

    Aí discordo dela.



    Mas ela diz que uma pessoa não é algo material. Aí concordo com ela.

    Aí discordo de ti.

    ----------


    Vocês apenas estão de acordo em considerar inexistente ou ilusório algo que é independente do suporte material.

    Se eu pusesse o "António" a correr no meu computador, ele existiria. Existiria como a tua janela cheia de minas quando jogas minesweeper. Ela é a "mesma" quer o processador esteja a correr a partir de um determinado endereço da RAM, quer corra a partir de outro.
    Imagina que o minesweeper estava programado de tal forma que fosse possível ele a certa altura ir buscar os dados a endereços diferentes sem que o utilizador sequer notasse. Dirias que o Minesweper era "diferente"? Ou isso seria totalmente irrelevante?


    Mas existe alguma coerência na perspectiva dela que falta à tua.
    É que para quem rejeita categorias que apenas tenham um "significado platónico", falares em "ser" é capaz de ser muito duvidoso quando te referes a um organismo biológico como o nosso.
    É que na verdade tens uma série de moléculas que se agrupam em seres(?) chamados células. E estes seres vão morrendo, vivendo e regenerando, e perfazendo um sistema de cooperação, uma colónia onde cada uma tem o seu papel. O pior é que a colónia é apenas uma categoria abstracta, como uma cidade ou uma aldeia, com um significado meramente "platónico". Em termos materiais, se não te restar nenhuma das células com que nasceste, a "tua" existência não acontece num sentido meramente "platónico"? Pode dizer-se que o teu "ser" existe num sentido além do "platónico" que pareces menorizar?

    Não creio.


    Portanto a minha divergência convosco é esta: a existência "real" de "algo" não se tem de referir apenas a coisas materiais. A gravidade "existe", e não é uma partícula com determinada função de onda (gravitões à parte :p).

    E o Warcraft II também existe.

    E AQUELE jogo de Diablo com o Necromancer nível 30 também existe.

    O processo de limpeza dos Virus no meu computador existe.

    E pessoa, no mesmo sentido, existe.

    ResponderEliminar
  11. programas, algoritmos, softwares, ou hardwares postos de parte, a questão resume-se a algo muito mais simples: nada destas coisas existem num embrião de 10 semanas...

    ResponderEliminar
  12. Ricardo,

    O hardware existe no feto de 10 semanas. O software, em rigor, não existe em nenhum de nós (é tudo hardware -- a programação é feita mudando os "fios").

    ResponderEliminar
  13. sorry, nem o hardware (apenas o potencial para que um dia este venha a haver). a rede neuronal (os fios de que falas) não está lá...

    e concordo que software per se não existe em nenhum de nós, a programção está precisamente feita pela organização da rede neuronal---a tal que não existe às 10 semanas ;-)

    ResponderEliminar
  14. Ricardo,

    A palavra «potencial» é demasiado abrangente. Se me atiro da janela tenho o potencial de me estatelar lá em baixo. Se dás um tiro na cabeça estás potencialmente morto.

    Em rigor, sempre que decidimos escolhemos entre potenciais. O que não é potencial já não é passível de ser decidido.

    O que importa é distinguir os potenciais que são pouco prováveis dos que são quase certos. E o feto é quase certo que seja como nós, se ninguém o matar.

    ResponderEliminar
  15. «a programção está precisamente feita pela organização da rede neuronal---a tal que não existe às 10 semanas ;-)»

    A programação é feita numa rede de neurónios mielinados, para que os impulsos sejam sincronizados. Sem mielina a isolar os axónios, o cérebro dos vertebrados não funciona. Nos humanos a mielina é produzida durante as semanas a seguir ao nascimento, e só depois é que o cérebro começa a aprender a ser como o meu e o teu. Nesse caso, pelo teu critério, um recém nascido também não é pessoa, e não será durante uns meses pelo menos.

    Ou então podemos dizer que a programação é feita pela diferenciação, organização, e maturação de células humanas no ambiente correcto. Nesse caso o embrião já é pessoa, pois nele já começou este processo de programação.

    A decisão de onde começa a programação do hardware é arbitrária. O processo é contínuo, e sempre uma interacção de factores intrínsecos e extrínsecos.

    É também irrelevante, visto que a decisão de o matar às 10 semanas não afecta apenas essa semana mas todas as semanas subsequentes.

    ResponderEliminar
  16. Caro,

    Gostaria de fazer a distinção, para sua informação, entre transtorno dissociativo de identidade ou múltiplas personalidades, de esquizofrenia.

    Aconselho-o a informar-se antes de utilizar levemente termos e\ou frases como "É um esquizofrénico!". Tal como não chamamos a um paciente com cancro "É um canceroso!" também apelo a sua sensibilidade e capacidade de pensar sobre os temas que aborda.. os expanda noutras áreas para além das que relata no seu blog para impedir de novo um comentário infeliz que só perpetua o estigma em que estas pessoas vivem e mostra a sua infortuna ignorância neste assunto.

    Obrigado.

    ResponderEliminar

Se quiser filtrar algum ou alguns comentadores consulte este post.