Sob a capa da ficção encontramos concepções da subjectividade que reflectem — ou antecipam — um certo espírito do tempo. Antes de o «cyborg» se ter tornado um conceito crítico, e antes ainda de o cyberpunk ter explorado possíveis formas de reconfiguração do sujeito através da sua ligação às máquinas, já alguma ficção científica havia preparado esse terreno. Neste artigo, analisam-se alguns desses contos que, nos anos 50 e 60, especulavam sobre o que acontece ao indivíduo quando humano e máquina convergem, aí se destacando três ingredientes para essa reflexão: a memória, o embodiment e o reconhecimento.
in Jorge Martins Rosa (org.), Cibercultura e Ficção, Lisboa, Documenta, 2012, pp. 315-330.
in Jorge Martins Rosa (org.), Cibercultura e Ficção, Lisboa, Documenta, 2012, pp. 315-330*.
«I think that I shall never see
A calculator made like me.
A me that likes Martinis dry
And on the rocks, a little rye.
A me that looks at girls and such,
But mostly girls, and very much.
A me that wears an overcoat
And likes a risky anecdote.
A me that taps a foot and grins
Whenever Dixieland begins.
They make computers for a fee,
But only moms can make a me.»
Hilbert Schenck, Jr., «Me»1
«Ich will eine Maschine sein. Arme zu greifen Beine zu gehen kein Schmerz kein Gedanke.»
Heiner Müller, Die Hamletmaschine2
0.
Num livro de 1994 que o tempo tornou quase ignorado no universo académico, The Crisis of the Self in the Age of Information (Barglow, 1994), Raymond Barglow apresentava uma visão psicossocial da subjetividade contemporânea, ou melhor, da imagem que fazemos da nossa subjetividade. O termo «pós-humano» não é de todo utilizado (pelo menos no índice remissivo); «cyborg» surge uma única vez e sem qualquer referência a Donna Haraway, que entretanto já adquirira notoriedade noutros círculos que não os da psicologia clínica ou da psicossociologia. Há, contudo, e para além do suporte empírico em casos clínicos, uma série de intuições particularmente interessantes acerca do modo como a autoconstrução da identidade depende das metáforas que o ambiente social (em especial o ambiente sociotécnico) coloca ao nosso dispor. A mais óbvia é talvez a da quase milenar equiparação da mente – mesmo que não forçosamente da «alma» – a uma máquina, e em tempos de informação e de informática tornou-se quase inevitável a equivalência entre o computador como «máquina inteligente» e a inteligência humana como «processamento computacional». Menos imediatos são os corolários desta quase-equação, como sejam o alargamento da mesma à totalidade do sujeito (não só a mente é uma máquina; todo o indivíduo o é), a ideia de que a identidade é algo a «dominar» [mastery] e, se há algo a dominar, então está pressuposta alguma forma de cisão interna do sujeito, entre a parte que exerce esse domínio (um novo avatar da «alma» como reduto «desincarnado» [disembodied], mas que também pode ser tomado como uma ROM, se pensarmos na terminologia informática) e a que dele carece (a parte programável, a RAM, o que de resto permite ainda mais metáforas daí decorrentes, como a de saúde mental como o «programa certo», ou qualquer forma de desequilíbrio como um bug). E, como é natural, onde há equivalência há a possibilidade de um intercâmbio de componentes: a máquina, em parte ou no todo, no lugar do sujeito.
Apesar – reiteramos – da distração do autor relativamente a um conceito hoje incontornável como é o de «cyborg», que teria permitido de modo produtivo assumir, e não tanto questionar, essa afinidade entre ser humano e máquina, e portanto explorar também as implicações de uma conexão mútua, a verdade é que elas atravessam o texto, inclusive em ilustrações gráficas como a que é intitulada «The Family that Information-Processes Together», da autoria do próprio Barglow e de Jos Sances (Barglow, 1994, p. 114).
Mas nem por isso estas associações conceptuais eram novidade. Alguma ficção que já na altura contava com décadas de existência apresenta-nos um imaginário equiparável, mesmo que ainda em embrião, e aí podemos descobrir algo mais sobre a sua génese.
1.
Caso exemplar, mesmo que não possa ser tomado como representante do imaginário mais comum à época, é o conto «Compassion Circuit», do britânico John Wyndham, publicado originalmente na edição de Dezembro de 1954 da Fantastic Universe. Nesse futuro (próximo, ao que tudo leva a crer) e apesar de o autor não ter sido capaz de imaginar uma superação dos atuais estereótipos de género (pois como veremos a personagem principal é ainda uma representante dos nossos «velhos tempos» em que certas tarefas são consideradas predominantemente femininas3), os robots estão vulgarizados, assistindo os humanos em diversas funções monótonas, das tarefas domésticas à condução de automóveis.
Janet, a protagonista do conto, recusara-se até então a abdicar do domínio do seu espaço:
«“It was simply an uneasiness about them […].
She herself attributed the feeling largely to the conservatism of her own home which had used no house-robots. […] It irritated her to know that her husband thought she was afraid of them in a childish way. That, she had explained to George a number of times, was not so, and was not the point, either: what she did dislike was the idea of one intruding upon her personal, domestic life, which was what a house-robot was bound to do.» (Wyndham, 1956, p. 74)
O estado de esgotamento físico irá contudo obrigá-la a repensar a sua obstinação. Sabemo-lo primeiro através de uma conversa na qual ela não participa, entre o médico e o marido, e é também por essa via indireta que descobrimos que um «primeiro contacto»4 com uma robot-enfermeira a fez, mais do que mudar de ideias, ter um momento de revelação (cf. idem, p. 74). Devemos aliás ler esse conto como uma sequência de revelações progressivas, sendo as mais importantes as que se seguem à activação do robot5:
«For one thing, you couldn’t go on thinking of it as “it” any more; whether you liked it or not your mind though of it as “her.” As “her” it would have to have a name; and with a name it would become still more of a person.» (idem, p. 77)
E depois dessa sentida necessidade de dar-lhe um nome – Hester –, a descoberta do «circuito de compaixão» que serve de título à história, a evocar (mas indo um pouco mais longe) as famosas Leis da Robótica sugeridas por Isaac Asimov:
«“Certainly”, Hester told her. “We are stronger. […] Human beings are so clumsy and fragile and so often unwell because something is not working properly. […] I feel very sorry that you must have these things and be so uncertain and fragile. It disturbs my compassion circuit.» (idem, p. 79, ênfase nossa)
Abreviemos os acontecimentos da narrativa. Ainda que pouco convencida de que o «circuito de compaixão» é suficiente para a empatia (ou tão-só o seu simulacro) dos robots pelos humanos – «“Oh, no!” Janet protested. “It can’t be just that. You’ve a heart somewhere, Hester. You must have.”» (idem, p. 80) –, Janet habitua-se aos cuidados de Hester, à medida que o seu estado de saúde se deteriora e tem de novo de ser internada.
Nas cenas finais, Janet está de volta a casa, ainda acamada, e o marido – que dela se tinha desencontrado pensando que ainda estaria no hospital, finalmente apta a receber visitas – descobre, chocado, que as suas mãos estão agora «dreadfully cold» (idem, p. 83) e ela se tornara num robot, ou, para usar o termo contemporâneo, um cyborg. Ao encontrá-lo letalmente ferido depois de cair das escadas, de tão desorientado com essa descoberta, Hester – ou o seu «circuito de compaixão», pois «the fragility […] disturbed her compassion circuit very greatly» (idem, p. 83) – prepara-se para conceder-lhe o mesmo destino.
A capacidade para sentir emoções, essa caixa negra que nos habituámos a tomar como uma das características que nos são exclusivas enquanto humanos, tem nesta short story o seu equivalente maquínico quase perfeito, assumindo o critério pragmático de que importam os efeitos e não as suas causas, imediatas ou mais remotas. Nada mais sabemos dos destinos de Janet e George (e menos ainda de Hester), mas o tom da narrativa autoriza-nos a especular que a sua existência posterior não será, apesar de tudo, diferente naquilo que define as suas identidades. Ou melhor – retomando de modo superficial o conceito de «embodiment» tal como Katherine Hayles o propõe em How We Became Posthuman (Hayles, 1999) –, sê-lo-á de certeza diferente ao nível da experiência física (algo em que o conto insiste, repetidamente comparando a fragilidade humana com a robustez robótica), e por arrastamento também aos mais diversos níveis da experiência mental, em especial a perceção e o controlo da ação sobre o mundo exterior (embora não se trate de algo que ocorra na narrativa, imagine-se agarrar um ovo com mãos metálicas e frias, por exemplo). Contudo, o conto parece pressupor um reduto inalterável – a personalidade ou, em termos arcaicos, a alma (e talvez a memória como seu suporte), nomeadamente no diálogo entre o casal nas últimas páginas: Janet está ainda a habituar-se à sua nova existência, mas nada se alterou no amor que sente por George (cf. Wyndham, 1954, pp. 82-83).
2.
E se esse «devir-máquina-do-humano» se processar no sentido inverso? Como pode ele (narrativamente, entendamo-nos) ser justificado? Uma curiosa resposta (mesmo que com um desenlace pessimista) pode ser encontrada em «Sweet Dreams, Melissa», de Stephen Goldin (publicado na Galaxy de Dezembro de 1968). O conceito central deste conto são, como o título desde logo revela, os sonhos. Ou, para ser mais preciso, os pesadelos que Melissa tem tido com uma frequência crescente:
«“Well, at first I thought they were the numbers, which are all right because the numbers don’t have to do with people, they’re nice and gentle and don’t hurt nobody like in the nightmares. Then the numbers started to change and became lines – two lines of people, and they were all running towards each other and shooting at each other. They were rifles and tanks and howitzers. And people were dying, too.”» (Goldin, 1968, pp. 55-56)
De modo praticamente recíproco de uma quantidade significativa dos sonhos relatados por Raymond Barglow no seu livro dos anos 90, em que o que faz deles pesadelos é a transformação dos indivíduos em máquinas ou outro tipo de entidades impessoais, aqui é a capacidade empática de Melissa que a faz ficar perturbada com a passagem dos números a pessoas que morrem numa guerra. A estatística não a atormenta; é a descoberta de que há um significado (e um significado humano) sob essa estatística que causa a sua angústia.
E se o leitor atento a certas convenções deste género literário já seria capaz de suspeitá-lo, a sequência narrativa entretanto desfaz qualquer dúvida que pudesse permanecer: Melissa – ou melhor, MLSA 5400 – é um computador:
«“Now, once upon a time, there was a group of men who said that if a computer could think by itself, it was capable of developing a personality, so they undertook to build one that would act just like a real person. They called it the Multi-Logical Systems Analyser, or MLSA…”» (idem, p. 57)
E – numa muito provável alusão ao famoso ensaio «Computing Machinery and Intelligence», de Alan Turing, de 1950 –, esse computador fora programado com a inteligência e com a capacidade de aprendizagem de uma criança6:
«“the personality part didn’t know it was a computer; it thought it was a little girl like you.”» (idem, ibidem)
Há contudo um pormenor na construção do sistema que impede um adequado desenvolvimento da identidade «humana» de Melissa, conduzindo a um final trágico – mas, reconheçamos, também ao momento mais interessante do ponto de vista interpretativo –, e que decorre dessa suposta necessidade, citada acima, de conceber o sistema com uma parte dedicada à computação (no sentido estrito) e outra à personalidade, quase como na famosa – mesmo que cada vez mais questionável no campo das ciências neuronais – divisão (funcional mas necessariamente imperfeita) entre os hemisférios esquerdo e direito do nosso cérebro. Primeiro a revelação súbita…
«And suddenly, Melissa saw herself. It was the most frightening thing she’d ever experienced, more scary even than the horrible nightmares.» (idem, p. 58)
E de seguida o colapso (mental? de hardware?) quando tentam fundir os dois «hemisférios»:
«“Brace yourself, Melissa. This is going to hurt.”
And, with no more warning than that, the world hit Melissa. Numbers, endless streams of numbers […]
Melissa was drowning in a sea of data.
[…]
Five minutes later, Dr. Edward Bloom opened the switch and separated the main memory from the personality section. […] But there was no longer any room in the MLSA 5400 for a little girl.» (idem, pp. 58-59)
Embora não seja de todo necessário fundamentar cientificamente os pressupostos narrativos – por mais que os puristas da chamada hard sf por vezes nisso procurem insistir –, é relevante a evocação de alguns argumentos (ora científicos, ora filosóficos, ora tão-só vindos do senso comum) acerca da impossibilidade duma verdadeira inteligência artificial, em particular aqueles (neste caso refutados por Turing7, ao contrário da premissa inicial do conto) que remetem para uma diferença irredutível entre os processos racionais – esses sim, algorítmicos e simuláveis por uma máquina – e os emocionais, de que a capacidade onírica seria um caso específico.
Essa é a aporia que encontramos em «Sweet Dreams, Melissa». Para os construtores de MLSA 5400, deveriam ser os sonhos o elemento de aproximação entre a «personality part» e a «logical part». Mas os sonhos só são toleráveis enquanto afins às funções algorítmicas que a definem enquanto computador («numbers […] are all right because the numbers don’t have to do with people, they’re nice and gentle», como citámos acima); é quando revelam a sua dimensão humana, ativando – fazendo a ponte com a história anteriormente analisada – o «compassion circuit», que conduzem aos pesadelos que servem de motor à narrativa e, em última análise, ao fatal desfecho. Mau grado o título de um conhecido livro de divulgação de Hélder Coelho, especialista português em Inteligência Artificial (Coelho, 1999), o sonho e a razão surgem aqui como mutuamente inarticuláveis.
3.
Há todavia uma outra linha de interpretação que permite (apesar do insucesso no caso desse conto) resgatar algum tipo de equivalência entre humanos e máquinas, a memória. Por questões de espaço, mas também por não ser de todo necessário entrar em pormenores no campo da filosofia da mente, bastar-nos-á o recurso a um livro de divulgação que – segunda vantagem – procura apresentar alguns dos conceitos e discussões da filosofia contemporânea através do cinema de ficção científica, The Philosopher at the End of the Universe (Rowlands, 2002).
Encontramos aí uma tentativa bastante atual de solução do problema da relação entre identidade (i. e., a continuidade da personalidade, neste caso) e diferença (por exemplo devido à renovação celular, mas também por meios mais sofisticados e imaginários como a duplicação da mente num suporte físico alheio). Recorre-se então à memória como elemento de unificação:
«Actually the memory theory is not a good name. There are loads and loads of mental states involved. […] But memories are central in that the reason he8 has these new other mental states is, at least arguably, because of the memories that have been put in him. So we can call it the memory theory, although it’s often called the psychological continuity theory.
According to the memory theory, each one of us is, essentially, a bundle of memories and related psychological states – beliefs, thoughts, emotions, hopes, fears. That’s what makes us the persons we are.» (Rowlands, 2002, p. 107)
Ora, esta poderá também constituir uma solução, pelo menos temporária, para o problema que qualquer desses dois contos levanta. Serão Janet e George os mesmos depois de transformados em cyborgs? Isto é, será suficiente a memória da sua vida enquanto humanos para assegurar que são os mesmos9, ou a experiência que daí em diante vão ter fará com que divirjam inevitavelmente das suas identidades anteriores (o que de qualquer das formas ocorreria se continuassem a ser humanos «tradicionais»)? E no caso de MLSA e Melissa, poderemos falar de duas identidades que (ainda que de forma mal sucedida no conto) deveriam ter convergido para uma só? Ou é uma delas (e então, qual) que absorve a outra, como se se tratasse de um processo ultra-acelerado de aquisição de conhecimentos e competências?
Em duas outras narrativas também dos anos 60, ainda que tenhamos de mencioná-las de forma muito mais breve e superficial, e finalmente numa terceira a que daremos um tratamento mais extenso, a questão da identidade como memória é também abordada, e a ela se juntarão entretanto outras pistas.
No caso de «Clean Slate», de James H. Schmitz (originalmente na Amazing Stories de Setembro de 1964), o projeto ACCED (de «accelerated education») propõe a implantação direta de informação na memória dos indivíduos para a criação de «a genuine superman – a man who will be physically and mentally as fully developed as his structure permits»10 (Schmitz, 1968, p. 122), mas, perante uma sucessão de maus resultados (nomeadamente casos de psicoses infantis), o diretor desse projeto experimental decide combiná-lo com um anterior, mais bem sucedido, com a sigla SELAM (de «selective amnesia»). Primeiro com este complementando o ACCED – e de novo sem grande sucesso – depois invertendo a ordem dos «tratamentos». Mas o resultado, tratando-se esta de uma típica história de hubris castigada, tanto mais que o diretor do projeto se propõe ser a sua própria cobaia, acaba também por ser desencorajador. A Natureza triunfa sobre a tecnologia:
«A child, Mr. Hair, a young child, wants to learn. Not long after birth, it enters a phase where learning might appear to be almost its primary motivation. […] But the natural drive, the innate drive, apparently is present only for a comparatively short time in childhood. […] Dr. Curtice […] was, of course, a man intensely interested in learning, intensely curious. But his curiosity and interest were based on the experiences he has lost, and were lost with them. […] We can teach him almost nothing because he is inherently uninterested in learning anything.» (Schmitz, 1968, p. 128)
A segunda mini-ilustração vem-nos do conto «I Remember Oblivion», de Henry Slesar (Magazine of Fantasy & Science Fiction, Março de 1966). Ainda sob o signo dos protótipos de tecnologias revolucionárias, propõe-se aqui uma reprogramação da memória, e com objetivos bem específicos: a recuperação de criminosos11.
«“The disease which caused his terrible crime will be cured. And the ‘criminal’ who was responsible – will no longer exist. Why shouldn’t he go free?”» (Slesar, 1966, p. 41)
Contudo – como no título anterior – também a experiência é mal sucedida, bastando ao antigo criminoso confrontar-se com o companheiro da mulher que assassinara para ser atormentado pela agonia dessas memórias.
4.
Temos finalmente «Brain Bank», noveleta de Ardrey Marshall (também publicada no Magazine of Fantasy & Science Fiction, em Julho do mesmo ano) com a qual regressamos a uma temática próxima das primeiras histórias que abordámos. Em vez de hubris castigada, temos aqui uma história de vingança: resgatados imediatamente antes da morte clínica (a «first death», como é descrita aí), os cérebros daqueles que serão daí em diante «brain bankers» são conservados, juntamente com as suas memórias (e portanto, embora os seus utilizadores façam por ignorá-lo, também com as suas personalidades12) e, enquanto se mantenham as funções neuronais (i. e., enquanto não sobrevém a «final death») são usados como fontes de informação, consoante a sua especialidade em vida. No caso, a nossa personagem principal Sturm – e também narrador – havia sido um matemático, e é um outro matemático, Ludgin, seu antigo rival académico que vem consultá-lo, despertando-lhe a memória de como teve este destino.
Podemos pôr por momentos de parte a intriga principal, que gira em torno de uma outra rivalidade, entre Ludgin e um seu assistente, e que – pormenor de alguma relevância a que regressaremos – é sempre descrita segundo a perspetiva da personagem-narrador. Façamos primeiro um desvio pelos relatos (ou recordações) do processo que o conduziu de humano vítima dum grave acidente a «cérebro numa cuba», com um «prism eye» e uma «mechanical claw» (Marshall, 1966, p. 47), e mais ainda – a isso nos limitamos13 – pelas descrições dos seus estados mentais depois da «mudança», bem como do modo sub-humano como é tratado, inadvertidamente invocando quer os relatos de campos de concentração quer, num sentido mais geral, o conceito agambeniano de «vida nua» (cf. Agamben, 1998). Quanto aos estados mentais e à sua inevitável ancoragem na experiência corporal que teve na sua vida anterior, o narrador é bem claro.
«It didn’t take much thinking to realize that a person secluded in an isolated room, unable to speak to others except on official business […] soon hungered for emotional human contact, especially its distillation in art.» (Marshall, 1966, p. 51, ênfase nossa)
Confronte-se agora esta sua autodescrição enquanto «pessoa» e o modo como a ele se dirigem, por diversas ocasiões.
«“You can’t be selfish, Sturm. And with your talent… Besides, you’re legally dead. Who’s to complain? You can’t. […] Actually, here at the Bank we are the ultimate authorities. We take whatever brains we want. We pick and choose according to our needs.”» (idem, p. 56)
E o próprio Sturm confirma essa perda do seu estatuto legal de pessoa, quer antes deste diálogo, então apenas enquanto suspeita…
«The brain bank! The realization hit him like a flash of chill lightning. […] Legally he was neither alive not a person.» (idem, p. 56)
… quer depois de confirmá-la:
«The therapist […] continued to urge him on, unaware that Sturm was still resting.
He realized then, despite everything they said, that he was being trained by him. In fact, he himself had been reduced to the level of a machine.» (idem, p. 57)
E, se ainda alguma dúvida permanecesse quando naquele primeiro diálogo ainda se lhe dirigem pelo seu nome, depois do «treino» até esse último traço de humanidade lhe é retirado, sendo verdadeiramente votado ao estado de sacer:
«“Don’t you think you have any rights here, B 45. You have none. You belong to the State now, and you’ll do exactly as you’re told. We’re doing you a favor keeping you alive, and don’t forget it. You can be unplugged anytime I give the word.» (idem, p. 58)14
Com algum sentido de ironia, será precisamente esse estatuto de não-pessoa, e portanto de inimputabilidade (mesmo que para as restantes personagens tal se deva a considerarem-no de todo incapaz de atos intencionais, e não tanto no sentido estritamente legal), o que leva a história ao seu desenlace. Perante uma ameaça de chantagem, Ludgin mata o seu assistente e só depois se dá conta de que tem em Sturm/B 45 a única testemunha do seu ato. Depois de livrar-se do cadáver, Ludgin regressa para neutralizar Sturm, mas entretanto este, com um esforço de que se imaginaria impensável, cria uma armadilha para eletrocutar o assassino, indo buscar forças quer às suas memórias enquanto humano quer a essa outra forma de «memória» que é a fisicalidade, mesmo que dum corpo que já não é de todo o mesmo15:
«Luckily, he’d been saved by his body, even though it no longer existed. He’d never become used to being merely a brain. Long ago in a psychology class during his student days he’d studied how amputees awakening from the operations […] still believe they have the missing limb until they look for themselves. The body impressed itself so on the mind that one could never quite shed it.» (idem, p. 58)
5.
Completamos assim o círculo que constituiu esta resenha a algumas narrativas da genre science fiction das décadas de 1950 e 1960 que exploram questões de identidade quando seres humanos e máquinas tendem a convergir e, no limite, a ser tomados como mutuamente equivalentes. Os três ingredientes que, em doses distintas, atravessam o imaginário desses contos e noveletas, em particular aqueles a que dedicámos mais tempo, são a memória, o embodiment e o reconhecimento.
A memória (seja ela apenas de factos e acções, ou afectiva – parecendo esta última predominar, se a amostra a que recorremos for fiel) assegura a continuidade do humano e da sua identidade e, justamente por isso, torna-se condição sine qua non para que uma máquina possa aspirar a um estatuto equiparável. No que respeita ao reconhecimento, é necessário ressalvar que – talvez porque estamos perante ficções, e porque o conflito é a própria essência da narrativa – se trata quase invariavelmente do alargamento, se não mesmo da luta, do auto-reconhecimento dos protagonistas, que se retratam a si mesmos como humanos, ao reconhecimento por parte dos outros16. Bem sucedido umas vezes (confirmando, quando assim é, o suposto predomínio tecno-optimista da ficção científica de género), mal sucedido noutras, ou porque não é ainda chegado o tempo ou porque os objectivos eram desmesurados (i. e., como já notámos acima, o velho tropo da hubris castigada).
O ingrediente mais problemático, porque mais ambíguo e menos consensual no modo como é abordado, é o do embodiment – ambiguidade que afinal, como também nos advertiu Katherine Hayles, já é milenar. Ora o corpo físico é tomado como apenas um recipiente para uma personalidade ou uma «alma» (e apesar de tudo, nenhuma das histórias aqui apresentadas chega a esse extremo, embora «Compassion Circuit» seja a que mais dele partilha), ora (e quer «Sweet Dreams, Melissa» quer «Brain Bank» tendem para essa visão oposta, ainda que procurem conciliá-la com a inevitabilidade dum embodiment que já só existe enquanto memória) essa ancoragem num suporte físico, orgânico, maquínico ou uma combinação de ambos é assumida como indissociável da constituição da identidade. Em décadas mais recentes, também esta viria a ser uma das questões mais debatidas – e menos resolvidas – da cibercultura.
Bibliografia
Agamben, Giorgio, O Poder Soberano e a Vida Nua: Homo Sacer, Lisboa, Editorial Presença, 1998.
Chopra, Samir e White, Laurence F., A Legal Theory for Autonomous Artificial Agents, Ann Arbor, University of Michigan Press, 2011.
Coelho, Hélder, Sonho e Razão: Ao Lado do Artificial, Lisboa, Relógio d’Água, 1999.
Goldin, Stephen, «Sweet Dreams, Melissa», Galaxy, Dezembro de 1968, pp. 55-59.
Hayles, N. Katherine, How We Became Posthuman: Virtual Bodies in Cybernetics, Literature, and Informatics, Chicago, Chicago University Press, 1999.
Hilton-Young, W., «The Choice», Punch, Março de 1952, republicado in Groff Conklin (org.), Omnibus of Science Fiction, Nova Iorque, Crown Publishers, 1953.
Marshall, Ardrey, «Brain Bank», Magazine of Fantasy & Science Fiction, Julho de 1966, pp. 47-75.
Müller, Heiner, Die Hamletmaschine, última consulta a 15 de Julho de 2012 (orig. 1977).
Nicholls, Peter, «Communications», in Clute, John e Nicholls, Peter (orgs.), The Encyclopedia of Science Fiction (2.ª ed.), Londres, Orbit, 1999, p. 251-252.
Rowlands, Mark, The Philosopher at the End of the Universe: Philosophy Explained through Science Fiction Films, Londres, Ebury Press/Random House, 2002.
Schenck, Jr., Hilbert, «Me», Magazine of Fantasy & Science Fiction, Agosto de 1959, republicado in Merril, Judith (org.), The Year’s Best S-F: 5th Annual Edition, Nova Iorque, Dell, 1961, p 311.
Schmitz, James H., «Clean Slate», Amazing Stories, Setembro de 1964, republicado in AAVV, Great Science Fiction, Nova Iorque, Ultimate Publishing. Co., 1968, pp. 110-131.
Slesar, Henry, «I Remember Oblivion», Magazine of Fantasy & Science Fiction, Março de 1966, pp. 36-43.
Turing, Alan M., «Computing Machinery and Intelligence», Mind, vol. XIV, n.º 2236, Outubro de 1950, pp. 433-460, republicado in Boden, Margaret A. (org.), The Philosophy of Artificial Intelligence, Oxford, Oxford University Press, 1990, pp. 40-66.
Wyndham, John, «Compassion Circuit», Fantastic Universe, Dezembro de 1954, republicado in Tales of Gooseflesh and Laughter, Nova Iorque, Ballantine, 1956, pp. 73-83.
Notas
* Artigo realizado no âmbito do projecto «A Ficção e as Raízes da Cibercultura» (PTDC/CLE-LLI/099000/2008), financiado pela Fundação para a Ciência e a Tecnologia.
1 Hilbert Schenck, Jr., in Judith Merril (org.), The Year’s Best S-F: 5th Annual Edition, 1961, p. 311.
2 Heiner Müller, Die Hamletmaschine (1977).
3 Além de outras passagens, logo esta quase a abrir a narrativa: «Practically every house she visited had a domestic robot; it was the family’s second or third most valuable possession – the women tended to rate it slightly higher than the car; the men, slightly lower.» (Wyndham, 1956, pp. 73-74, ênfase nossa)
4 Usamos uma conhecida expressão do universo dos science fiction studies. Embora aí, de modo geral, esta seja utilizada para classificar as narrativas em que, como o nome indica, é estabelecido um contacto inicial com espécies extraterrestres, parece-nos ser aqui igualmente adequada. Cf. a entrada «Communications» da Encyclopedia of Science Fiction (Nicholls, 1999), em particular os parágrafos finais.
5 De novo pontuada por um comentário que hoje qualquer leitura de «género» consideraria estereotipado: «In point of fact the robot was not a beauty. Janet’s preference had been observed. It was pleasant and nice-looking without being striking, but the details were good.» (Wyndham, 1956, p. 77)
6 Depois de apresentar as possíveis objeções à possibilidade de implementar inteligência (segundo a definição do seu «jogo da imitação», também nesse artigo) numa máquina de estados discretos, Turing termina com uma proposta simultaneamente mais modesta e mais ousada – a de dotar a máquina de um grau reduzido de «inteligência» mas, como se se tratasse de uma criança, capaz de aprender com a experiência: «Instead of trying to produce a program to simulate the adult mind, why not rather try to produce one which simulates the child’s? If this were then subjected to an appropriate course of education one would obtain the adult brain. Presumably the child brain is something like a notebook as one buys it from the stationer’s. Rather little mechanism, and lots of blank sheets.» (Turing, 1990, p. 62)
7 Das famosas nove objeções e respetivas contra-objeções com que Turing tenta antecipar os detratores do seu (esboço de) projeto de Inteligência Artificial com máquinas de estados discretos, destacamos, para o que está aqui em causa, a «Mathematical Objection» (Turing, 1990, pp. 51-52), o «Argument from Consciousness» (idem, pp. 52-53), os «Arguments from Various Disabilities» (idem, pp. 53-56), e o «Argumento from the Continuity of the Nervous System» (idem, pp. 57-58).
8 O «he» refere-se neste caso à personagem de Arnold Schwarzenegger no conhecido filme Total Recall, que é discutido, juntamente com The Sixth Day, nesse capítulo do livro de Mark Rowlands (2002, pp. 87-120).
9 O problema poderia tornar-se ainda mais complexo se afinássemos todas as variações (chegam-nos as ficcionais) em torno da memória. Por exemplo no caso da adição (mesmo que apenas de pequenos «episódios») de falsas memórias – o tema central quer do conto de Philip K. Dick «We Can Remember it for You Wholesale» quer da conhecida adaptação ao cinema, Total Recall, discutida por Rowlands –, ou na situação inversa, a do apagamento parcial de memórias, como no curtíssimo conto de W. Hilton-Young, «The Choice», publicado na Punch de Março de 1952, cuja personagem principal faz uma viagem (extraplanetária?) mas dela só traz a memória de ter optado por não se recordar da estadia:
«“I can remember only one thing.”
“What was that?”
“I was shown everything, And I was given the choice whether I should remember it or not after I got back.”
“And you chose not to? But what an extraordinary thing to –” (Hilton-Young, 1953, p. 448)
10 Além da experimentação sobre a memória, parece vir associado um rejuvenescimento físico dos indivíduos sobre os quais recaem as experiências, o que nos parece contudo – pelo menos para a temática em apreço neste ensaio – distrair o leitor do fundamental.
11 Não basta contudo apagar-lhes a personalidade delinquente; é ainda necessário implementar uma nova: «“It was the only logical answer,” Newkirk said. “We have already seen how difficult, if not impossible, is the attempt to purge the mind of only its evil recollections.”» (Slesar, 1966, p. 39)
12 «What a shame people weren’t forced to spend a day in the Brain Bank before first death. If they did, they’d realize that Bankers, despite the stories that circulated, were still human.» (Marshall, 1966, p. 47)
13 Incluímos contudo uma descrição seu aspeto depois da «first death», claramente enquadrando-o na categoria de cyborg: «The brain convolutions were scarcely visible: a maze of red, blue, green, and yellow wires coded with stripes and spots were attached to the surface in order to gather nerve responses for the Banker’s mechanical devices – a cubicle speaker for communicating with the technicians […]; another speaker for the telly-talk hookup; a movable prism eye that sometimes required focusing; and a mechanical claw for writing on the blackboard […].» (Marshall, 1966, p. 50)
14 É digno de nota que, em contrapartida, alguma teoria legal comece, hoje em dia, a caminhar no sentido inverso: em vez da negação do estatuto de agente para que tende essa análise agambeniana, a complexidade de muitos «entes» artificiais (por via essencialmente do software, embora o hardware também desempenhe um papel importante) justifica cada vez mais que a estes sejam atribuídas algumas responsabilidades enquanto agentes no sentido legal – mesmo que ainda não tão plenas quanto as dos humanos adultos em pleno uso das suas capacidades. Cf. o recente A Legal Theory for Autonomous Artificial Agents, de Samir Chopra e Laurence F.White (2011).
15 Como é de esperar, a ausência de sanções legais (exceto talvez a de destruição de propriedade) e a justificação de que havia sido um acidente, que serviriam para ilibar Ludgin, vão servir, apenas com as devidas adaptações, para inocentar Sturm/B 45: «“Good morning, Brain Bank, B 45 speaking […] Madam. We had a little accident here last night. If you don’t mind, I think I’d better call Central and have them send someone over.”» (Marshall, 1966, p. 75)
16 Ou, tão-só, o que também é outra forma de conflito, de um auto-reconhecimento das personagens apenas como humanos ou como máquinas à consciência de que já são algo que ultrapassa essa antítese.