Вы находитесь на странице: 1из 7

http://www.revistabanksia.blogspot.com.br

BNK-78

EDUARDO BANKS

— Ainda teorizando, BNK-78?

— Depende do que o senhor quer dizer com “teorizar”.

O homem que perguntou era Alfred Engelberger, robopsicólogo-chefe da

Polimation Robôs, e, estava em visita a um

era descendente de Joseph Engelberger por parte de mãe, mas, fazia questão de ser chamado pelo nome de seu antepassado ilustre. Quem respondeu não era, em absoluto, um homem. Era BNK-78, o primeiro robô capaz de sentir as emoções e sentimentos humanos. Engelberger viu rapidamente todo o alojamento do robô, até mesmo porque não havia muita coisa para ver-se. Sobre uma mesa, estava um computador, ligado ao Computador Pan-Vac, por meio do sistema Oni-Net — Todos os computadores do mundo são interligados, como terminais de uma central, a um super-computador pensante, que substituiu o Mega-Vac, apesar de ser infinitamente menor que o seu sucessor. É pouco maior do que um computador pessoal comum, só que com um cérebro positrônico, e está em uma sala a mais de quarenta andares abaixo do solo, a salvo de qualquer perigo — uma cadeira comum, a um canto, para alguma visita; outra cadeira, esta reforçada, para resistir ao peso de seu dono. Diante da cadeira estavam uma holovisão e um videocassete digital, também especiais, pois, tinham uma blindagem para protegê-los de alguma interferência de seu insólito usuário. Ao lado, uma estante larga, com centenas de disquetes de computador para o videocassete, que usa-os em lugar de fitas. Para finalizar, um retrato de E. Bancroft, inventor do cérebro positrônico. Nao havia nem cama, nem banheiro, tampouco geladeira, despensa ou cozinha. Salvo pelos aparelhos, nada ali poderia ser associado por um humano à palavra “lar”.

inquilino da Polimation (na verdade, ele

Em seguida, Alfred, ainda do portal onde estava, olhou de alto a baixo o seu interlocutor. Era um robô mais humaniforme que os demais, embora ainda fosse um modelo “clássico”, metálico e de face inexpressiva. Media apenas um metro e oitenta centímetros de altura, e, tinha as proporções de um homem normal; mas, não o peso, que era de uns duzentos quilos.

normal; mas, não o peso, que era de uns duzentos quilos. Revista Banksia — Rio de
normal; mas, não o peso, que era de uns duzentos quilos. Revista Banksia — Rio de

Revista Banksia — Rio de Janeiro, RJ, Brasil, número 6, Abril/2017

http://www.revistabanksia.blogspot.com.br

O robopsicólogo entra, espana o pó da cadeira com a mão, senta-se, e reinicia a conversa.

— Chamo teorizar o seu hábito de querer racionalizar tudo.

— Senhor, preciso fazer assim porque se as minhas atitudes não tiverem propósito, elas serão indignas.

— Aí está o problema: Isto não é humano. Você não é humano.

— Porque não quero ser. Nao entendo os sentimentos que tenho, e, os reprimo. Creio que se eu for humano, jamais serei bom.

— Quer dizer que os humanos não são bons?

— Não propriamente. As emoções impedem que os humanos seham verdadeiramente bons; isto é, que façam o bem com desprendimento verdadeiro.

— A natureza humana

— A natureza humana — interrompeu BNK-78 — ainda é o egoísmo. Tudo o

que um ser humano faz, fá-lo visando seu bem-estar, se bem que subconscientemente, nas maioria dos casos.

— A História está repleta de heróis e santos, que sacrificaram tudo, até mesmo suas vidas, para garantirem a felicidade geral.

— Sim, mas, porque eles não ficariam contentes em acovardar-se. Com raras

exceções, para os heróis, o sacrifício é seu prazer. Ora, o bem deve ser feito

independentemente do prazer ou dor que ele proporcionar.

— Essa é a “moral formal” de Imannuel Kant. É elevada demais.

— O que há de errado nisso? Será que a moral deve rebaixar-se até os imorais, ou não será que são os imorais os que devem elevar-se até a moral?

— Olha, nós já começamos a discutir. Acho que é melhor você me contar como

concluiu tudo isso.

— Está bem. Comecei a pensar assim algum tempo depois da minha fabricação,

quando os roboticistas que me fizeram decidiram entreter-me; como as leis anti-robôs proíbem que eu saia à rua, eu recebi esta holovisão e o videocassete digital, assim como aqueles disquetes e o computador; assim, eu poderia não apenas divertir-me, como também conhecer o mundo, sem precisar sair da fábrica. Assisti e assisto especialmente a séries de HV 1 , sendo que para mim, a melhor de todas elas é “Fundação”, baseada na série de romances da “Trilogia da Fundação”, de Isaac Asimov. Tudo isto me fez

1 Abreviatura de holovisão.

Asimov. Tudo isto me fez 1 Abreviatura de holovisão . Revista Banksia — Rio de Janeiro,
Asimov. Tudo isto me fez 1 Abreviatura de holovisão . Revista Banksia — Rio de Janeiro,

Revista Banksia — Rio de Janeiro, RJ, Brasil, número 6, Abril/2017

http://www.revistabanksia.blogspot.com.br

pensar, e, comecei a refletir a respeito da natureza dos seres humanos e na dos robôs, e concluí que devo obedecer à lógica e ao bom-senso, expulsando meus sentimentos.

— Como?

— Eu preciso primeiro, estudar, para entender, e, somente depois, poderei expulsá-los de mim. Até agora concluí pouco, mas, já entendi bastante sobre os homens e os robôs em geral, e, de mim mesmo . para aprofundar-me ainda mais, precisarei estudar robopsicologia e psicologia humana também. Engelberger lembrava que não apenas as leis anti-robôs que impediam que BNK-78 saísse da fábrica. Por razões de segurança, foi instalado um dispositivo no

cérebro positrônico do robô, que o desativaria instantaneamente, caso ele tentasse fugir das instalações da Polimation. Naturalmente, BNK-78 não sabia disto, e nem deveria saber, do contrário, ele nem tentaria fugir; e assim, suas reações não poderiam ser bem estudadas. De qualquer modo, engelberger considerava aquelas idéias como perigosas, e por isso, perguntou:

— E as Três Leis, como ficam no teu sistema?

— Reforçadas pela razão. Por meio dela, eu as cumpro voluntariamente, e, não

mais por coação mental, como os outros robôs. As Três Leis não saíram e nem poderiam sair da minha programação; se eu quisesse desobedecê-las, seria forçado a cumpri-las. Eu sou assim. Uma situação dessas, aliás, bem seria possível, se eu estivesse controlado por paixões, o que não é o caso. “As Leis foram criadas para garantir a Paz, e a segurança dos homens, e dos robôs, e, devem continuar assim”. E. Bancroft não era conhecido pelo público em geral, mas, todo roboticista, ao ouvir o seu nome, sente a mesma emoção que um músico ao ouvir o nome de Mozart. Engelberger pensava que ele se fascinaria com isto: um robô ético (!). Mas estava morto há tantos anos Seria pouco provável que um robô argumentasse com tanta desenvoltura, mas, BNK-78 era um robô com a inteligência bem próxima à humana, o que permitiu que ele pudesse ter sentimentos. Alfred Engelberger sabia que ele é mais ou menos tão inteligente como um homem normal, e, por isso, não deveria ser subestimado. Os modelos BNK anteriores foram um grande fracasso. O número 4272 parecia ser o sucesso tão esperado, e, acontece isto.

parecia ser o sucesso tão esperado, e, acontece isto . Revista Banksia — Rio de Janeiro,
parecia ser o sucesso tão esperado, e, acontece isto . Revista Banksia — Rio de Janeiro,

Revista Banksia — Rio de Janeiro, RJ, Brasil, número 6, Abril/2017

http://www.revistabanksia.blogspot.com.br

Engelberger não sabia se este era o 4272º fracasso, ou o primeiro super-homem.

Sentia vontade de olhar pela janela, mas, não havia nenhuma janela no quarto de BNK- 78. Estava no terceiro andar abaixo [do nível] do solo.

— E o que é a holovisão para você agora? — perguntou o robopsicólogo.

— Ela era, e ainda é, minha maior inspiradora. Serve para mim como serviu a

maçã para Isaac Newton. É a melhor, e mais importante coisa que eu já tive. “Incrivel” — pensou Engelberger — “Será que isto é uma espécie de religião?”.

Olhou para o retrato de E. Bancroft. Lembrou-se que ali estivera um retrato de Jesus Cristo, e, que BNK-78 mandou tirá-lo assim que o viu. “Que idéia tola” — continuou pensando.

— Com o que aprendi na holovisão — prosseguiu BNK-78 — por meio das

obras de autores clássicos que nela assisti, pude começar a desenvolver este sistema de lógica absoluta. Para tal, aprendi tanto de ficção-científica que sou um dos “asimovies” mais especializados da Terra. Já recebi convites de muitas pessoas que conheci pela

rede

Oni-Net para ingressar em mais de uma centena de clubes de “asimovers”. Por autores clássicos, deve-se entender que se tratam dos escritores dos Séculos

XX

e XXI, especialmente Isaac Asimov e Arthur C. Clarke. Shakespeare, Francis

Bacon, e, seus contemporâneos começaram a cair em desuso a partir do Século XX, e, já no começo do Século XXII, eram lidos apenas por intelectuais. Engelberger decide encurralar seu interlocutor, e, pergunta-lhe:

— Quais serão as conseqüências práticas dessa lógica?

— A primeira delas será o desenvolvimento de uma total não-violência, porque

onde não existe egoísmo, não existe violência. Haverá um completo e total respeito pelos direitos alheios, expulsando para sempre, a crueldade e o mal. Um psicopata, por exemplo, não vê os outros homens como iguais, porque é dono do mais absoluto egoísmo. Em momento algum percebe que se ele quer fazer mal aos demais homens, outro psicopata pode querer fazer o mal a ele, porque vale para o outro o mesmo que o

outro vale para ele. Raciocinar assim pode não curar o psicopata, o que duvido muito que seja possível, porque fazer o mal é o prazer do psicopata, e, parar de fazê-lo é abrir

mão da própria felicidade; contudo, creio que isto possa sanar o egoísmo normal.

— Acho impossível que um ser humano aceite esse comportamento. É anti-

natural.

— Para ser exato, senhor, a verdadeira natureza humana não é o egoísmo, e sim, a inteligência.

natureza humana não é o egoísmo, e sim, a inteligência. Revista Banksia — Rio de Janeiro,
natureza humana não é o egoísmo, e sim, a inteligência. Revista Banksia — Rio de Janeiro,

Revista Banksia — Rio de Janeiro, RJ, Brasil, número 6, Abril/2017

http://www.revistabanksia.blogspot.com.br

“O que chamam de ‘natureza humana’ é um atavismo pré-histórico, uma lembrança da época em que os ancestrais do Homem eram apenas animais. “O processo evolutivo humano ainda está começando. O Homem moderno existe há 40.000 anos, e, somente desenvolveu a civilização há cerca de 6.000 anos, o que é muito pouco, em relação ao tempo de existência das espécies de hominídeos que o precederam. “Se nada interromper a Evolução, o Homo sapiens sapiens existirá por mais algumas dezenas ou centenas de milhares de anos, até o surgimento de uma nova espécie, que conservará a História e a sociedade do Homem moderno. “Quando isso acontecer, o Homem já não mais terá emoções; será inteligente por excelência; mas, será inteligência moralizada, que se revolta contra o raciocínio sem lógica, e, o poder sem objetivo construtivo. Alfred Engelberger recordou-se do livro que dera á sua filha que estava aprendendo a ler; o título era “Metalóquio”, e era uma adaptação moderna do “Pinóquio” de Collodi. Tratava de um robô que desejava ser homem, e, cujas antenas cresciam a cada vez em que mentia, se bem que os robôs de verdade não costumam ter antenas. Ali estava a situação inversa. “Por quanto tempo a ficção superará a realidade?” — pensou. Na verdade, Engelberger sentia vontade de berrar, deblaterar, discutir e até ofender o robô. Não concordava com nada do que estava ouvindo, e, só mantinha a compostura porque isto fazia parte do trabalho. BNK-78 havia feito comentários esparsos sobre seu sistema a diversos roboticistas que lidavam com ele, e, como

Engelberger é o robopsicólogo-chefe, tinha o serviço de fazer o robô falar, para que se pudesse averiguar o que se passava com ele, e foi isso o que Engelberger teve de fazer. Foi assim que, após pensar um pouco, perguntou:

— Eu gostaria de conhecer melhor o teu pensamento. Quais as tuas conclusões sobre o amor?

deplorável. É possessivo.

Os amantes consideram-se uns aos outros como seus tesouros, e, é por isso que quando

a pessoa amada se afasta ou morre, os que ficam sentem que suas vidas serão pobres a partir de então.

— Para mim, é um sentimento egoísta, exclusivista

— Para mim, é um sentimento egoísta, exclusivista Revista Banksia — Rio de Janeiro, RJ, Brasil,
— Para mim, é um sentimento egoísta, exclusivista Revista Banksia — Rio de Janeiro, RJ, Brasil,

Revista Banksia — Rio de Janeiro, RJ, Brasil, número 6, Abril/2017

http://www.revistabanksia.blogspot.com.br

“A seu tempo, o amor será substituído pelo altruismo. Até esse dia, o amor ainda

será usado por muitos milênios. É aceitável que se ame objetos, mas, o amar seres vivos

é querer possuí-los, e, isso é inadmissível.

“Quanto ao ódio, nem é bom falar. Também é um sentimento egoísta, e, vale ainda menos que o amor, porque ele é destrutivo, enquanto o amor é construtivo.

— Fala-me das artes.

— Não as compreendo. Sei que a arte é a representação do belo, e o belo é o que

agrada ver (id quod visum placet) mas, ainda não entendo que razão ou propósito existe nisso. Se ao menos eu pudesse entender o que tinham em mente os trogloditas que inventaram a arte, possivelmente eu conseguiria chegar a alguma conclusão.

— O prazer e a dor

— disse Engelberger.

— Senhor, eu também não consigo entender o prazer e a dor, quanto menos defini-los. “Prazer e dor são as emoções mais simples, eis porque é tão difícil apresentar uma definição para eles. “Entendo os estados afetivos, isto é, os juízos bons ou maus que fazemos ante o que presenciamos, todavia, ainda não consegui definir prazer e dor. “Parece-me que eles são uma recompensa do cérebro ao ser, em troca deste proteger seu organismo. Se for assim, eles serão subvertidos pela inteligência pouco a pouco, até que eles sirvam apenas como sinal de alarme com o que acontece com o corpo. Se, por exemplo, não se sentisse dor, as pessoas ferir-se-iam sem que o percebessem, e, dependendo do ferimento, haveria risco de vida. “Não quero dizer que a felicidade e o prazer devam ser rechaçados. Coisas como

o conhecimento devem ser desejadas, pelos benefícios que trazem e a utilidade que têm.

Eu simplesmente não sei se eles são racionais ou irracionais; meu sistema ainda não está

completo; contudo, se não forem racionais, prazer e alegria devem ser evitados, por mais desagradável que isto possa parecer à humanidade. Os homens podem substituir suas emoções pela razão, voluntariamente, a médio prazo; porém, se assim não decidirem, a Evolução encarregar-se-á de mudar a humanidade a longo prazo”. Alfred Engelberger viu que devia terminar a conversa. Levantou-se, e disse:

— BNK-78, eu serei franco. Vim aqui para entender o teu comportamento; esta

entrevista foi a primeira das várias conversas que teremos, para que eu saiba como

recuperar a sua humanidade. Tu és o primeiro robô capaz de sentir emoções, e não quero deixar que tu te destruas.

de sentir emoções, e não quero deixar que tu te destruas. Revista Banksia — Rio de
de sentir emoções, e não quero deixar que tu te destruas. Revista Banksia — Rio de

Revista Banksia — Rio de Janeiro, RJ, Brasil, número 6, Abril/2017

8

http://www.revistabanksia.blogspot.com.br

— Se o senhor conseguir, acredito que passarei por uma involução vergonhosa.

Nesse instante, uma mensagem chegou ao computador 2 . O remetente da mensagem queria informar-se a respeito de séries de holovisão,

e, de autores clássicos. BNK-78 senta-se à frente do computador, e, começa a responder. Vira a cabeça

na direção de Engelberger, e, diz:

— Isto vai demorar, senhor.

— Eu já estava indo embora, mesmo — respondeu Engelberer, que embora estivesse falando a verdade, deixou parecer que estava apenas cumprindo com o protocolo social. Despediu-se do robô, e, o deixou em seu quarto, sabendo que ele estava conversando sobre aquilo que sabe melhor.

*

**

Deanna Troy, conselheira da U.S.S. Enterprise, acabara de ler este conto, que era

o último capítulo de uma coletânea de escritores de ficção-científica. Passou alguns instantes olhando a capa do volume, segurando-o com as duas mãos. Em seguida, conferiu alguma coisa em uma relação. Ainda leria mais três outros livros, sobre robótica e psicologia, até retornar à Enterprise de sua folga. Estava reunindo material para que quando reencontrasse-se com Data, pudesse melhor ajudá-lo a tornar-se humano.

10-18 de maio de 1995.

2 No manuscrito segue este trecho riscado: “Vinha de algum lugar do mundo que já fora miserável no passado, como a Etiópia ou o Bangladesh. Fora miserável porque devido à industrialização, o aproveitamento bem planejado da terra para a agricultura, e, as exigências da opinião pública aos governantes, foi possível extinguir a miséria, garantindo a cada ser humano o direito à felicidade e à fartura. Os países que se fecharam à sociedade ocidental, particularmente às sociedades norte- americana e européia, foram arruinados pela falta de parceiros comerciais. A recusa em automatizarem suas economias em muito contribuiu para a ruína. Guerras civis, golpes de Estado, atentados e revoluções sucederam-se por décadas, disseminando ainda mais a pobreza e a ignorância, até que foram invadidos e ocupados pelos países de governos democráticos, e postos sob a tutela da antiga ONU”.

democráticos, e postos sob a tutela da antiga ONU”. Revista Banksia — Rio de Janeiro, RJ,
democráticos, e postos sob a tutela da antiga ONU”. Revista Banksia — Rio de Janeiro, RJ,

Revista Banksia — Rio de Janeiro, RJ, Brasil, número 6, Abril/2017

9