TEIXEIRA, Joo de Fernandes. O crebro e o rob: inteligncia artificial, biotecnologia e a nova tica. So Paulo: Paulus, 2015.

Resenha de: Eduardo Camargo. Teccogs: Revista Digital de Tecnologias Cognitivas, TIDD | PUC-SP, So Paulo, n. 10, p. 164-172, juldez. 2014.

O crebro e o rob: inteligncia artificial, biotecnologia e a nova tica

Joo de Fernandes Teixeira1
TEIXEIRA, Joo de Fernandes. O crebro e o rob: inteligncia artificial, biotecnologia e
a nova tica. So Paulo: Paulus, 2015, 158p.
Resenha por Eduardo Camargo2
Reflexes sobre o biolgico e o artificial
Inteligncia artificial
A inteligncia artificial (IA) inteligncia dos agentes artificiais assim como o
campo do seu estudo acadmico. O termo foi introduzido em 1956 como ttulo da
conferncia Dartmouth Summer Research Project on Artificial Intelligence organizada
por John McCarthy. A nova disciplina baseia-se na conjectura de que qualquer aspecto
da inteligncia humana, da linguagem ao uso de conceitos e abstraes, poderia ser
descrito de maneira to exata que uma mquina deveria ser capaz de reproduzi-lo
(McCARTHY, 1955). Se Turing perguntava Pode uma mquina pensar?, a IA buscava
responder essa questo para qualquer instncia da inteligncia humana.
A ideia de construir agentes artificiais capazes de imitar comportamentos
humanos no recente. H inmeras histrias, ou estrias, de artifcios pensados para
este fim, dentre os quais, os autmatos de Descartes e a mquina de jogar xadrez de
Kempelen so exemplares clssicos. Independentemente do sucesso na realizao de
tais dispositivos, o simples fato de se pensar a respeito de mquinas capazes de imitar

Joao de Fernandes Teixeira possui graduao em Filosofia pela Universidade de So Paulo (1977), mestrado em lgica e filosofia da
cincia pela Universidade Estadual de Campinas (1982) e doutorado (PhD) em filosofia pela University of Essex (Inglaterra). Fez psdoutorado nos Estados Unidos em 1998, no Center for Cognitiver Studies, na Tufts University, sob a superviso do Prof. Daniel
Dennett. Participou do grupo de cincia cognitiva do Instituto de Estudos Avanados da USP. Foi professor na UNESP (campusMarlia) de 1982 a 1991. Em 1992 ingressou na Universidade Federal de So Carlos, e, atualmente professor titular nessa
universidade.
2
Eduardo Camargo Engenheiro Mecnico, Ps-graduado em Marketing, Mestre e Pesquisador em nvel de Doutorado em
Tecnologias da Inteligncia e Design Digital.

RESENHAS TECCOGS ISSN: 1984-3585 N 10 jul-dez, 2014

164

O crebro e o rob

o humano traz inmeras questes filosficas e ticas, principalmente agora quando os

avanos tecnolgicos apontam para alguma possibilidade de xito.
O novo livro de Joo de Fernandes Teixeira, O Crebro e o Rob: Inteligncia
artificial, biotecnologia e a nova tica um ensaio que leva o leitor a revisitar os
principais fatores tericos responsveis pelo estgio atual de desenvolvimento das
tecnologias digitais, apontando as consequncias ticas desses avanos, e as principais
questes que permeiam o debate filosfico a respeito da coexistncia entre humanos
e mquinas inteligentes. Para tanto, o autor prope, na introduo, a inspiradora
metfora da navegao martima como representao da aventura filosfica.

No

retorno ao porto de origem, o navegante percebe os pores, que deveriam estar

repletos de riquezas, vazios. Segundo T. esta frustrao o que torna a viagem
fascinante (p.15). Respostas so importantes e perguntas so fundamentais.
Mas, se h uma viagem martima em vista, o autor (T.) faz o papel do experiente
capito, conduzindo o leitor-viajante atravs de temas to complexos quanto os
propostos pelo ensaio: inteligncia artificial, biotecnologia, singularidade e novas
questes ticas que surgem na combinao desses temas.
O primeiro captulo, segundo o autor, tem como eixo o resgate da obra de
Descartes, colocando-o como realizador do trabalho que d origem no s metafsica
moderna, mas tambm cincia e a tecnologia como entendemos hoje (p.29). Seu
ponto de partida a pergunta clssica Pode uma mquina pensar? formulada
explicitamente s mais tarde por Turing, mas que encontra precursores no
pensamento de Descartes e sua concepo de autmatos. T. afirma que a ideia de que
computadores s podem fazer o que foram programados para fazer ultrapassada e
que, alguns robs e programas de computador so capazes de aprender com seus erros
e modificar seus prprios comportamentos. Afirma tambm, em contraponto, que uma
mquina pode ser como um co que sabe andar por uma casa sem se perder, embora
nunca possa imagin-la. Esta parece ainda uma vantagem humana (p.33-34).
Cabe uma ressalva aqui. Sem dvida, o aprendizado de mquina (machine
learning) uma das tecnologias mais eficientes da IA atual. Baseadas em abordagens
probabilsticas ou em anlise de dados (data mining), as tcnicas de aprendizado de
mquina so capazes de dot-las de algum grau de aprendizagem (ABU-MOSTAFA,

RESENHAS TECCOGS ISSN: 1984-3585 N 10 jul-dez, 2014

165

Eduardo Camargo

2012). Mas seria uma aprendizagem genuna a ponto de se afirmar que os

computadores no fazem apenas o que so programados para fazer? Esta uma
questo fundamental no campo da computao emergente, j que no fcil conciliar
a ideia de um determinismo contido na programao com a percepo de fenmenos
emergentes como o aprendizado genuno (EL-HANI e QUEIROZ, 2007). Nossa
percepo de que mquinas comeam a apresentar capacidades emergentes no seria
um equvoco provocado pela complexidade dos programas atuais? Ou seja, o
programador determina uma gama de estados primitivos, mas no pode prever todos
os estados secundrios devido complexidade de arranjos possveis, o que no quer
dizer que a mquina extrapolou sua programao original.
O autor, ento, apresenta uma viso panormica da ideia de mquina pensante
ao longo da histria, destacando a posio dualista de Descartes, para quem, mente e
corpo so duas substncias separadas. Assim, para Descartes, um autmato bem
construdo poderia fazer tudo o que um ser humano faz, mas nunca teria uma alma
(p.35-39). Na filosofia do sculo XX, contrape o autor, muitos filsofos da mente
passam a uma crtica vigorosa da posio dualista e, nas ltimas dcadas, teriam se
inclinado em direo neurocincia, cuja tendncia predominante a reduo da
mente ao crebro. Na filosofia da mente contempornea, afirma T., o problema
metafsico das relaes mente-corpo foi reformulado e passou a ser chamado de hiato
explicativo.
Em seguir, T. aborda a questo da causao mental na qual o significado de
algumas palavras pode alterar emoes. O autor afirma que os filsofos materialistas
tm a tendncia a trivializar o assunto, enquanto os filsofos dualistas tendem a
considerar a questo insolvel (p.43). Neste contexto, T. sublinha as afinidades entre o
pensamento de Descartes Descartes e de Turing. Os autmatos imaginados por
Descartes e Leibniz comeam a se tornar realidade com a inveno da mquina de
Turing. O autor apresenta tambm a semelhana entre a noo de tempo em
Descartes e a sucesso de estados da mquina de Turing (p. 46-49).
O texto de T. claro e enriquecedor, sempre apresentando objees e
contrapontos s posies apresentadas. Um aprofundamento nas vertentes no
dualistas da inteligncia das mquinas tornaria a exposio mais complexa. Tanto os

RESENHAS TECCOGS ISSN: 1984-3585 N 10 jul-dez, 2014

166

O crebro e o rob

trabalhos de Leibniz, citado de passagem (p.46), quanto os vieses tericos baseados na

semitica (mquinas semiticas, por exemplo (NTH, 2007) poderiam ter siso
considerados.

Biotecnologia
No segundo captulo, T. apresenta reflexes acerca do mundo tecnolgico
digital, apontando a IA, a biotecnologia e a nanotecnologia como os resultados mais
recentes dessa revoluo (p. 52). Sua inteno, aqui apresentar a averso metafsica
ao mundo tecnolgico em obras de filsofos como Heidegger. Chegamos a uma
encruzilhada tecnolgica? Devemos retroceder diante dos riscos dessas novas
tecnologias (p. 30).
Muitas questes referentes primazia da tecnologia no mundo atual so
abordadas pelo autor deste livro de 158 pginas, do aquecimento global privacidade
num mundo conectado, passando pelo industrialismo e a abundncia de bens de
consumo que no levam, necessariamente, felicidade. Porm, seu propsito principal
apontar as tecnologias que podem trazer consequncias ainda mais impactantes: a
nanotecnologia, o melhoramento gentico humano, a potencializao qumica da
inteligncia e da memria e, finalmente, a inteligncia artificial (cincia da
computao) que teria tornado possvel todas as outras. As grandes preocupaes do
autor residem no fato de que, at agora, as invenes tecnolgicas nos tm sido
impostas, e acabamos por aceita-las passivamente. T. aponta, de maneira acertada e
conveniente, que devemos cada vez mais discutir com antecedncia a disseminao de
algumas tecnologias, intervindo democraticamente nos seus caminhos futuros (p.70).
Singularidade o tema do terceiro captulo. O termo emprestado da fsica.
Ele indica um fenmeno extremo como os buracos negros. Na rea da tecnologia, a
singularidade corresponde ao momento no qual a inteligncia artificial suplantaria a
inteligncia humana. T. apresenta este vis tecnolgico do termo desde seu
nascimento na fico cientfica de Vernor Vinge at sua adoo por Ray Kurzweil, que o
popularizou. O aumento exponencial da capacidade computacional estaria relacionado

RESENHAS TECCOGS ISSN: 1984-3585 N 10 jul-dez, 2014

167

Eduardo Camargo

com a Lei de Moore, que atesta que a quantidade de transistores que podem caber
num chip dobra a cada dezoito meses. O que faria o poder dos computadores dobrar no
mesmo tempo. Para Kurzweil, a inteligncia dos supercomputadores deve igualar a
humana por volta de 2045. Ento, atingiramos um limiar a partir do qual a quantidade
se torna qualidade e com isso surgiria inteligncia e conscincia (p.74).
Aps uma breve reflexo sobre as consequncias da singularidade como a
possibilidade de uma superinteligncia ser capaz de produzir uma descrio completa
de cada ser humano, levando imortalidade T. aponta alguns possveis fatores
impeditivos, que os defensores da singularidade parecem ignorar. Ele pergunta (p.79):
Mas, se a singularidade uma equiparao com a inteligncia humana, ser ela
dissocivel da conscincia? Outra questo fundamental da filosofia da mente ainda
no solucionada a relao entre a mente e o crebro (p.81). Aqui, tambm valeria um
destaque do autor, dando conta de que a Lei de Moore no consenso, quando
aplicada aos chips que temos disponveis hoje. Alguns cientistas acreditam que, por
volta de 2020, os transistores alcanaro o limite da miniaturizao, determinando uma
estagnao na tecnologia baseada em silcio. Se a singularidade vier, dever ocorrer
apoiada em outro substrato tecnolgico.
O captulo termina com a discusso de questes filosficas e ticas de uma
possvel superinteligncia inclusive a mistura dos humanos com mquinas atravs do
aperfeioamento gentico e das neuroprteses. T. afirma a necessidade de estarmos
altura da tecnologia que criamos para no nos tornarmos obsoletos e questiona o
acesso democrtico a todos os aperfeioamentos nessas reas (p.85). A verso digital
da clonagem de seres humanos no deveria ser proibida da mesma forma que a
clonagem original acabou sendo (p.88)? Neste ponto, devido relevncia dessas
questes ticas, um maior aprofundamento filosfico seria bem-vindo. Tal fato, no
entanto, no diminui a qualidade da exposio panormica do autor.
Outra questo que pode ser impeditiva singularidade diz respeito ao
problema do significado, que o autor explora no quarto captulo sobre o teste de
Turing (1950) e o argumento do quarto chins de Searle (1984). T. inicia o captulo
revisitando dois dos mais representativos e conhecidos experimentos mentais da IA

RESENHAS TECCOGS ISSN: 1984-3585 N 10 jul-dez, 2014

168

O crebro e o rob

para questionar a possibilidade de uma mquina ser capaz de pensar e de ser

consciente desse pensamento.
Searle conclui, no seu argumento do quarto chins, que dizer que uma mquina
compreende algo um equvoco, pois os pensamentos ou estados mentais de uma
mquina so sobre o nada. Elas no tm qualquer relao com o mundo externo. No
podemos pensar a no ser que pensemos em alguma coisa e, a esta capacidade de
pensar em algo, Searle chama de intencionalidade (p.95). Sua concluso que os
estados intencionais so uma representao do mundo e no podem existir de maneira
inconsciente. Assim a conscincia seria parte fundamental do significado (p.96).
T. afirma que o argumento do quarto chins se transformou num cone da
crtica IA e, consequentemente singularidade. A base da intencionalidade e da
conscincia a vida. Sem um crebro vivo, elas no seriam possveis (p.97). T.
argumenta, ento que esta posio de Searle pode ser questionada. Afinal, o que
vida? Aps reflexes acerca desta questo, conclui em acordo com Daniel Dennett que,
devido ao carter binrio do DNA, a vida um fenmeno computvel, o que permitiria
construir uma rplica do crebro humano. Porm, se assim fosse, porque ele no teria
estados intencionais? O autor lembra que Searle no descarta essa possibilidade,
apenas entende que estamos ainda muito distantes de replicar a matria viva (p. 100).
No final do captulo, o autor apresenta a teoria do significado apresentada por
Wittgenstein nas Investigaes filosficas, que se ope a Searle. Nesta concepo, o
significado gerado pelas prticas de uso da linguagem e no por estados mentais
intencionais associados s palavras e crenas (p.104). A concluso a partir de ento
que o ocupante do quarto chins no poderia gerar smbolos com significado devido ao
carter privado de sua linguagem. Assim, de uma perspectiva wittgensteiniana, o
argumento do quarto chins redundante, deixando de ser uma fortaleza inabalvel.
Mesmo assim, T. acredita que dificilmente um opositor da IA aceitaria a crtica baseada
em Wittgenstein (p.109).
O desenvolvimento da srie de passos argumentativos que levam ao
contraponto entre Searle e Wittgenstein um clmax do livro. De maneira clara e
elegante, T. introduz o leitor a ideias chave de Wittgenstein com relevncia para o
tema do livro.

RESENHAS TECCOGS ISSN: 1984-3585 N 10 jul-dez, 2014

169

Eduardo Camargo

Implicaes ticas
Os dois ltimos captulos tratam de questes ticas envolvendo o
transumanismo,

decorrente

da

associao

homem-mquina

da

reforma

biotecnolgica (cap. 5), assim como da IA biolgica (cap. 6).

T. apresenta uma perspectiva bastante abrangente acerca da problemtica que
as novas tecnologias podem trazem ao debate filosfico. Esta parte do texto
provocativa e questionadora. De androides, como seres orgnicos modificados, aos
robs, como seres totalmente inorgnicos, e passando pelos ciborgues como o meio
termo entre os dois, praticamente todas as possibilidades so enfrentadas. Neste
percurso o autor nos pe em contato com as leis da robtica discutidas por Isaac
Asimov, e com o novo termo robotica, criado por Gianmarco Veruggio para designar
a tica especfica que dever reger as relaes entre humanos e mquinas inteligentes
(p.114).
Quando trata do transumanismo como um programa de aperfeioamento do
ser humano, o autor apresenta as contribuies dos principais cientistas e pensadores
envolvidos com o tema, o bilogo Julian Huxley, o geneticista John Haldane e os
filsofos Max More, Nick Bostron e David Pearce (p. 120). Com relao ao contedo, T.
aponta a nanotecnologia, a engenharia gentica e a IA como as tecnologias que,
combinadas, daro suporte ao aperfeioamento humano. Mas isto trar consequncias
prticas e ticas. No s a inteligncia ser aperfeioada, mas tambm a longevidade.
Quais os problemas sociais decorrentes de vivermos muito mais tempo do que hoje? Os
avanos tecnolgicos estaro disponveis para todos ou apenas para alguns grupos
privilegiados? Quais os riscos com a diminuio da biodiversidade e forte padronizao
da espcie humana? Estas e outras questes prementes levam o leitor, de forma
natural, reflexo.
Na sua parte final o autor aborda o tema da IA biolgica. Trata-se da mistura de
humanos com robs a partir da cultura de neurnios in vitro. A proposta da IA biolgica
no replicar a natureza, mas se apropriar dela e dar continuidade evoluo atravs
de uma combinao entre seres vivos e prteses (p. 138).

RESENHAS TECCOGS ISSN: 1984-3585 N 10 jul-dez, 2014

170

O crebro e o rob

T. apresenta, ento, os trabalhos de Kevin Warwick relativos ao cultivo de

neurnios de fetos de ratos e sua conexo, atravs de microeltrodos, a um rob
(miabots) que oferece informaes sobre o seu entorno (p.138). No futuro, a
perspectiva de utilizar essa tcnica com neurnios humanos. Apesar do estgio
inicial, algumas consequncias podem ser imaginadas. Um rob com crebro idntico
ao humano acoplado a um corpo artificial no desafiaria definitivamente a posio de
Searle? Uma mquina como esta no preservaria os poderes causais do crebro a ponto
de gerar estados intencionais e produzir significado? Estas so algumas das questes
levantadas por T. neste captulo, que flerta com a fico cientfica. (No filme de 1995,
La cit des enfant perdus de Marc Caro e Jean-Pierre Jeunet, por exemplo, um crebro
vive num aqurio.) Mas, como ele mesmo diz, na introduo ao seu ensaio, os filsofos
profissionais perderam espao para a fico cientfica, que passou a ser o grande guia
da agenda futura da cincia (p.19).
T. lembra que a possibilidade de cultivar um crebro de proveta ainda
hipottica e que esse tipo de mquina seria, para Heidegger, o humano inumano sem
nascimento nem morte e produziria uma enorme quantidade de problemas ticos. As
questes aqui tomam a forma de: ser que podemos atribuir cidadania poltica e
direitos civis a um crebro de proveta? O crebro de proveta poder ser considerado
uma pessoa? O captulo encerrado com a oportuna discusso a respeito da biotica e
seus dilemas (p. 147).
O crebro e o Rob: inteligncia artificial, biotecnologia e a nova tica um
ensaio que percorre as principais questes relativas ao impacto dos avanos da IA e da
biotecnologia. O texto claro e preciso, e expe as principais consequncias ticas e
filosficas que enfrentaremos no futuro, mas que j se impe de maneira premente.
Apesar do carter panormico, a obra complexa como o tema exige. Desta forma,
uma obra necessria e bem-vinda.
O leitor-viajante, que embarcou na nau proposta pelo autor, chega seguro ao
porto de origem, sem esconder o desejo por uma nova aventura filosfica. Mritos ao
capito.

RESENHAS TECCOGS ISSN: 1984-3585 N 10 jul-dez, 2014

171

Eduardo Camargo

Referncias
ABU-MOSTAFA, Yaser S. et al., Learning from data: a short course. [S.I.], AML Book.
2012.
EL-HANI, Charbel Nio e QUEIROZ, Joo. Estruturalismo hierrquico, semiose e
emergncia. Em: Computao, cognio, semiose, org. QUEIROZ, Joo et al. Salvador,
EDUFBA, pp. 93-128, 2007.
MCCARTHY, John et al. A proposal for the Dartmouth summer research project on
artificial intelligence. AI Magazine, 27(4):12-14, 1955.
NTH, Winfried. Mquinas Semiticas. Em: Computao, cognio, semiose, org.
QUEIROZ, Joo et al. Salvador, EDUFBA, pp. 159-183, 2007.
SEARLE, John. Minds, brains and science: The 1984 Reith Lectures. St. Ives, Clays,
1984.
TURING, Alan. Computing machinery and intelligence. Mind 49:433-460, 1950.

RESENHAS TECCOGS ISSN: 1984-3585 N 10 jul-dez, 2014

172