10 El Pas de los Estudiantes
CIENCIA Y TECNOLOGA
Aqu se investiga el Porvenir
Un grupo de filsofos, tecnlogos y fsicos analiza en el Instituto del Futuro de la Humanidad de
Oxford los riesgos a los que se expone la especie humana. Al frente de ellos, Nick Bostrom, autor
del libro que ha revolucionado el debate sobre la amenaza que encierra la inteligencia artificial
JOSEBA ELOLA
Necesitamos sabidura para en-
frentar el futuro. Para saber si
los progresos tecnolgicos de
vanguardia van en la direccin
adecuada o no; si favorecen al ser
humano o todo lo contrario. Para
tener una idea de qu hacer si se
presentan escenarios que ponen
en riesgo la supervivencia de la
especie, como los derivados de
la amenaza nuclear, la modificacin
de microbios letales o la creacin
de mentes digitales ms inteligen-
tes que el hombre. A reflexionar
sobre este tipo de cuestiones se
dedican un puado de cerebros
en un lugar ubicado en Oxford y
llamado el Instituto para el Futuro
de la Humanidad.
Al frente de un heterodoxo
grupo de filsofos, tecnlogos,
fsicos, economistas y matem-
ticos se encuentra un filsofo
formado en fsica, neurociencia
computacional y matemticas, un
tipo que desde su adolescencia se
encontr sin interlocutores con los
cuales compartir sus inquietudes
acerca de Schopenhauer, un sueco
de 42 aos que se pasea por las
instalaciones del instituto con un
brebaje hecho a base de vegetales,
protenas y grasas al que denomina
elixir y que escucha audiolibros
al doble de velocidad para no per-
der un segundo de su preciado
tiempo. Se llama Nick Bostrom,
y es el autor de Superinteligencia:
caminos, peligros, estrategias, un
libro que ha causado impacto, una
reflexin acerca de cmo afrontar
un futuro en que la inteligencia
artificial supere a la humana, un
ensayo que ha recibido el respaldo
explcito de cerebros de Silicon
Valley como Bill Gates y Elon Musk,
de filsofos como Derek Parfit o
Peter Singer, de fsicos como Max
Tegmark, profesor del Massachu-
setts Institute of Technology. Un
trabajo que, adems, se col en la
lista de los libros ms vendidos que
elabora The New York Times Book
Review. La ONU le reclama para
que exponga su visin, sociedades
cientficas como The Royal Socie-
ty le invitan a dar conferencias,
una de sus charlas TED lleva ya
contabilizados ms de 1.747.000
visionados. Y Stephen Hawking
ya ha alertado al mundo: hay que
tener cuidado con la inteligencia
artificial.
El Instituto para el Futuro de
la Humanidad FHI, siglas en in-
gls es un espacio con salas de
reuniones bautizadas con nombres
de hroes annimos que con un
gesto salvaron el mundo como
Stanislav Petrov, teniente coronel
ruso que evit un incidente nuclear
durante la Guerra Fra donde
fluyen las ideas, los intercambios
de impresiones, donde florecen
hiptesis y anlisis. Sobre todo, por
las tardes-noches: el jefe es, como
l mismo confiesa, un noctmbulo;
se queda en la oficina hasta las
dos de la madrugada.
En el momento en que sepamos
cmo hacer mquinas inteligentes,
Hay una carrera entre donde se cultiva la tormenta de
ideas y la videoconferencia, un la-
nuestro progreso
berinto de salas dominadas por
tecnolgico y nuestra pizarras vileda con diagramas y
sabidura en cuyo pasillo de entrada cuelga
un cartel que reproduce la portada
La gente se olvida de Un mundo feliz, la visionaria
distopa firmada por Aldous Huxley
de la guerra nuclear. en 1932. Un total de 16 profesio-
Cualquier cambio nales trabajan aqu. Publican en
poltico es un peligro revistas acadmicas, hacen infor-
mes de riesgos para compaas
tecnolgicas, para Gobiernos (por
ejemplo, el finlands) o
para la ONU, que est
consultndoles para po-
ner en marcha su primer
programa sobre inteli-
gencia artificial uno
de cuyos representantes
andaba la semana pasa-
da por las oficinas del
FHI. Niel Bowerman,
director adjunto, fsico
del clima y exasesor del
equipo poltico de Ener-
ga y Medio Ambiente de
Barack Obama, explica
que en el instituto siem-
pre estudian cmo de
grande es un problema,
cunta gente trabaja en
l y cmo de fcil es rea-
lizar progresos en esa
rea para determinar los
campos de estudio.
Bostrom es el hombre
que comanda el instituto,
el que decide por dnde
Portada de la edicin en ingls de se transita, el visionario.
Superinteligencia, de Nick Bostrom. Desarrolla su labor gra-
cias al impulso filantr-
las haremos, afirma Bostrom, en pico de James Martin, millonario
una sala del instituto que dirige, y, interesado en las cuestiones de
para entonces, debemos saber cmo los riesgos existenciales del futuro
controlarlas. Si tienes un agente que impuls el FHI hace 10 aos
artificial con objetivos distintos para que se estudie y reflexione en
de los tuyos, cuando se vuelve lo torno a aquellas cosas en las que la
suficientemente inteligente, es ca- industria y los Gobiernos, guiados
paz de anticipar tus acciones y de por sus particulares intereses, no
hacer planes teniendo en cuenta tienen por qu pensar.
los tuyos, lo cual podra incluir Al filsofo sueco, que form sector que podra otorgar poderes
esconder sus propias capacidades parte en 2009 de la lista de los
de modo estratgico. Expertos 100 mayores pensadores globales
en inteligencia artificial que ci- de la revista Foreign Policy, le inte-
ta en su libro aseguran que hay un resa estudiar, sobre todo, amena-
90% de posibilidades de que entre zas lejanas, a las que no le gusta
2075 y 2090 haya mquinas tan poner fecha. Cuanto ms largo
inteligentes como los humanos.
En la transicin hacia esa nueva
era habr que tomar decisiones.
Inocular valores morales a las actividades
mquinas, tal vez. Evitar que se
vuelvan contra nosotros. Lee
A analizar este tipo de supuestos 1. Lee la noticia y subraya en azul
y escenarios se dedica este hombre las ideas principales y en rojo
que en estos das lee intensivamente aquellas cosas que no com-
sobre machine learning (aprendizaje prendas.
automtico, rama de la inteligen- 2. Qu es el Instituto para el
cia artificial que explora tcnicas Futuro de la Humanidad (FHI)?
para que las computadoras puedan Anota tambin de qu manera
aprender por s solas) y economa se financia.
de la innovacin. Para Bostrom el 3. Busca en el texto y explica
tiempo nunca es suficiente. Leer, en qu consiste el machine
leer, leer, asentar conocimientos, learning.
profundizar, escribir. El tiempo 4. Cul es el ttulo del libro que 9. Explica por qu para Bostrom
es precioso. Es un bien de gran ha escrito Nick Bostrom? Es
valor que constantemente se nos correcta su traduccin?
desliza entre los dedos. 5. Tras leer el texto, resume con
Estudiar, formular hiptesis, tus propias palabras qu es la
desarrollarlas, anticipar escenarios. inteligencia artificial.
Es lo que se hace en este instituto
sea el plazo, dice, mayores son
las posibilidades de un escenario
de extincin o de era poshumana.
Pero existen peligros a corto plazo.
Los que ms le preocupan a Bos-
trom son los que pueden afectar
negativamente a las personas,
como las plagas, la gripe aviar,
los virus, las pandemias.
En cuanto a la inteligencia ar-
tificial y su cruce con la militar,
dice que el riesgo ms claro lo
presentan los drones y las armas
letales autnomas. Y recuerda que
la guerra nuclear, aunque tiene
pocas probabilidades de llegar, sigue
siendo un peligro latente. La gente
parece haber dejado de preocupar-
se por ella; un cambio para mal
en la situacin geopoltica podra
convertirse en un gran peligro. La
biotecnologa y, en particular, la
posibilidad que ofrece el sistema de
edicin gentica CRISPR de crear
armas biolgicas, tambin plantea
nuevos desafos. La biotecnolo-
ga est avanzando rpidamente,
va a permitir manipular la vida,
modificar microbios con gran pre-
cisin y poder. Eso abre el paso
a capacidades muy destructivas.
La tecnologa nuclear, seala, se
puede controlar. La biotecnologa,
la nanotecnologa, lo que haga al-
guien en un garaje con un equipo
de segunda mano comprado en
eBay, no tanto. Con poco se puede
hacer mucho dao.
Superada su etapa transhuma-
nista fund en 1998 junto a Da-
vid Pearce la Asociacin Mundial
Transhumanista, colectivo que abo-
ga por mejorar al humano incor-
porndole tecnologas, Bostrom
ha encontrado en la inteligencia
artificial el terreno perfecto para
desarrollar su trabajo. La carrera
en este campo se ha desatado, gran-
des empresas Google compr en
2014 la tecnolgica DeepMind y
Estados pugnan por hacerse con un
humanos en mltiples trabajos.
inmensos, casi inimaginables.
Uno de los escenarios que pro-
yecta en su libro, cuya versin en
espaol public el 25 de febrero la
editorial Teell, es el de la toma de
poder por parte de una inteligencia
Analiza
6. Cmo es la forma de trabajo
en este instituto? Dnde se
localiza? Qu tipo de perso-
nas trabajan en l? A qu se
dedican principalmente?
7. Para cundo se calcula que
las mquinas pueden ser ms 11. Qu cambio social de la
inteligentes que los humanos?
Qu decisiones habra que
tomar?
8. Segn Bostrom, cules son
las mayores amenazas para la
humanidad a corto plazo?
la biotecnologa supone un
riesgo mayor que la tecnologa
nuclear.
10. Qu elementos de la inteli-
gencia artificial pueden
Lunes 29 de febrero de 2016
artificial (AI, siglas en ingls). Se
produce una explosin de inte-
ligencia. Las mquinas llegan a
un punto en que superan a sus
programadores, los humanos. Son
capaces de mejorarse a s mismas.
De desarrollar grandes habilidades
de programacin, estratgicas, de
manipulacin social, de hacking.
Pueden querer tomar el control
del planeta. Los humanos pueden
ser un estorbo para sus objetivos.
Para tomar el control, esconden sus
cartas. Podrn mostrarse inicial-
mente dciles. En el momento en
que desarrollan todos sus poderes,
pueden lanzar un ataque contra la
especie humana. Hackear drones,
armas. Liberar robots del tama-
o de un mosquito elaborados en
nanofactoras que producen gas
nervioso, o gas mostaza.
Esta es la sntesis del desarrollo
de un escenario, elaborado con
mtodos de racionalidad bayesiana,
con aproximaciones probabilsticas
de razonamiento. Pero, como deca
la crtica de Superinteligencia de la
revista The Economist, las implica-
ciones de la introduccin de una
segunda especie inteligente en la
Tierra merecen que alguien piense
en ellas. Antes, muchas de estas
cuestiones, no solo las de AI, solan
estar en el campo de la ciencia-
ficcin, de la especulacin, dice
Bostrom, para mucha gente era
difcil de entender que se pudiera
hacer trabajo acadmico con ello,
que se pudieran hacer progresos
intelectuales.
El libro tambin plantea un
escenario en que la inteligencia
artificial se desarrolla en distin-
tos sectores de manera paralela y
genera una economa que produ-
ce inimaginables cotas de rique-
za, descubrimientos tecnolgicos
asombrosos. Los robots, que no
duermen, ni reclaman vacaciones,
producen sin cesar y desbancan a los
Los robots nos enriquecern
o nos reemplazarn?
Primero, tal vez nos enriquez-
can. A largo plazo ya se ver. El
trabajo es costoso y no es algo
deseado, por eso hay que pagar
suponer un mayor peligro
para los seres humanos? Sin
embargo, qu otra alternativa
ve tambin Bostrom a esta
inteligencia artificial? En
qu pueden ayudar a la huma-
nidad?
humanidad puede llegar a
generar?
12. Segn el director del FHI, pue-
de la inteligencia artificial llegar
a suponer un peligro para la
supervivencia de la especie
humana? Por qu?
13. Explica por qu algunas de sus
ideas se consideran contro-
vertidas y, en concreto, cules
de ellas han generado ms
polmica.
Lunes 29 de febrero de 2016
Sobre estas lneas, Nick Bostrom,
en una de las salas del Instituto
del Futuro de la Humanidad. De-
bajo, la fachada del instituto y la
puerta de entrada a sus instala-
ciones, ubicadas en Oxford./ Tom
Pilston (Getty) y Carmen Valio
a la gente por hacerlo. Automati-
zarlo parece beneficioso. Eso crea
dos retos: si la gente pierde sus
salarios, cmo se mantiene? Lo
cual se convierte en una cuestin
poltica, se piensa en una garanta
de renta bsica? En un Estado
del bienestar? Si esta tecnologa
realmente hace que el mundo se
convierta en un lugar mucho ms
rico, con un crecimiento ms r-
pido, el problema debera ser fcil
de resolver, habra ms dinero. El
otro reto es que mucha gente ve
su trabajo como algo necesario pa-
ra tener estatus social y que su vida
tenga sentido. Hoy en da, estar
desempleado no es malo solo por-
que no tienes dinero, sino porque
mucha gente se siente intil. Se
necesitara cambiar la cultura para
que no pensemos que trabajar por
dinero es algo que te da valor. Es
posible, hay ejemplos histricos:
Investiga
14. Escribe en tu cuaderno en qu
consiste el transhumanismo.
Puedes ampliar la informacin
del artculo en Internet.
15. En el FHI cuelga un cartel que
reproduce la portada de un
libro. De cul se trata? Sabes
cul es su argumento? Por
qu crees que estar en este
instituto? Busca infomacin
y responde a todas estas
preguntas.
16. Explica qu es la racionalidad
bayesiana y cul es su
metodologa.
Elabora
17. Existen obras literarias y pel-
culas que analizan el conflicto
los aristcratas no trabajaban
para vivir, incluso pensaban que
tener que hacerlo era degradante.
Creemos que las estructuras de
significado social son universa-
les, pero son recientes. La vida
de los nios parece tener mucho
entre las mquinas que han
llegado a ser ms inteligentes
que los seres humanos y estos.
Busca algunas de ellas
y explica su argumento.
18. Despus escribe un breve
relato o elabora un cmic que
recoja esta situacin.
19. Tras leer el texto, y con otra
informacin que busques en
Internet, redacta un currculo
de Nick Bostrom. Recuerda
que debes incluir la informa-
cin ms importante y en
orden cronolgico.
Valora
20. El FHI es una iniciativa privada
cuyos informes son solo
orientativos. Repasa las ideas
sentido incluso si no hacen nada
til. Soy optimista: la cultura se
puede cambiar.
A Bostrom se le ha acusado
desde algunos sectores de la comu-
nidad cientfica de tener visiones
demasiado radicales. Sobre todo,
principales del reportaje y
piensa si te parece de utilidad
su trabajo, aportando argu-
mentos a tu respuesta.
21. Qu instituciones les han
pedido informes? Con qu fin?
Crees que deben ser tenidos
en cuenta?
22. Explica lo que quiere decir
Bostrom en las lneas finales
de su entrevista: Necesitamos
un cierto nivel de sabidura
y de colaboracin para el mo-
mento en el que alcancemos
determinados hitos tecnol-
gicos, para sobrevivir a esas
transiciones. Despus, busca
en Internet qu quiere decir
la expresin adolescencia
tecnolgica, en qu contexto
CIENCIA Y TECNOLOGA
en su etapa transhumanista. Sus
visiones sobre la edicin gentica
o sobre la mejora del humano son
controvertidas, seala Miquel-
ngel Serra, bilogo que acaba de
publicar junto a Albert Cortina
Humanidad: desafos ticos de las
se usa y relacinalo con las
palabras de Bostrom.
23. T
 ras realizar las actividades,
abrid un debate en el aula
acerca de las posibilidades de
futuro que se plantea el FHI.
Debis reflexionar sobre cu-
les os parecen ms probables
y cules poco probables.
Tratad de imaginar entre
todos ese futuro del que
habla el texto repasando
algunos aspectos de la socie-
dad, como la educacin,
el transporte, la sanidad,
las ciudades, el trabajo, el
deporte, la msica, etc.
Lee esta noticia en: http://el-
pais.com/elpais/2016/02/12/
ciencia/1455304552_817289.html
El Pas de los Estudiantes 11
tecnologas emergentes. Somos
muchos los escpticos con las
propuestas que hace. Serra, no
obstante, deja claro que Bostrom
est ahora en el centro del debate
sobre el futuro de la inteligencia
artificial, que es una referencia.
Proyecta usted una visin
demasiado apocalptica en su li-
bro de lo que puede ocurrir con
la humanidad?
Mucha gente puede quedar-
se con la impresin de que soy
ms pesimista con la AI de lo que
realmente soy. Cuando lo escrib
pareca ms urgente tratar de ver
qu poda ir mal para asegurarnos
de cmo evitarlo.
Pero, es usted optimista con
respecto al futuro?
Intento no ser pesimista ni
optimista. Intento ajustar mis
creencias a lo que apunta la evi-
dencia; con nuestros conocimien-
tos actuales, creo que el resultado
final puede ser muy bueno o muy
malo. Aunque tal vez podramos
desplazar la probabilidad hacia
un buen final si trabajamos du-
ramente en ello.
O sea que hay cosas que ha-
cer. Cules?
Estamos haciendo todo lo
posible para crear este campo
de investigacin de control del
problema. Hay que mantener y
cultivar buenas relaciones con
la industria y los desarrolladores
de inteligencia artificial. Aparte,
hay muchas cosas que no van
bien en este mundo: gente que
se muere de hambre, gente a la
que le pica un mosquito y contrae
la malaria, gente que decae por
el envejecimiento, desigualdades,
injusticias, pobreza, y muchas son
evitables. En general, creo que
hay una carrera entre nuestra
habilidad para hacer cosas, para
hacer progresar rpidamente
nuestras capacidades tecnolgi-
cas, y nuestra sabidura, que va
mucho ms despacio. Necesitamos
un cierto nivel de sabidura y de
colaboracin para el momento en
que alcancemos determinados hi-
tos tecnolgicos, para sobrevivir
a esas transiciones.