LOS DERECHOS DE LOS ROBOTS Y LA HUMANIDAD Por: Guiber CONDORI MAMANI I. INTRODUCCION.

Nosotros decidimos si evolucionar en armona con las mquinas inteligentes preparnos para ser relegados como inteligencia predominante del planeta. (Jurista Rafael Garcia Cepas). El presente trabajo deber ser considerado solamente como un intento de: tratado sobre los derecho de los robots y su relacin con la humanidad, dado que su desarrollo fue en casi un semana, y a la bibliografa cientfica de difcil acceso dado que estos son publicados en su mayora en ingles, de cualquier forma le hacemos la lucha por tratar y desarrollar el tema; el mismo que se construye en base a las ideas y argumentos cientificos que provienen de centros especializados de investigacin en robotica, cibernetica, nanotecnologia, ingenieria genetica, biotecnologa, informatica, etc. Como el Massachussets institute of tecnology, y algunas de las universidades mas importantes del mundo, y autores, entre los que se destacan Raymond Kurzweil (1999), Hans Moravec (1999; 2003), Bill Joy (2004), Michael Knasel (1979), Jack Dunietz, Thomas Sturm (2003), Rodney Brooks (2002) y Nick Bostrom (2000; 2001), notoriamente, no son profetas del futuro, futurlogos o escritores de ciencia-ficcin, sino que, en la gran mayora de los casos, se trata de inventores y especialistas en robtica, tecnologa e inteligencia artificial que, desde los centros ms poderosos de investigacin del planeta, han participado desde hace aos en el desarrollo de las tecnologas sobre las que ahora se reflexionan. Cuando la sociedad es agraviada por una conducta que daa o lesiona un bien jurdico protegido, es el estado quien en su representacin opera mecanismos jurisdiccionales para reparar el dao causado y alcanzar la indemnizacin debida. Pero, si aquella accin u omisin que daa o lesiona no se encuentra regulada o prescrita, vale decir existe un vaci o laguna legal, como ser tratado?. Acaso quedaran impunes y sea necesario recin regularlos?. Porque, recordemos que, en el derecho penal rige el principio nollum crimen nollum poena sine lege, el

principio de legalidad por el cual no hay pena ni crimen sino esta previamente tipificada la conducta delictuosa. Es necesario crear mecanismo de prevencin frente a la llegada de maquinas o robots pensantes que en un futuro no muy lejano convivirn con nosotros, no solo como una poltica de Estado sino como una poltica mundial pro-humanitario, tienen que batallar en ello organizaciones mundiales como la ONU y otros. Es propsito de este trabajo, alertar los riesgos que pueda presentar los robots inteligentes para la humanidad, el que puede degenerar no solo la convivencia en paz de la humanidad o vulneracin encubierta de los derechos fundamentales de la persona humana, sino tambin en va de escape e impunidad la utilizacin nociva o ilegal de estos robots. Sin duda en el presente trabajo planteado, no solo se queda en alertar los peligros que pueda significar los robots inteligentes autnomos, sino que tambin, en un argumento algo documentado para un intento de legislacin de la futura convivencia de humanos y maquinas inteligentes autnomos. El presente trabajo esta desarrollado en un nico fascculo que comprende siete ttulos: Derecho de los robots, Derechos de Cuarta Generacion, Los Robots Conquistan sus Derechos, Derechos que tendran los Robots, Leyes de la Robotica, Robotica o tica Robotica, Codigo de Etica Robotica. Para terminar este liminar, solo colmaremos nuestras aspiraciones, si solamente logramos despertar en el lector el inters por conocer el desarrollo acelerado y sus posibles implicancias de la ciencia con la humanidad, concretamente la convivencia entre los robots inteligentes autnomos y los humanos. "Nosotros no nos dedicamos a predecir el futuro", explicaba Sir David King, asesor cientfico del Gobierno britnico, "pero necesitamos contemplar y explorar todas las posibilidades para asegurarnos de que el Gobierno est preparado para ejercer sus responsabilidades a largo plazo". GUIBER CONDORI y RENE NINA. II. DERECHOS DE LOS ROBOTS.

Tienen derechos los robots? En la actualidad, esta pregunta tiene fcil respuesta: no tienen derechos; solo la persona fsica orgnica o su extensin en persona jurdica es la nica legitimada como sujeto de derechos y obligaciones, Sin embargo, se debemos recordar que, este ltimo en algn momento de la historia del Hombre, al igual que los negros, los nios, las mujeres, los extranjeros tampoco fueron considerados como personas legales (las empresas). De acuerdo con las leyes vigentes (nuestro ordenamiento jurdico nacional y supranacional), los robots son simplemente una propiedad inanimada sin derechos ni deberes. No son personas legales (al igual que las mquinas, las computadoras o cualquier otro electro-domestico) y nuestro sistema judicial no los toma como sujeto de derechos y obligaciones. En el presente siglo, la persona no es objeto de comercio y los robots inteligentes s, por tanto meras propiedades, por lo que cualquier conflicto de derechos entre hombres y mquinas inteligentes no tiene cabida y no debe generar ninguna duda; Actualmente, cualquier robot se considera un bien instrumental; en consecuencia, su propietario puede hacer el uso que quiera incluso hasta destruirlo. Esto es porque la tecnologa actual no es capaz de crear robots con apariencia, reacciones y sentimientos totalmente humanos. Pero, qu pasara cuando esto sea posible? En un futuro no muy lejano, cuando la diferencia entre un robot y un ser humano sea tan solo la cantidad de tejido orgnico que contiene uno u otro, acaso ser esa diferencia la que determine quien es sujeto de derechos o no, si ello fuere cierto, que pasara entonces con los humanos-prtesis, por ejemplo las mujeres con prtesis mamarias. Si un robot antropomorfo, fuese capaz de pensar, de sostener debates interesantes o de hacer nuevos descubrimientos cientficos (en suma, si desarrollase habilidades cognitivas y afectivas) al igual que un humano, habra que empezar a pensar seriamente sobre qu posicin ocupa u ocupara la mquina. Tendr el propietario derecho a desenchufarla, o a destruir su

programacin inteligente? Constituira esto un asesinato? [Ritchie, 1985, pg. 145] Aunque, una vez asesinada, se pudiese reconstruir tan bien como si fuera nueva? Sera este caso un intento de asesinato? [Freitas Jr., 1985]. Pero, si en vez de ser intelectualmente brillante, qu sucedera si mostrase una gama de emociones equivalentes a las que componen al ser humano promedio? Incluso ms, si tuviese la forma de un perro, con un nivel mental equivalente a ese animal y su limitada gama de emociones, sera cruel pegarle, o sera nada ms que golpear a piezas metlicas o de plstico? [Storrs Hall, 2000]. Que derechos tendrn los robots cuando sean casi seres humanos? Si hasta los animales conquistaron relativamente sus derechos, podremos negarle acaso a que conquisten sus derechos?. III. DERECHOS DE CUARTA GENERACION?.

Debemos recordar que existen derechos de Primera Generacin referido a los derechos civiles; Segunda Generacin referido a los derechos polticos; Tercera Generacin referidos a los derechos sociales, y hoy en da se habla de derechos de Cuarta Generacin referidos a la biotica que busca impedir la destruccin de la vida y regular la creacin a travs de la ingeniera gentica. "La llamada cuarta generacin de los derechos humanos vendr de la mano de un desarrollo crtico del concepto ciudadana digital" Javier Bustamante, DIRECTOR DEL CICTES Y VICEPRESIDENTE DE FIAP. Te puedes imaginar un pas sin leyes? Sabes para qu sirven?

Las leyes son las normas que organizan y facilitan nuestra convivencia en paz social, ayudndonos a resolver los problemas que puedan surgir de ella sin tener que recurrir a la violencia. Por ello deviene en necesario tener un cdigo de tica de los robots, como lo hace Corea del Sur, solo las leyes establecen derechos y obligaciones cuya inobservancia deviene en sanciones impuestas por el Estado, lo que hace

obligatorio su observancia en nuestras relaciones de convivencia y que mejor si tenemos conciudadanos digitales (robots), ellos tendran derechos y tambin obligaciones a observarse durante su desempeo en la sociedad. Entre otros se define a un Robot como un Aparato automtico que realiza funciones normalmente ejecutadas por los hombres. Y a la Robtica como El conjunto de conocimientos tericos y prcticos que permiten concebir, realizar y automatizar sistemas basados en estructuras mecnicas poliarticuladas, dotados de "inteligencia artificial" y destinados a la produccin industrial o a sustituir al hombre en diversas tareas. Lo que hace que un robot solo difiera de la humanidad en la cantidad de tejido orgnico humano, lo que no constituye en condicin suficiente y necesaria para que se le niegue a conquistar sus derechos. Pelculas como Terminator o Series como Battlestar Galactica, no hacen ms que mostrarnos uno de los miedos ms profundos del hombre: ser desplazados por sus propias creaciones. Es por eso que en una hbil jugada, el escritor de ciencia ficcin Isaac Asimov cre las tres leyes de la robtica que regularan, a travs de la lgica, las relaciones entre el hombre y las mquinas. Por lo que cabe en necesario crear y/o dictar normas de convivencia entre los hombres y robots inteligentes autnomos. IV. LOS ROBOTS CONQUISTAN SUS DERECHOS.

La prxima vez que golpee el teclado por alguna frustracin con su PC, piense que algn da esta podr demandarlo por abuso de autoridad.

Cuando naci la robtica imperaba el miedo a que los robots se levantaran contra la humanidad; hoy, segn estudios, como: El informe, que se titula "Sigma y Delta", fue realizado por la oficina en Gran Bretaa del Centro de Observacin del Horizonte de la Ciencia y la Innovacin. En su apartado "Sueo utpico o el

ascenso de las mquinas?"; La investigacin realizada por el programa Horizon Scanning del Departamento de Ciencia e Innovacin del Reino Unido. La elaboracin de las 246 pginas del informe, llamado Escaneos Sigma y Delta, fueron tarea conjunta de la sociedad Outsights-Ipsos Mori y el Instituto para el Futuro (IFTF), ubicado en Estados Unidos; Centro de Investigaciones Europeo de Robots, etc., confluyen en que, se teme que tendran que convivir los humanos con la primera inteligencia artificial, quienes acaben exigiendo que se les reconozcan sus derechos o finalmente demandando a sus dueos ante los tribunales.

El tema controvertido tiene que ver con la Inteligencia Artificial, dentro de 50 aos, dicen los expertos, los robots sern tan listos que querrn votar, pagar impuestos y tener seguridad social, incluso puede ser que, algn da, stos argumenten que son seres conscientes y demanden la igualdad de derechos. Es por eso que, por uno u otro camino, hay quienes afirman que el homo sapiens compartir el planeta con formas de vida sinttica que hasta podran tener derechos legales. Segn Rodney Brooks "criaturas artificiales" alcancen un nivel de inteligencia competitivo con el de las personas, y posean "como las personas, derechos y responsabilidades". El experto ha explicado que los avances, en los ltimos aos, en este terreno, permiten pronosticar la aparicin de numerosos aparatos con "funcionamiento autnomo que tomarn decisiones y juicios por s mismos en un nmero creciente de aspectos de nuestra vida". "Nuestra relacin con estas criaturas artificiales ser bastante diferente a la que mantenamos con las mquinas y sistemas anteriores, porque se comportarn como nosotros". Que pasara si los robots se desarrollan hasta alcanzar la capacidad de reproducirse, superarse y desarrollar su propia inteligencia artificial?

El proletariado, por ejemplo, fue el motor de uno de los cambios sociales ms importantes del siglo 20, principalmente debido a la importancia de su fuerza colectiva y por ser el verdadero motor de los medios de produccin burgueses.

Entonces, cuando las mquinas dominen reas que hasta ahora eran indmitas para el hombre, tendrn derecho a reclamar? Si esto ocurriera, los robots adquiriran ciertas responsabilidades tales como el deber de votar, de pagar impuestos... 4.1 Cuando tendrn derechos lo robots? El da que se les d la capacidad de reproducirse, mejorar o pensar por s mismos, los robots cobrarn conciencia de su papel en la sociedad. Cuando estos alcancen la capacidad de reproducirse, superarse y desarrollar su propia inteligencia artificial competitiva con el del ser humano, sean concientes, etc., concretamente cuando hayan desarrollado sus capacidades intelectivas y emocionales al igual que un ser humano. Mas facil no puede ser, cuando un robot sea igual que un Humano o supere a ste. En 1999, dos cientficos, Raymond Kurzweil y Hans Moravec, lanzaron, de forma independiente, libros acadmicamente serios proclamando que en el prximo siglo nuestra propia tecnologa computacional nos sobrepasar intelectual y espiritualmente. Las computadoras, alegan estos dos autores, se volvern no slo ms profundamente creativas, sino ms profundamente emotivas, y por tanto usurparn nuestro lugar privilegiado de producto ms elevado de la evolucin 4.2 Sobre el desarrollo intelectivo de un robot. Moravec sostiene que no es el cuerpo mecnico lo difcil de obtener; de hecho, afirma, brazos articulados y otros mecanismos de movimiento ya existen en los robots industriales. Lo difcil de alcanzar, por el contrario, es el cerebro artificial basado en la computadora, que sigue estando, aun hoy, muy por debajo del nivel de sofisticacin necesario para construir un robot humanoide (Moravec 1999a y 2003). Con todo, sostiene Moravec, las cosas estn cambiando. En los prximos aos aparecern progresivamente generaciones de robots universales cada vez ms inteligentes que sobrepasarn, poco a poco, al cerebro humano. Por qu de repente ahora? La respuesta, dice Moravec, es que luego de dcadas de 1 MIPS (millones de instrucciones por segundo, siendo una instruccin un trabajo simple

como sumar dos nmeros de dos dgitos), el poder de computacin disponible para robots de investigacin se dispar en la dcada del noventa a 10, 100 y ahora 1000 MIPS. A mediados del siglo XXI, sostiene Moravec, con computadoras que ejecuten no menos de 100 billones de instrucciones por segundo, se podrn construir robots con las mismas capacidades de percepcin, cognicin y razonamiento que poseen los seres humanos. La analoga entre la capacidad de clculo de una computadora y un cerebro humano se basa en la cantidad de MIPS que requiere una tarea sencilla como la que realiza la retina al reconocer una imagen. As, la capacidad de rendimiento por masa de retina multiplicado por la masa del cerebro es igual a la capacidad de clculo necesaria para alcanzar la inteligencia humana, es decir, 100 millones de MIPS (Hager, Bsch, Bruckmeyer 2003). A pesar de que las PCs en 2003 son todava 100.000 veces ms dbiles que el cerebro humano, dice Moravec, el objetivo de desempeo humano no es imposiblemente lejano. El camino recorrido por las computadoras en las ltimas dcadas y la consecuente proyeccin para las prximas parece indicar que en no mucho tiempo ser posible construir una mquina automtica con las capacidades intelectuales de un ser humano. Raymond Kurzweil en un tono aun ms proftico pero con todo cientfico: Una vez que, alrededor del ao 2020, se haya conseguido la capacidad humana en un ordenador personal de mil dlares, nuestras mquinas mejorarn el coste de su capacidad de clculo por un factor igual a dos cada doce meses. Esto significa que la capacidad de computacin se duplicar diez veces en cada dcada, lo que equivale a un factor igual a mil cada diez aos. As, hacia el ao 2030 un ordenador personal estar en condiciones de simular el poder cerebral de un pueblo pequeo, en 2048 el de toda la poblacin de Estados Unidos, y en 2060 el de un billn de cerebros humanos. Si estimamos la poblacin humana en 10 mil millones de personas, hacia el ao 2099 un centavo de dlar de informtica tendr una capacidad de computacin mil millones de veces superior a la de todos los seres humanos de la tierra. Por supuesto, puedo equivocarme en un

ao o dos. Pero los ordenadores del siglo XXI no adolecern de falta de capacidad de computacin ni de memoria. Los robots autnomos son capaces de tomar decisiones sin intervencin humana. En un nivel simple por ejemplo, pueden ser aspiradoras que "deciden" cundo deben desplazarse de una habitacin a otra, o cundo deben regresar a la fuente para recargar sus bateras. 4.3 Sobre el desarrollo emocional de los Robots. David Levy, doctor en inteligencia artificial, sobre su tesis un da habr matrimonios entre robots y seres humanos. Establece que no es una opinin superficial las bases de su tesis, sino el producto de aos de investigacin y del cotejo de fuentes muy variadas. La inteligencia artificial progresa cada vez ms rpido. Mucho ms rpido que hace 20 aos. Y progresar todava ms rpido en el futuro. En apenas 30 o 40 aos los ordenadores sern mucho ms poderosos y los cientficos podrn crear robots muy similares a las personas. Programas con emociones artificiales que se asemejen a las de los seres humanos. No hay nada que nosotros podamos hacer que un robot no pueda hacer dentro de 30 aos. Hoy ni siquiera los ordenadores ms poderosos son tan poderosos como el cerebro humano. Segn diversos expertos, en unos 12 aos los cientficos podrn crear un ordenador con el mismo poder que el cerebro humano. Y tardarn unos 10 aos ms en crear uno cuya capacidad sea 10.000 veces mayor. Esa es la esencia de la tesis de Levy. A partir de 2040, todo lo que hace de alguien una persona atractiva se podr reproducir artificialmente, y esto abre la puerta a un futuro incierto. Entrevistado Levy, dice: No tengo duda de que habr robots que se parezcan ms y ms a los seres humanos. Fjese usted en esta mujer [abre un libro de robtica y aparece una hermosa presentadora]. Lo que usted ve es un robot japons. Es una rplica exacta de una periodista de la televisin nipona. Sus creadores reconocen que la perfeccin de la rplica es relativa y cifran en 10 segundos el tiempo que una persona tarda en darse cuenta de

que no es una persona sino un robot. Pues bien, los mismos expertos dicen que dentro de unos aos ese tiempo de reaccin habr crecido hasta los 10 minutos. Y poco a poco, cada vez ms hasta que las diferencias sean imperceptibles. Estoy seguro de que las podrn tener emociones los robots. O al menos se comportarn como si las tuvieran. Los robots llorarn, se enfadarn, se pondrn contentos, se emocionarn segn estn o no programados para ello. No sern libres para tener esas emociones pero los efectos sern los mismos. Apenas crucen esa lnea, la gente dejar de verlos como robots y la cuestin entonces ser como tratarlos. Dentro de unas dcadas, los robots podrn ser ms inteligentes, ms hermosos, ms nobles que los seres humanos. De verdad cree usted que no acabaremos enamorndonos de ellos? No tengo duda de que acabar habiendo matrimonios con robots. Y me permito apuntar que se legalizarn primero en el Estado de Massachusetts. Cuando tengan robots que se comporten como personas, la generacin futura los acabar aceptando. La Cuestin. -Cul es segn usted el Rubicn a partir del cual empezaremos a considerarlos no como aparatos sino como semejantes? -Quiz cuando creemos robots capaces de percibir nuestro estado de humor y comportarse de acuerdo con l. Cuando usted va al hospital, le ponen unos sensores que miden su presin arterial o el pulso cardiaco Son aparatos hoy por hoy muy grandes, pero la ciencia los crear mucho ms pequeos. Sensores que puedan evaluar nuestro estado de humor. Hoy ya existen aparatos que pueden evaluarlo con un 70% de acierto pero piense en el futuro. Cuando estos dispositivos sean ms precisos y se puedan implantar dentro de un robot, ste podr decir si ests enfadado o feliz. Y si ests enfadado, tratar de averiguar el motivo y de cambiar tu estado de humor. Si lo logra por ejemplo con un abrazo, aprender de la experiencia y har lo mismo la prxima vez. Sern ms agradables que las personas.

4.4 CUENTO SOBRE DERECHOS NO HUMANOS DERECHOS NO HUMANOS (Matas Parmigiani) El consejo del gobierno terrestre estaba reunido en el gran saln del complejo gubernamental. Unas doradas hebras de luz se comenzaban a escurrir por las ventanas. El sistema de simulacin de rotacin era increble si se lo analizaba en profundidad, tan increble que, como las mejores cosas, poca gente notaba que en realidad la humanidad no estaba en tierra firme desde haca mas de doscientos aos, sino en unos gigantescos complejos que giraban alrededor de la reserva natural tierra, que dicho sea de paso, no era la nica. El consejo era una evolucin lgica de lo que haba comenzado en el ya lejano siglo XX: La Organizacin de las Naciones Unidas, devenida a gobierno global a fines del siglo XXI. Con el tiempo y la estandarizacin de las costumbres humanas se haba hecho prescindible contar con tanta cantidad de miembros, que al ver disminuidas sus funciones y ser slo administradores se limitaban a apenas unas cincuenta personas (con la administracin de una poblacin de veinte mil millones de seres humanos, sin contar a los robots y a los hbridos, slo en el "Sistema Tierra"). El tema a analizar para generar opciones de votacin ser explicado por la unidad TR-27 llamada "Justo" aclar el presidente del consejo, ante la mirada atnita y los murmullos que vena de los dems miembros. No era habitual que un robot planteara sus sugerencias al consejo. Justo comenz su alocucin: Seores humanos: la razn de mi visita, que mi unidad de reconocimiento emocional detecta como atpica y de hecho lo es, es exponer la carta de derechos de mis pares robots, derechos civiles como miembros de sta, su sociedad. Un nuevo murmullo ahora ms pronunciado pobl la sala. Silencio por favor solicit el presidente, aunque haba sido parte del cmulo de palabras. Pedimos continu Justo que se nos d el derecho a votar las acciones que implican a los de nuestra clase y a futuro, las acciones de toda ndole. Uno de los concejales no aguant su indignacin y en tono irnico dijo: Claro! Seguro! Y despus van a querer formar parte del consejo!

Si bien registro un tono irnico de 6,5 puntos, no veo por qu su sugerencia puede ser ilgica. El concejal se hizo para atrs como si le hubiesen lanzado una granada de mano. Yo no he sugerido nada! Digo que esto es un disparate! Convengamos en que hay una difcil barrera a sortear, Justo dijo el presidente, tratando de poner paos fros al asunto. Ningn ser humano aceptara tener los mismos derechos que un ser que piensa mucho ms rpido y precisamente que l, y que adems tiene una expectativa de vida varias veces mayor, slo signada por el avance de la tecnologa para luego trasladar, en algunos casos, sus memorias a un nuevo ser ms avanzado, lo que en realidad es una prolongacin de su vida, sin mencionar las capacidades mentales y emocionales profundas muy superiores todava de un ser humano. Y si un robot pudiera canjear su capacidad de vivir ms y su precisin por sus derechos o al menos los derechos a decidir sobre su vida y la de sus pares? Se hizo silencio en el recinto, nadie aventur una palabra, la apreciacin sonaba lgica y, mientras se sostuviera el control de las decisiones sobre humanos, nadie encontraba pretextos racionales para frenar una medida. Otro concejal habl: Y cmo planea hacer que un robot viva una cantidad estipulada de tiempo Justo, le pondr un cronmetro a cada unidad? Una carcajada surc el aire ante la irnica pregunta, a la que le robot, habituado a las costumbres humanas, respondi con una mueca. No exactamente, concejal Surez. Segn tengo entendido, ustedes poseen un sistema circulatorio que no slo lleva nutrientes a las distintas partes del cuerpo sino tambin oxgeno, y este ltimo, adems de ser vital, tambin produce el deterioro permanente de sus sistemas. Bajo el marco de la ltima adaptacin de estandarizacin a la cual fuimos sometidos, todo robot posee sistema circulatorio de fluidos. Slo tendremos que agregar a quienes acepten ser miembros civiles de esta sociedad un componente esclerotizante a la mezcla de esos fluidos... La exposicin haba sido tan brillante que la jerrquica audiencia de Justo realmente qued impresionada. El sacrificio de la inmortalidad por sus propios derechos era algo que ni siquiera los humanos se haban atrevido a hacer en muchas ocasiones. Luego de aquella maana, y como era debido, el consejo envi la propuesta a travs de Meganet para que todos los ciudadanos humanos votaran la medida, y sta fue aprobada.

Algunos la aprobaron por creer que era justa y otros tan slo por el humano placer de ver la cada de la inmortalidad robot frente a sus ojos. V. DERECHOS QUE TENDRN LOS ROBOTS.

El da que se les d la capacidad de reproducirse, mejorar o pensar por s mismos, los robots cobrarn conciencia de su papel en la sociedad y podrn reclamar derechos:

Qu tipos de derechos se les debera otorgar y/o negar? Se les pueden aplicar los derechos humanos? Si un robot emula perfectamente las caractersticas humanas, podra reclamar ser miembro de la especie? No se podra exigirle que tenga un cuerpo fsico como el humano, ya que con ese criterio se deberan rechazar tambin a las personas que cuentan con partes artificiales. Cul ser el lugar que los robots ocupen dentro de la sociedad? Formarn su propia sociedad? Entre los multiples estudios en paginas arriba sealados, revelan que los robots podrn reclamar en un futuro los mismos derechos de los que gozan los seres humanos. Dichos derechos incluyen el voto, porque tendrian mejores elementos de juicio que al de un humano ordinario; los beneficios sociales que correspondan al igual que un trabajador humano; el derecho a la propiedad, un robot consciente luchara contra la nocin de propiedad, porque serian dueos de terrenos en el que construirian industrias, o sus propias creaciones de nuevos artefactos; derecho de autor, las patentes si crea algo nuevo; derecho a la libertad, igualdad, a la no discriminacin por razn de estar el cuerpo de uno u otro conformado por tejidos orgnicos o no. Por lo que, el Estado de cada pas debera proveerles y/o garantizar entonces de Seguridad Social y jurdica a sus nuevos ciudadanos digitales.

As, como conquistasen sus derechos los robots, tendrn tambin obligaciones frente sus semejantes humanos o no y el estado, como el pago de impuestos, porque estos serian trabajadores incansables, crearan industrias, etc.; el servicio militar; u observar las leyes que postulo Asimov. Por otra parte, deberan los robots llevar armas? Si se enva un robot para asesinar a un ser humano, de quin es la culpa: de la mquina, de las personas que la disearon, de la empresa que la dise, de las personas que la construyeron o de la empresa que la construy? Desde una perspectiva penal la camisn de un delito por una unidad robtica inteligente totalmente autnoma sera muy dificil de demostrar -controlar y su pena sera la eliminacin de esa unidad o de todas las unidades similares por imperfectas... pero el mal ya estara hecho.., adems hasta la fecha no hay un sistema que sea seguro 100 % para un hacker y menos para una IA que programe su propio cdigo fuente, pudiendose remotamente sabotear una unidad para la comisin de un ilcito. Este problema cesara si los robots estan parcialmente controladas en sus procesos de lgica, si estn limitadas a unas determinadas una persona. El hecho, que los robots tengan conciencia artificial, no debe significar que tengan capacidad de elegir ni libre albedro, de lo contrario esto seria incontrolable y a lo mejor signifique el fin de la humanidad, por lo que es necesario dictar leyes. "Si fabricamos robots tan conscientes que acaban reclamando derechos, probablemente deberamos drselos", comenta Henrik Christensen, director del centro de Robtica de la Universidad de Tecnologa de Georgia. VI. LEYES DE LA ROBOTICA (ASIMOV). funciones, no fusionndonos con ellas o son utilizadas exclusivamente por humanos porque la responsabilidad siempre sera imputable a

"Si un robot autnomo mata a alguien, de quin ser la culpa?".

"Ahora, esto no es un tema porque la responsabilidad yace en el diseador o quien opera ese robot; pero mientras ms autnomos son los robots, ms borrosa se hace esa lnea de responsabilidad", Winfield. Asimov se ha convertido en un clsico de la ciencia ficcin y se hace imposible, hoy en da, no ligarlo con el mundo de la robtica. Autor de libros tales como Yo robot, Fundacin e Imperio, siempre a conservado una profunda preocupacin moral ante los desafos que presentan la ciencia al hombre moderno. Con el fin de preservar la sociedad humana ante la incorporacin de criaturas que superaran en muchos aspectos a su propio creador, elabor las famosas Leyes de la Robtica, un paradigma lgico que imbuira de moral a los seres artificiales. - Un robot no puede daar a un ser humano ni, por inactividad, permitir que un ser humano sea daado. - Un robot debe obedecer las rdenes que le da un ser humano, a excepcin de aquellas que interfieran con la primera ley. - Un robot debe proteger su propia existencia, siempre y cuando esta proteccin no interfiera con la segunda ley. El mismo Asimov, expona este tema en El Hombre del Bicentenario, tal como podemos ver en este extracto: -Amanda Laura Martin Charney puede acercarse al estrado. -Gracias, seora. No soy abogada y no s hablar con propiedad, pero espero que todos presten atencin al significado e ignoren las palabras. Comprendamos qu significa ser libre en el caso de Andrew. En algunos sentidos, ya lo es. Lleva por lo menos veinte aos sin que un miembro de la familia Martin le ordene hacer algo que l no hubiera hecho por propia voluntad. Pero si lo deseamos, podemos ordenarle cualquier cosa y expresarlo con la mayor rudeza posible, porque es una mquina y nos pertenece. -Porqu ha de seguir en esa situacin, cuando nos ha servido durante tanto tiempo y tan lealmente y ha ganado tanto dinero para nosotros? No nos debe nada ms; los deudores somos nosotros. Aunque se nos prohibiera legalmente someter a Andrew a una cervidumbre involuntaria, l nos

servira voluntariamente. Concederle la libertad ser slo una triquiuela verbal, pero significara muchsimo para l. Le dara todo y no nos costara nada. Por un momento pareci que el juez contena una sonrisa. -Entiendo su argumentacin, seora Charney. Lo cierto es que a este respecto no existe una ley obligatoria ni un precedente. Sin embargo, existe el supuesto tcito de que slo el ser humano puede gozar de libertad. Puedo establecer una nueva ley, o someterme a la decisin de un tribunal superior; pero no puedo fallar en contra de ese supuesto. Permtame interpelar al robot. Andrew!. En 1985, Asimov public un relato en la que uno de sus robot se ve obligado a herir a un ser humano por el bien del resto de la humanidad. Surge as una nueva ley, considerada la Ley Definitiva, la llamada Ley Cero, superior a todas las dems: "Un robot no puede lastimar a la humanidad o, por falta de accin, permitir que la humanidad sufra daos". Quedando as modificada la primera ley: "Un robot no debe daar a un ser humano, o permitir, por inaccin, que un ser humano sufra dao, a menos que tal accin viole la Ley Cero". La evolucion robotica que puede tornarse contra su hacedor, hace imperioso desarrollar un marco base que regule unos slidos principios universales inmutables que deban regir las relaciones de los humanos con la Inteligencia Artificial Autonoma (Robot) si queremos evolucionar con ellas en un grado de complementariedad y desarrollo controlando sus tcnicas de autocreacin para que no lleguen a superarnos. As el gran maestro D. Isaac Asimov ha establecido tres leyes que me atrevo humildemente a completar con dos nuevos postulados derivados de las tres primeras (dice el jurista espaol Rafael Garcia Cepas): 4.- Un robot nunca podr programar -reproducir otra Inteligencia Artificial aunque peligre su propia existencia, salvo que exista un exhaustivo control de procedimientos de programacin, contenido, nmero de unidades, compresin,

destino y autorizacin por parte de seres humanos y no entre en conflicto con la primera ley. 5.-Un robot nunca se fusionar con un ser humano formando un solo individuo, ambos sern siempre dos cuerpos diferenciables e independientes; artificial uno, orgnico- humano el otro. 6.- Un robot nunca generar confusin en identidad con un ser humano, ni adoptar similar apariencia ni figura humana, ambos sern reconocidos diferentes y diferenciables a distancia. VII. ROBOTICA O TICA ROBTICA.

La tica es la ciencia que estudia el comportamiento moral del hombre y su accionar. Se relaciona con los propios actos que cada uno realiza, las cuales a su vez dependen de los propios valores. No es su funcin prohibir o aceptar indiscriminadamente, sino permitir el discernimiento dentro de un determinado contexto entre lo correcto y lo equivocado, lo bueno y lo malo. La tica artificial de los robots, o robotica, es aquella parte de la tica que se ocupa de los problemas relacionados con los robots y con su interaccin con el hombre, los animales, la sociedad, la naturaleza y el mundo. Se trata de un nuevo campo de estudio que considera a las mquinas, computadoras y robots como un tipo de agentes ticos e intenta implementar en ellos facultades morales de toma de decisiones [Allen, Wallach y Smit, 2006]. La idea es otorgarles un determinado conjunto de reglas o guas de comportamiento universal, un cdigo de tica, a medida que se vayan haciendo cada vez ms complejas, a fin de que sus acciones no se aparten mucho de las normas humanas (ya que se tornara imposible controlarlos). Hasta hoy, slo el Hombre se comprometi a un razonamiento tico; ya es hora

de incorporarle una dimensin tica a algunas mquinas complejas [Anderson y Leigh Anderson, 2006]. Dado que las investigaciones cientficas y los objetos tecnolgicos tienen el poder de afectar a toda la humanidad, las decisiones sobre su curso actual y futuro no deben involucrar nicamente a los cientficos, los empresarios y los gobernantes, sino a todos nosotros seres humanos que habitamos este mundo, aunque no tengamos la oportunidad de convivir con ellos, tenemos que fijar los lineamientos adecuados con la humanidad por el que se regir la actividad lgica de los Robots. 7.1 Otros agentes ticos Este enfoque se sustenta en el hecho de que existen casos de otras clases de agentes ticos. Por ejemplo, los perros tienen un sentido de lo que es correcto y lo que es incorrecto. Incluso, los nios son una forma distinta de agente tico: tienen limitados derechos y responsabilidades, y los adultos tienen deberes para con ellos. Es ms, hay una variacin continua de agente tico que va desde el beb hasta el adolescente. Sin embargo, la mayora de las personas establece una frontera divisoria para la tica entre lo que considera consciente y lo que considera noconsciente. Por ejemplo, si se piensa que una serpiente no es consciente, no se harn muchos cuestionamientos en caso de tener que matarla. De igual manera, si se piensa que una mquina no es consciente, se tendr mucho menos escrpulo en lastimarla. Recientemente un equipo internacional de cientficos y acadmicos

pertenecientes a EURON (EUropean RObotics research Network) elabor un prototipo de cdigo de tica. A grandes rasgos, sus recomendaciones son las siguientes: Asegurarse el control de los humanos sobre los robots. Prevenir su utilizacin nociva o ilegal. Proteger los datos obtenidos por los robots.

 Rastrear y grabar la actividad de los robots. Brindar una identificacin nica a cada robot. Mas all de lo fantasioso o no que suene esto, ojal para cuando los robots tengan derechos, los humanos podamos hacer valer los nuestros primero, largamente ignorados y violados por las injusticias del mundo. VIII. CDIGO DE TICA ROBTICA. El cdigo de tica es una prevision frente a la llegada de los robots pensantes en un futuro cercano. Corea del Sur quiere ser un referente mundial en robtica" Shim Hak-bong, ministro de Comercio, Industria y Energa. El estudio sobre los derechos de los robots, titulado "Sueo utpico o el surgimiento de las mquinas", examina el desarrollo en el campo de la inteligencia artificial y cmo este pude afectar al derecho y la poltica. En la investigacin se seala que podra darse un "cambio monumental" si los robots se desarrollan hasta alcanzar la capacidad de reproducirse, superarse y desarrollar su propia inteligencia artificial. Dentro de 20 50 aos se les podra reconocer los derechos. Por el otro lado, la sociedad asumira la responsabilidad de cuidar a sus nuevos ciudadanos digitales, indica el informe. "El gobierno planea establecer las lneas ticas relacionadas a los roles y funciones de los robots, pues se espera que stos desarrollen mayor inteligencia en un futuro cercano", dijo el ministerio de Comercio, Industria y Energa. El nuevo cdigo es un intento de establecer las reglas para un futuro convivencial entre humanos y robots, podran incluir la certeza del control humano sobre los robots, protegiendo los datos adquiridos por estas mquinas y previniendo su uso ilegal.

Otras organizaciones tambin estn pensando en el futuro robtico. El ao pasado, un estudio del gobierno del Reino Unido predijo que en los prximos 50 aos los robots podran exigir los mismos derechos que los seres humanos. La Red de Investigacin Robtica Europea tambin est creando una serie de lineamientos para el uso de robots. Los finales del ao dos mil siete ser recordado por los robots como el ao en el que se inicio la elaboracin de la Carta tica de los Robots en Corea del Sur. Para garantizar una conducta tica de las futuras generaciones de robots pensantes que estn por llegar en su relacin con los seres humanos. La verdad es que la carta tica de los robots se debi haber terminado a finales del ao pasado, pero hasta ahora no se tienen noticias sobre su conclusin o no, probablemente siga en proceso de construccin. Se han encargando un grupo de expertos en este tema por los meses de octubre-noviembre el ao pasado. Corea del Sur es uno de los pases asiticos muy avanzado tecnolgicamente y al parecer, desea garantizar e incentivar las futuras demandas que realizarn los robots. De cualquier forma, ya no es posible revertir el inevitable proceso de aceleracin tecnolgica acaecido en las ltimas dcadas. Slo queda como nica posibilidad la de tomar adecuadas decisiones a fin de suavizar los peligros que pudiese originar, pero sin renunciar a la multiplicidad de sus ventajas. En otras palabras, no se discute si se utiliza o no la tecnologa, sino solamente la forma en que se la va a emplear. Es responsabilidad del homo sapiens ser mucho ms crtico con respecto a lo que hace y por qu lo hace; slo as podr en parte prever algunas de las consecuencias indeseadas. Cuanto ms amplio es su poder, mayor debe ser su sentido de la responsabilidad.

IX.

CONCLUSIONES. 1) En la actualidad un Robot no es sujeto de derechos ni obligaciones. 2) Que es posible que las modernas y futuras inteligencia artificiales autnomas superen a la inteligencia humana. 3) Que, cuando los robots hayan desarrollado sus facultades intelectivas y emocionales, podrn darse cuenta de su rol en la sociedad, y terminen reclamando sus derechos al gobierno o humanidad. 4) Que la robotica regulara la conducta de los robots cuando estos convivan con los humanos en la sociedad. 5) Es necesario y preventivo que se regule a travs de leyes y principios la autonoma de los robots inteligentes. 6) Que, a travs de la robotica se puede controlar capacidad de elegir y el libre albedro de los robots.

X.

RECOMENDACIN NICA. Que, el cdigo de tica de los robots que formulara el gobierno de Corea del Sur sea no solo para ese Estado, sino que se tome como referencia y/o establezca un solo cdigo de tica de los robots de carcter mundial para la proteccin de la humanidad y prevenir un desarrollo irresponsable de los robots.

XI.

BIBLIOGRAFIA VIRTUAL.

- http://www.espinoso.org/biblioteca/transhumanismo.htm.

- http://www.consumer.es/web/es/tecnologia/hardware/2007/02/19/159630.php.
- http://www.terceracultura.net/tc/?p=169. - http://www.psicofxp.com/articulos/tecnologia-internet/435696-leyes-de-larobotica-corea-del-sur-prepara-un-codigo-tico.html. - http://news.bbc.co.uk/hi/spanish/science/newsid_6588000/6588791. stm. - HTTP://WWW.LAFLECHA.NET/CANALES/CIENCIA/NOTICIAS/ LOS-CIENTIFICOS-PIDEN-UN-DEBATE-SOBRE-EL-USOETICO-DE-ROBOTS-Y-NO-SOBRE-SUS-DERECHOS. - http://www.kiyoaki.com/archivos/2004/02/12/los-derechos-de-los-robots/. - http://www.ricardoroman.cl/content/view/583/Robots_derechos_y_emociones. html. - http://news.bbc.co.uk/hi/spanish/science/newsid_6427000/6427827.stm. - http://news.bbc.co.uk/hi/spanish/misc/newsid_6201000/6201131.stm. http://es.wikipedia.org/wiki/Usuario_Discusi%C3%B3n:Juridico. - http://www.tendencias21.net/La-etica-para-las-maquinas,-nuevo-campo-deinvestigacion_a1557.html. - http://axxon.com.ar/rev/139/c-139Cuento3.htm. - http://www.cristalab.com/blog/637/i-robot---isaac-asimov.html. - http://www.integrando.org.ar/investigando/vision_arti2.htm. - http://www.redcientifica.com/doc/doc199908080011.html. - http://alfinal.com/Temas/cyborg.shtml. - http://yo.mundivia.es/mpp2/maquina/robot/robot.htm. - http://www.indexnet.santillana.es/rcs2/filosofia/un_ordenador_bajo.htm. - http://www.geocities.com/SoHo/Cafe/3627/cybrogs.htm.