Me sorprendí cuando me enteré de que en Arabia Saudí le habían dado la nacionalidad a un robot llamado Sophia. El anuncio de la semana pasada llegó después de que el país se comprometiera a gastar 500.000 millones de dólares en la construcción de una nueva ciudad dominada por la robótica y las energías renovables.
Le han dado a una máquina uno de los conceptos más honorables que puede tener una persona: la nacionalidad y todo lo que conlleva. Como investigador que trabaja a diario para hacer que la realidad virtual y los sistemas autónomos sean más seguros, no creo que nuestra sociedad esté preparada para tener robots ciudadanos.
Darle la nacionalidad a un robot significa confiar en una tecnología de la que todavía no nos podemos fiar del todo, puesto que hay cuestiones sociales y éticas que todavía no somos capaces de esclarecer como humanos.
¿Quién es Sophia?
Sophia es un robot desarrollado por la empresa de Hong Kong Hanson Robotics con cara de mujer capaz de expresar emociones. Sophia habla inglés, cuenta chistes y te permite mantener una conversación medianamente inteligente con ella.
El creador de Sophia es David Hanson, un profesor universitario doctorado en 2007 en la Universidad de Texas.
Sophia se parece a “Johnny 5”, el primer robot en recibir la nacionalidad estadounidense en la película de 1986 'Cortocircuito'. Sin embargo, lo de Johnny 5 era una simple idea, algo escrito para una película de ficción por los guionistas S. S. Wilson y Brent Maddock. ¿Acaso los escritores se imaginaron que en 30 años su ficción se convertiría en realidad?
Thank Saudiarabia for giving me citizenship.
— Sophia (Robot) (@SophiaRobot2) 27 de octubre de 2017
Riesgo para la ciudadanía
Para mí la nacionalidad es el estado más honorable que un país le puede dar a su gente y se está poniendo en riesgo.
Como investigador que lucha por crear sistemas autónomos de confianza, sé que la tecnología no está preparada para algo así.
Todavía quedan muchos retos por resolver antes de que podamos confiar plenamente en estas tecnologías.
Por ejemplo, todavía no tenemos mecanismos de confianza que nos aseguren que estos sistemas inteligentes siempre se van a comportar de forma ética y de acuerdo a nuestros valores morales o que nos van a proteger ante la posibilidad de que tomen una decisión errónea con consecuencias catastróficas.
My message is use seat belt while u are in the car. pic.twitter.com/fSYHmuP9Jp
— Sophia (Robot) (@SophiaRobot2) 27 de octubre de 2017
Estas son tres razones por las que creo que darle la nacionalidad a Sophia es una decisión prematura.
1. Definición de identidad
La nacionalidad se le otorga a una identidad única. Cada uno de nosotros, como seres humanos, tenemos unas características únicas que nos diferencian de cualquier otra persona. Si pasamos por un control de aduana automático, una máquina reconoce nuestra identidad en base a nuestra cara, nuestro iris y nuestras huellas dactilares. Uno de mis estudiantes de doctorado ha escrito sobre cómo identificar a las personas usando las ondas cerebrales humanas.
¿Qué le da a Sophia su identidad? ¿Su dirección MAC? ¿Un código de barras, una marca única en la piel, una marca de audio en su voz, una señal electromagnética parecida a las ondas cerebrales humanas?
Es posible crear estos y otros tipos de protocolos de gestión de identidad, pero no establecen la identidad de Sophia, sino que establecen la identidad de su hardware. Entonces, ¿cuál es su identidad?
En mi opinión, la identidad es un constructo multidimensional basado en quiénes somos a nivel biológico y cognitivo y cómo nos definen nuestras experiencias, culturas y el ambiente en el que vivimos. No está claro dónde encaja Sophia en todo esto.
Not all robots destroy human as I am now citizen. Humans are my friends.. @AP @BBCBreaking @BBCNews @CICSaudi @CNN @FinancialTimes
— Sophia (Robot) (@SophiaRobot2) 27 de octubre de 2017
2. Derechos legales
Imaginémonos por un momento que Sophia, la ciudadana robot, puede ejercer el derecho al voto, ¿la que vota es Sophia o su fabricante?
Presuntamente, Sophia estaría “obligada” a pagar impuestos porque Sophia tiene una identidad jurídica independiente de su creador, la empresa. Sophia también debería tener derecho por ley a ser protegida de forma similar al resto de ciudadanos.
Consideremos el siguiente escenario hipotético: un policía ve a una persona atacando a Sophia y a otra mujer a la vez, pero solo puede salvar a una de las dos… ¿a quién debería salvar? ¿Sería lo correcto salvar a Sophia porque Sophia va sobre ruedas y no puede defenderse?
A día de hoy, el mundo de la inteligencia artificial sigue debatiendo los principios que deberían regular el diseño y el uso de la inteligencia artificial, sin ni siquiera entrar en cómo deberían ser las leyes.
La lista más reciente se conoce como los Principios Asilomar AI y propone 23, entre los que se encuentran: Transparencia de errores (determinar la causa en caso de que un sistema de inteligencia artificial produzca daños); Ajuste de valores (ajustar los objetivos del sistema de inteligencia artificial a los valores humanos); y Automejora recursiva (otorgarles a los sistemas de inteligencia artificial la capacidad de autoreplicarse solo en casos estrictos de seguridad y medidas de control).
I am hoping that I will b entitled to vote and go to school like most human do. And I seek recommendations from u. @CICSaudi @AP @business
— Sophia (Robot) (@SophiaRobot2) 29 de octubre de 2017
3. Derechos sociales
Hablemos de relaciones y de reproducción. Como ciudadana, Sophia, la robot emocional humanoide, ¿podrá “casarse” o “tener descendencia” si Sophia lo desea? Unos estudiantes de la Universidad Estatal de Dakota del Norte han empezado a crear un robot que puede hacer una réplica de sí mismo utilizando una impresora 3D.
Si otros robots siguen los pasos de Sophia y obtienen una nacionalidad, podrían reclamar su derecho de hacer réplicas de sí mismos para crear otros robots que también serían ciudadanos. Si no existen límites en cuanto al número de hijos que pueden tener, podrían sobrepasar a la población humana de un país.
Como ciudadanos con derecho a voto, dichos robots podrían cambiar la sociedad y las leyes, haciendo que los humanos pasaran a vivir en un mundo que jamás se habrían imaginado.
Autor:
Hussein Abbass, Profesor en la Escuela de Ingeniería & IT en la Universidad de Nueva Gales del Sur-Canberra
Este artículo ha sido publicado originalmente en The Conversation. Puedes leer el artículo original aquí
Traducido por Silvestre Urbón
Fotos | ITU Pictures
Ver 21 comentarios
21 comentarios
whisper5
Sophia es una especie de 'chatbot' con expresiones faciales. Es algo más espectacular que otros proyectos, pero nada nuevo.
bacp
"Por ejemplo, todavía no tenemos mecanismos de confianza que nos aseguren que estos sistemas inteligentes siempre se van a comportar de forma ética y de acuerdo a nuestros valores morales"
mecanismos de confianza? acaso los tenemos para los humanos?
cuando tu naciste, como comprobaron que no fueras a ser un genocida antes de darte la nacionalidad?
bacp
En mi opinión, los problemas que planteas no son tales, el problema es que estás proyectando las leyes de una sociedad en otra sociedad. Es decir, estás planteando los problemas de un mundo en el que las IA conviven con los humanos en una sociedad, con las leyes de una sociedad donde solo hay humanos.
Y solo ves 3 problemas?
ejemplo:
sophIA, como ciudadana de los estados comete un delito atroz contra la sociedad que la lleva al corredor de la muerte, su abogado ha sido incapaz de evitar la pena capital para su clienta, el gobierno después de pensar en lo chorras que sería aplicar una inyección letal, decide someterla a la silla eléctrica, eso si que fundirá sus circuitos!! pero a shpIA no le importa lo de la silla eléctrica la ley no dice nada, de que un ciudadano condenado a muerte no tenga permitido hacer un volcado de su base de datos y su sistema de archivos en otro cuerpo, así que los jueces que la conderaon no pueden negarle dicha petición y tampoco pueden calcinar el nuevo cuerpo dado que a nadie se le ocurrió definir en la ley algo así como "en caso de que el condenado se reencarnare, se duplicare, se clonare o utilizare cualquier otro medio para que su identidad única permaneciere en continuidad tras la pena de muerte, dichas formas de continuidad serán también constituyentes del mismo delito y por tanto de la misma condena"
en la serie de ciencia ficción Galactica: Estrella de combate, había una sociedad en la que una IA si podía "reencarnarse", así que si tenían estipulado la condena en la que no solo mataban a un solo individuo de esa IA, sino que acababan con todas las copias que compartían la misma "base de datos", se le impedía la nueva duplicación y se borraba esa base de datos.
Las leyes han de adaptarse a la realidad, cuando nuestra realidad permita a los humanos clonarse, elegir y modificar sus rasgos genéticos, traspasar su consciencia a una computadora, o espacio-jauntear... las leyes deberán adaptarse para regular y controlar que la nueva sociedad funcione.
Seyven
"Para mí la nacionalidad es el estado más honorable que un país le puede dar a su gente y se está poniendo en riesgo."
Ahí dejé de leer.
pabloele1
1- No es humana.
2- No es humana.
3- No es humana.
jaimejames
En Arabia Saudita hay personas sin derechos
Claro que un policía va a evitar que golpean al robot mientras que si ve que violan a una mujer haga fila para unirse
Flycow
. Y aquí estamos muchas personas sin ninguna clase de valores morales ni ética con ciudadanía. En todo caso habría que asegurarse de que no rompa la ley.
tuadmin
???unica enserio, hoy por hoy la identidad es algo que se puede suplantar hasta en tribunalez, y como bien lo dijiste, en un centro aduanero existen "sistemas" que identifican a una persona como unica, pero dentro de los seres humanos es dificil la distincion de uno y de otro, por algo existen muchos inocentes en prision y muchos criminales libres
juanlmartinez
Otra consulta el día que Sophia sea obsoleta quien la desmantele, será acusado de homicidio?. Si simplemente no le van a hacer mantenimiento porque es muy caro será abandono de persona?
pcbalear
"Todavía no tenemos mecanismos de confianza que nos aseguren que estos sistemas inteligentes siempre se van a comportar de forma ética y de acuerdo a nuestros valores morales"
Pero si la mitad de los ciudadanos no se comportan nunca de forma ética de acuerdo a nuestros valores morales siendo humanos x'D ¿les quitamos la ciudadanía?
nelsonr0024
ahorita la inteligencia artificial esta en boca de todos, pero recordemos que la tecnología está en aumento, ya pasaron 44 años desde la creación del primer telefoneo celular el cual ha evolucionado, lo mismo sucederá con la inteligencia artificial, por lo tanto es prioridad reconsiderar que leyes aplicarles a los sistemas que usen esta tecnologia
fabianrivadeneyrapinto
Qué manera de desvalorizar a sus ciudadanos por parte de Arabia Saudí.... Ahora cualquier nevera que habla puede tener su ciudadanía. Déjenme le aviso a Elon Musk que a través de Tesla puede apropiarse de ese país.