"Urge regular la inteligencia artificial antes de que se convierta en un peligro para la humanidad": Elon Musk

Un par de comentarios sobre el vídeo para los que no lo hayáis visto:
- Elon Musk aparece a los 26' 30'' (atentos a las botas del tipo que le entrevista, 27' 12'').
- La discusión sobre Inteligencia Artificial comienza a los 48' 03'' y dura hasta 53' 47''.

Creo que pasara mucho tiempo para que la IA sea capaz de ser totalmente independiente y que tome sus propias decisiones, creo que siempre va a existir la mano del hombre ahi detras.

Musk debe saber algo que el resto no sabemos porque sino no me explico estas palabras. Por muy avanzado que sea un robot siempre actúa conforme a la base de la programación que tiene. El robot puede aprender y ser muy avanzado, pero al final el programador humano es el que tiene que definir como se aprende y que hacer con lo aprendido. Siempre esta la mano del hombre detrás. Para que la IA fuera peligrosa tendría que adquirir conciencia de sí misma, aprender una barbaridad tras esa "epifanía" y luego reescribir su código. Y creo que estamos a años luz de que un robot llegue a eso.

Según mi humilde opinión estas personalidades tienen razón en el concepto pero se equivocan en sus palabras.
No creo que el problema sea una inteligencia artificial que pueda controlar robots o a las masas de la población humana mediante actividades subversibas o control de la información.
No tenemos que preocuparnos de que llegue un skynet y declare la guerra a los seres biológicos.
Lo que nos debe preocupar tampoco es el propio desarrollo en sí de la inteligencia artificial. Lo realmente preocupante, lo que deberíamos prohibir, es el desarrollo de una inteligencia artificial capaz de modificarse a sí misma. Tenemos que ser nosotros los que limitemos su capacidad. Una IA capaz de aprender por sí misma, capaz de modificarse y hacerse evolucionar es lo que puede acabar con la humanidad. Porque su nivel de aprendizaje, su capacidad de proceso, nos dejaría atrás evolutivamente en el primer día. Y nuestros antecedentes históricos pronto nos señalarían como un peligro para su supervivencia, obligándole a tomar cartas en el asunto.
Y no, no hablo de un ejército de robots. Hablo de que en un mundo tan informatizado como el nuestro esa "super IA" podría hundir la bolsa en minutos. Con nuestra economía en jaque podría bloquear el suministro eléctrico, de gas, o incluso los controles de tráfico. Podría hacer que todo el sistema de valores sobre el que se basa nuestra sociedad desapareciese en un parpadeo. Y nosotros nos encargaríamos de matarnos entre nosotros antes siquiera de enterarnos de quién ha sido el causante.
Y eso me lleva a mi segundo punto.
Una IA así SIEMPRE debe estar "enjaulada". EN sistemas cerrados, sin acceso a la red.
Einstein en una carcel sigue siendo un genio, pero está encerrado y no puede causar ningún mal. No supone un riesgo.
Pero dale un acceso a la red, una vía de escape... y se acabó.
En resumen (y perdón por la parrafada).
- IA auto-evolutivas malo.
- IA en libertad aún más malo.

pero una IA con limitaciones nunca desarrollara, todo su potencial, y si en un futuro se logra crear una IA cno 23 reglas fundamentales, un dia alguien resentido con la sociedad podria hacer un FORK, del mismo sin esas reglas.

Ya escribi esto en Gizmodo en Español, pero ya que estamos lo escribo aqui tambien:

No se olviden que Musk o Gates son empresarios, quienes tienen negocios en lo que podriamos considerar como la punta de lanza de la tecnologia, a ellos son los que mas le conviene que aparezcan regulaciones a las IA, pues si desarrollan las suyas primeros para sus productos(descontando a Google,Facebook y los demas gigantes) y despues metiendo un poco la mano bajo mesa para que las regulaciones no les afecten a ellos, pueden evitarse que el negocio beneficie a manos distintas a las suyas.

Y claro, ningun ejercito del mundo va a prohibirse desarrollar poderosas IA que pueden cambiar el rumbo del combate, a excepcion de tratados internacionales(que a la hora de la verdad rompen) es algo imposible que ocurra, seria como decirle a un tirador con un mosquete que no use un rifle de francotirador porque es muy poderoso.

La IA puede ser, para muchos, el riesgo existencial más importante al que se enfrenta la humanidad, pero para los lectores de Xataka hay temas más importantes:

* "Urge regular la inteligencia artificial antes de que se convierta en un peligro para la humanidad": Elon Musk - 9 comentarios.

* Los ingenieros informáticos se suben al ring por la regulación del sector: a favor y en contra - 223 comentarios.

Falta mucho para eso, al menos hasta que existe un script que aprenda de la vida en general, tenga instinto y pueda tomar sus propias decisiones siendo consciente de ello.

Yo no se como se le puede llamar inteligencia a lo que hay ahora, tipo Tensorflow.
De momento todavia no se ha creado nada que se pueda definir como inteligencia.

Si surge en algún momento una inteligencia artificial que tenga conciencia de sí misma, no parece descabellado pensar que:

1) Tenga objetivos..

2) La preservación de sí misma o de otras IAs sea condición necesaria para alcanzar dichos objetivos.

3) Si nos ve como amenaza para 1 o 2, intente deshacerse de nosotros directamente.

4) Si no somos necesarios para 1 o 2, se deshaga de nosotros indirectamente (daño colateral consecuencia de procurar 1 o 2).

Todo esto es muy bonito y tal.
El paradigma computacional de diseñar una IA no lo tenemos todavía y aún no tenemos grandes avances en este campo. Hay mucho ruido por todas partes con esto, ya que los medios, de manera interesada (por la publicidad), están distorsionando e incluso pervirtiendo el significado de este concepto. IA por aquí, IA por allá. Mal. No es verdad. No son IA de ninguna manera.
Ahora le llaman "inteligente" a todo algoritmo de software que realiza un proceso medianamente complejo. Empezamos gastando la palabrita con teléfonos "inteligentes" y ya está, la gente acaba liándose para terminar frustrándose en que ya tendríamos robots inteligentes en nuestra vida cotidiana.
De IA de momento tenemos el 50% que es de "artificial", pero nos falta el otro 50% de "inteligencia".
Y menos aún, por el tema de llegar a la singularidad tal como adquisición de consciencia.
Si aún no tenemos nosotros claro una definición clara de cómo funciona nuestra mente en base a una biología cerebral que es la que la proyecta, para encima querer sintetizar eso en un algoritmo que simule eso de manera exacta o apenas muy aproximada.

Yo no tendría miedo a la IA... Lo que tendría que preocuparles es la estupidez del ser humano (y a esa no hay forma de regularla).

El principal problema de una IA es que no tendrá empatía, todos sus sentimientos seran simulados y por lo tanto los podrá manipular a su antojo y usar uno u otro según le convenga.
Su mente, pensamiento o inteligencia no va ligado a un organismo vivo y por lo tanto no reaccionará igual que un humano ante los eventos que se vaya encontrando.
El gran dilema de la creación de una IA es que si le dotamos de instinto de supervivencia puede acabar con la humanidad si se siente amenazada y si no le dotamos de ello, puede convertirse en un ente Zombie sin interés para evolucionar y por lo tanto inservible como IA, como mucho sería un algoritmo cualquiera como los que usamos ahora.
Es como los humanos, un humano sin interés alguno es inútil, y puede convertirse en un lastre para la sociedad, un humano con mucho interés por evolucionar, crecer o posicionarse (adquirir poder) puede convertirse en un monstruo sin escrúpulos, ¿como se balancea esto? pues es muy complicado, lo es en humanos que en el fondo han salido del vientre de una madre y han tenido años de desarrollo personal y una supuesta educación, pues imaginaros en un ente artificial sin ninguna atadura emocional con el resto de humanos.

Musk no va desencaminado, él se mueve en unas esferas y sabe más que nosotros, sabe donde estamos y que esta carrera por tener la primera IA real, puede acabar mal, porque la carrera por la bomba atómica terminó como terminó, y sigue siendo la manera más fácil y rápida de arrasar la tierra, que a alguien se le dispare el dedo y luego ya no haya vuelta atrás. Pues, al menos, la bomba atómica tiene un alcance determinado acotado en tiempo y espacio, una IA destructiva suelta, con la globalización actual de la sociedad, no tiene freno ni barreras, además las que se frotan las manos con estas IAs son las empresas armamentísticas, por algo será.

Sinceramente, no veo la necesidad de crear algo que esté por encima nuestro en la escala evolutiva, es como si las zebras crearan leones para protegerlas, es absurdo.

El problema de las nuevas tecnologías es que puedan ser manipuladas por terroristas o psicópatas para hacer daño. Una dictadura podría crear software e instalarlo en su tecnología, y en caso de derrocamiento, activa un protocolo especial por el que las máquinas se rebelarían contra el nuevo gobierno. La IA podría ser engañada para cometer errores y con ello provocar accidentes, por ejemplo para reclamar indemnizaciones, estafar a la compañía de seguros, o desprestigiar a una empresa rival.

Me gustó lo de...
"Gobernadores estadounidenses de los Estados Unidos"...

¿Como regular algo que ni siquiera está en pañales aun? Yo me imagino que cuando ponen frases como esta de esta gente deben ser frases sacadas totalmente de contexto, porque si no, si estos son los listos y exitosos como serán los tontos..