Hawking y Musk son dos «pesos pesados» del mundo de la ciencia y la tecnología. De eso no cabe la menor duda. Pero en realidad detrás de ellos hay más de un millar de científicos y expertos en tecnología que opinan exactamente lo mismo que ellos dos: la aplicación de la inteligencia artificial a las armas autónomas, como los drones de combate con los que ya cuentan los ejércitos de algunas potencias, es una amenaza para todos.
Esto no quiere decir que estén pensando en algo parecido a Skynet, la sofisticada inteligencia artificial que amenaza a la humanidad en la saga de películas Terminator; su punto de vista es mucho más realista, y, por tanto, estremecedor. Lo que creen es que, al contrario de lo que aseguran los militares, los drones no salvarán vidas. Quizás sí en el campo de batalla, pero acabarán siendo utilizados para cometer atrocidades y desestabilizar a las naciones.
Protegiendo la IA del terrorismo
Lo que temen no solo Musk y Hawking, sino también Noam Chomsky, Steve Wozniak y Jaan Talinn, entre muchos otros científicos y tecnólogos, es que el mal uso de la inteligencia artificial provocará que la opinión pública se ponga en su contra. Ellos, como cabe esperar, están completamente a favor de esta tecnología por lo mucho que puede aportar al ser humano desde un punto de vista social y en múltiples niveles.
Algo en lo que hacen hincapié en la carta abierta que han hecho pública estos miembros del FLI (Instituto para el Futuro de la Vida) es que, a diferencia de las armas nucleares, los drones se pueden fabricar con materiales económicos y fáciles de conseguir. Y, además, su fabricación es relativamente sencilla, por lo que, según ellos, solo es una cuestión de tiempo que acaben cayendo en manos de grupos terroristas que los usarán para cometer atentados indiscriminados y de dictadores que los utilizarán para mantener amedrentada a la población.
Su conclusión es tajante: las armas autónomas de carácter ofensivo que recurren a la inteligencia artificial para ir un paso más allá del control humano remoto deberían prohibirse. Esperemos que los que toman las decisiones les escuchen, y, por lo menos, se tomen en serio lo que opinan estos científicos y expertos en tecnología. Es evidente que nadie puede acusarles, precisamente a ellos, de estar en contra de la inteligencia artificial y el progreso tecnológico. Razón de más para tomarse muy en serio lo que defienden.
Imagen | GeeJo | Hohum
Vía | The Verge
en Xataka | Elon Musk cree que la IA puede provocar el «día del juicio final», pero sabe cómo evitarlo
.jpg){kind=link}
Ver 37 comentarios
37 comentarios
pablohg
Pues no hace falta que caigan en manos de un dictador o de terroristas para que ya sean peligrosos para la población civil. Sólo hace falta que lo use EEUU para que se cometan innumerables atrocidades en algunos países, todo en nombre de la "democracia". Supongo que es uno de los temores de los firmantes, pero obviamente si quieren llegar al público y políticos de EEUU, deben mencionar la palabra más temida por éstos: "terrorismo".
neardenthal
Muchas organizaciones terroristas ganan suficiente dinero como para desarrollar ellos mismos esas armas. Daesh gana dinero vendiendo petróleo de las zonas ocupadas (¿a Turquía?). Al Qaeda recibe mucho dinero de familias ricas, millonarios y países que apoyan las ideas anti-yankees.
Sin decir que el odio y el nacionalismo exagerado se llevan a muchos licenciados y ingenieros hasta éstas organizaciones, los cuales a cambio de esas mujeres y riquezas que les prometen les fabrican lo que sea. Desde un dron hasta un T-800.
Esa ley que proponen no creo que sirva de mucho.
venzedor
Pues coincido con los autores, pero me dan más miedo los "botoncitos" nucleares en manos de "HI" (Human Intelligence)
imanol.salinas
Esto es muy fácil: la inteligencia nos proporciona una ventaja sobre el resto de seres vivos y la propia naturaleza. Una inteligencia artificial sin control, puede evolucionar más rápido que nosotros ya que, una vez exista, no obedeceria ninguna ley natural ni estaría limitada como nosotros (física y temporalmente hablando). Es por ello que, una inteligencia "similar" a la nuestra es, desde ese instante, superior a la nuestra.
jotaefer
paz y amor
javinet
Últimamente están apareciendo noticias alrededor de temas como las IA, los drones, las armas y las posible guerras basadas en lo anterior. Las propuestas que aparecen sobre crear organizaciones que regulen el desarrollo de drones con IA para evitar fines bélicos y militares en general lo veo ingenuo y con falta de perspectiva. Igual que las bombas nucleares vamos. Todas las organizaciones y organismos internacionales intentando controlar los arsenales atómicos, pero todo país que se precie (pretendiendo tener bombas en caso de emergencia) tiene alguna que otra (o decenas) de manera secreta. Por si acaso, o no. Pues con esto lo igualito pero trasladado a los drones. Si los militares ven alguna ventaja que una IA pueda decidir a nivel bélico una estrategia y llevar a cabo un control y despliegue de las armas implicadas en esa decisión, pues por mucha cosa que a nivel internacional lo intente frenar de poco servirá.
javinet
Pero no tuvimos ya este debate hace unos días? Como haceis refrito de todo. Le añadís algún cambio y ale, artículo nuevo!
javinet
Si Skynet no amenaza la humanidad, no. La aniquila sin vacilar!
Zaxxon
No deja de ser irónico el miedo de un pueblo cuyos habitantes viven armados hasta los dientes.
tala2000
Son unos cracks estos cientificos, las armas se pueden utilizar para matar, oprimir y someter a la poblacion, han descubierto la rueda, flipa, si ademas carecen de conciencia por que son maquinas peor, joder, lo facil que es olvidar el sadismo como exclusividad del ser humano y su conciencia.
mattdaniel.picasso
En si el análisis mas practico seria orientarse investigar estudios sociales,politicos y económicos como reducir el terrorismo ,por que es por algo que se genera por algun factor.
Ademas cabe destacar que el terrorismo mas peligroso que es ISIS esta bastante compuestos por miles de franceses,ingleses,bosnios y chechenos ademas de gente arabe esto lo pueden revisar ya en cifras en internet.
Por otro lado se de impulsar un ideologia de liberalismo,tolerancia,justica y democracia pero con buenas formas y ganarse a la gente ,asi se evita los terrorismos y radicalismo ,eso es mas efectivo para que NO se generen terroristas a largo plazo