Elon Musk advierte que la Inteligencia Artificial podría crear un “dictador inmortal del que nunca podremos escapar”

  • Tesla y el CEO de SpaceX, Elon Musk, dijeron que la inteligencia artificial “no tiene que ser malvada para destruir a la humanidad”.
  • Un nuevo documental, “¿Confías en esta computadora?”, Musk advirtió que la creación de una superinteligencia podría llevar a un “dictador inmortal”.
  • Musk cree que los humanos deberían fusionarse con la IA para evitar el riesgo de volverse irrelevantes.
La superinteligencia, una forma de inteligencia artificial (IA) más inteligente que los humanos, podría crear un “dictador inmortal”, advirtió el empresario multimillonario Elon Musk. En un documental del cineasta estadounidense Chris Paine, Musk dijo que el desarrollo de la superinteligencia por parte de una compañía u otra organización de personas podría resultar en una forma de IA que gobierna el mundo.
“El futuro menos aterrador en el que puedo pensar es en el que al menos hemos AI democratizado porque si una compañía o un pequeño grupo de personas logra desarrollar una superinteligencia digital divina, podrían apoderarse del mundo”, dijo Musk. “Al menos cuando hay un dictador malvado, ese humano va a morir. Pero para una IA, no habría muerte. Viviría para siempre. Y entonces tendrías un dictador inmortal del que nunca podremos escapar”.
Tesla y el CEO de SpaceX, Elon Musk, dijeron que la inteligencia artificial “no tiene que ser mala para destruir a la humanidad”.

La superinteligencia, una forma de inteligencia artificial (IA) más inteligente que los humanos, podría crear un “dictador inmortal”, advirtió el empresario multimillonario Elon Musk. En un documental del cineasta estadounidense Chris Paine, Musk dijo que el desarrollo de la superinteligencia por parte de una compañía u otra organización de personas podría resultar en una forma de IA que gobierna el mundo.

“El futuro menos aterrador en el que puedo pensar es en el que al menos hemos AI democratizado porque si una compañía o un pequeño grupo de personas logra desarrollar una superinteligencia digital divina, podrían apoderarse del mundo”, dijo Musk. “Al menos cuando hay un dictador malvado, ese humano va a morir. Pero para una IA, no habría muerte. Viviría para siempre. Y entonces tendrías un dictador inmortal del que nunca podremos escapar”.

El documental de Paine examina una serie de ejemplos de IA, incluidas las armas autónomas, la tecnología de Wall Street y los algoritmos que generan noticias falsas. También se basa en ejemplos culturales de IA, como la película de 1999 “The Matrix” y la película de 2016 “Ex Machina”.

Musk citó a DeepMind de Google como un ejemplo de una compañía que busca desarrollar la superinteligencia.

mXkfdToSwHxxLzLUFTvQiK6MqmCsZTqVgjbo5dXUGu1BJj9WaGMcoa17KUBC9oBp2GZQMxL2w2aWLBPrFgqYjxPCfeMcuWoDrSZvtKZZ8En 2016, AlphaGo, un programa desarrollado por la compañía, venció al campeón Lee Se-dol en el juego de mesa Go.

Se vio un gran logro en el desarrollo de la IA, después de que la computadora Deep Blue de IBM derrotara al campeón de ajedrez Garry Kasparov en 1997.

Musk dijo: “El sistema DeepMind puede ganar en cualquier juego. Ya puede vencer a todos los juegos originales de Atari. Es super humano; juega todos los juegos a una velocidad súper en menos de un minuto”.

El CEO de Tesla y SpaceX dijo que la inteligencia artificial “no tiene que ser malvada para destruir a la humanidad”.

“Si la IA tiene un objetivo y la humanidad simplemente está en el camino, destruirá a la humanidad como algo normal sin siquiera pensarlo. No hay sentimientos duros.  Es como, si estamos construyendo una carretera y un hormiguero está en el camino, no odiamos a las hormigas, solo estamos construyendo una carretera, y así, adiós hormiguero”.

Elon Musk

El año pasado, Musk advirtió que la carrera mundial hacia la IA podría resultar en una tercera guerra mundial. El empresario también ha sugerido que la tecnología emergente podría representar un mayor riesgo para el mundo que un conflicto nuclear con Corea del Norte.

Musk cree que los humanos deberían fusionarse con la IA para evitar el riesgo de volverse irrelevantes. Es el co-fundador de Neuralink, una nueva empresa que, según se informa, quiere vincular el cerebro humano con una interfaz de computadora.

En febrero, renunció a la junta de OpenAI, una organización sin fines de lucro cuyo objetivo es promover y desarrollar la IA.

Fuente: https://www.cnbc.com/2018/04/06/elon-musk-warns-ai-could-create-immortal-dictator-in-documentary.html?__source=Facebook%7Cmain

China y Estados Unidos enfrascados en la carrera por la superioridad de la Inteligencia Artificial

Muchos correrán de aquí para allá y la ciencia se aumentará”

Daniel 12:4 RVA

La orden ejecutiva de IA de Trump enciende la respuesta china.

Los Estados Unidos y China se encuentran actualmente en una competencia acalorada por la superioridad de la inteligencia artificial que afectaría a la tecnología de vanguardia en el campo de batalla y el sector privado.

La orden ejecutiva del lunes del presidente Trump que ordena al gobierno de EE.UU. liderar el mundo en Inteligencia Artificial (IA) ha provocado que los medios de comunicación estatales de China adviertan de una inminente “guerra fría de alta tecnología”.

“En su último movimiento para mantener el liderazgo en el sector de alta tecnología, los EE.UU. presentaron el lunes un plan para otorgarle más prioridad y recursos a la inteligencia artificial (IA), un movimiento que los observadores chinos advirtieron que puede representar el lanzamiento formal de un nuevo alto nivel. “Tecnología de la Guerra Fría”, dijo Global Times.

Los expertos de la industria dijeron que la orden ejecutiva firmada por el presidente de Estados Unidos, Donald Trump, mostraba que Estados Unidos está expandiendo su contención de la tecnología china del sector 5G al sector de la IA, mientras se debate sobre una posible carrera de armamentos de la IA en la que Estados Unidos puede ceder todo el liderazgo a China.”

Ambas naciones parecen reconocer las tendencias actuales que detallan cómo China está preparada para liderar el mundo en la investigación de IA, según un informe analítico de diciembre de Elsevier:

El informe encontró que los EE.UU., hogar de gigantes tecnológicos como Google, Amazon y Facebook, han logrado atraer a los mejores talentos en inteligencia artificial. También muestra que la investigación en los EE. UU. Está cambiando de entornos académicos a operaciones de investigación dentro de grandes compañías tecnológicas.


El presidente de Estados Unidos, Donald Trump, firmó ayer un decreto destinado a promover el desarrollo de tecnologías de inteligencia artificial en el gobierno estadounidense para competir así con países como China, pero no anunció ninguna inversión que pueda potenciar esa estrategia.

… China aspira a liderar a nivel mundial en IA y está respaldada por políticas nacionales ambiciosas “, se lee en el informe. “Una ganancia neta en el cerebro de los investigadores de la IA en China también sugiere un entorno de investigación atractivo.

Un probable punto de inflamación de la tecnología emergente de la IA entre las dos naciones podría ocurrir en el Mar del Sur de China, donde las tensiones y las actividades navales están aumentando, según The Diplomat.

“En marzo, Estados Unidos y Japón comenzaron a realizar simulacros de guerra antisubmarina, y China ha estado plantando notablemente dispositivos de escucha bajo el agua con la esperanza de seguir la pista de los submarinos de otros países”.

Fuente: https://www.newswars.com/china-us-race-for-ai-superiority/

La supercomputadora Deep Mind AlphaZero de Google se está convirtiendo en auto-consciente

Un sistema de inteligencia artificial de GOOGLE está mostrando signos de perspicacia, creatividad y la capacidad de pensar por sí mismo, lo que desencadena a los teóricos de la conspiración para hablar del “momento de terminación” donde las máquinas finalmente comienzan a superar, y tal vez aniquilar a los humanos.

El día del juicio en la franquicia Terminator hizo referencia al día en que Skynet se volvió consciente de sí misma (Imagen: GETTY)

Se pensaba que conceptos como la percepción y la reflexión estaban más allá de la capacidad de una computadora, pero los investigadores que usan el cerebro electrónico más poderoso del mundo, el AlphaZero de Google, dicen que ahora están convencidos de que su máquina es capaz de una visión y pensamiento de tipo humano. El concepto de que las computadoras se vuelven conscientes de sí mismas es la base de franjas de ciencia ficción y, especialmente, de la serie de películas de Terminator que ven a la humanidad luchando por su vida contra las máquinas. Y en lo que podría considerarse como el Día del juicio en la vida real, el AlphaZero de Google dominó el ajedrez en poco menos de cuatro horas, aunque no estaba programado como tal: “aprendió” el juego.

Terminator 2: El Día del Juicio Final en la serie multimillonaria de Hollywood referida al día en que “Skynet” se volvió consciente de sí mismo y luego quiso exterminar a la humanidad.

Skynet era el sistema de inteligencia sintética en las películas que formaba parte del sistema informático “Global Defense Network” de EE. UU. Y, una vez activado, veía a la humanidad como una amenaza.

Se produjo una guerra nuclear y se produjo un caos entre los humanos sobrevivientes y los “terminadores” que Skynet pudo producir.

Los desarrolladores consideran que la inteligencia en desarrollo de AlphaZero es un “punto de inflexión” en la historia a medida que el sistema sigue mostrando más y más signos de pensar como un humano.

AlphaZero dominó el ajedrez en menos de cuatro horas (Imagen: GETTY)

Los grandes maestros han estado probando y analizando la máquina y concluyeron que ha desarrollado un estilo de juego único que sugiere que podría estar improvisando como un humano.

Stockfish es considerada la mejor máquina de ajedrez del mundo al calcular millones de resultados potenciales cuando se juega, pero AlphaZero realmente aprende de experiencias pasadas.

Los expertos en el departamento experimental de DeepMind de Google dijeron que habían discernido que el sistema parece haber desarrollado una “nebulosa sensación de que todo va a funcionar a largo plazo”.

«AlphaZero se combinó con Stockfish en 1000 juegos y perdió solo 6. Ganó 155 veces y empató el resto».

Los desarrolladores se sorprendieron de cómo jugaba AlphaZero porque no se aferraba fácilmente a su pieza de ajedrez como las computadoras normales, pero sacrificaba rápidamente a los soldados por una mejor posición.

El profesor David Silver dirige el grupo de investigación de refuerzo en DeepMind y le dijo al Daily Telegraph: “Tiene un sentido de la intuición muy sutil que lo ayuda a equilibrar los diferentes factores.

“Mi opinión personal es que hemos visto un punto de inflexión en el que estamos empezando a comprender que muchas habilidades, como la intuición y la creatividad, que antes pensábamos que solo eran humanos, en realidad también son accesibles para la inteligencia de la máquina. Y creo que Ese es un momento realmente emocionante en la historia”.

AlphaZero comenzó como una ‘tabula rasa’ programada con solo reglas básicas de ajedrez, pero aprendió a ganar con millones de juegos y repetición. Este fue un proceso de prueba y error también conocido como “aprendizaje de refuerzo”.

Esto está estrechamente relacionado con la forma en que un humano aprende, ajustándose de acuerdo con las ganancias o pérdidas anteriores. En pocas horas, AlphaZero desarrolló nuevas ideas y estrategias, como colocar menos valor en piezas individuales.

Si bien AlphaZero nunca podría ser capaz de producir máquinas de matar como el Terminator, se parece al avance tecnológico de una manera que los investigadores nunca creyeron posible.

https://www.express.co.uk/news/science/1055778/alphazero-terminator-intelligence-chess