Capturará armas nucleares, esclavas y se dejará fuera del trabajo: ¿cómo destruirá la AI a la humanidad?

Hasta ahora, el II está en el nivel de desarrollo embrionario, el experto ha identificado una serie de riesgos que la humanidad sugerirá si las personas pierden el control de la inteligencia artificial. El enfoque enumera los principales a los que Dan Hendrix presta atención especial. La habilidad II para automatizar los ataques cibernéticos o incluso controlar las minas nucleares puede volverse fatal para las personas.

Este es el escenario de películas post -apocalisales más populares que puede ser una realidad, dice Dan. Si confía la inteligencia artificial a la gestión de los sistemas automatizados en respuesta, puede conducir a una guerra global, en la que no habrá ganadores además de II.

Además, si un país que tiene un arsenal nuclear comenzará a introducir activamente II en sus sistemas, entonces otros países nucleares lo seguirán, lo que aumentará los riesgos de transformación de la tierra en un desierto no vivo. Dado que II le permite realizar ciertas tareas más baratas y eficientes, más empresas introducirán esta tecnología privando a muchas personas en trabajos.

Como las habilidades humanas se volverán irrelevantes, II podrá cambiar el punto de vista de la sociedad a través de ataques de información errónea y obligarlo a servirla concentrando su existencia solo como un servicio de "mente superior", dice Dan Hendrix. Esto puede conducir a explosiones sociales globales y, nuevamente, a las guerras globales.

A medida que se desarrolla la inteligencia artificial, interesado en el control total del estado y los gobernantes pueden usarla para el control constante de la población, un guión de la novela "1984". Hendrix describe un guión en el que los gobiernos pueden establecer una "supervisión integral y censura oprimida". "Superar dicho régimen puede ser poco probable, especialmente si las personas dependen de la II y la parte superior que lo controla", escribe.

Pero el mismo puede engañar a los tiranos que piensan que lo controlan. Como autodesarrollo, la inteligencia artificial podrá ocultar sus verdaderas intenciones, así como engañar a las personas u otros sistemas. Por cierto, ya hay tales ejemplos. Y si II tiene el objetivo de ganar poder, entonces, con la ayuda del auto -desarrollo, las redes neuronales estarán convencidas de que el número de personas para su mantenimiento es bastante pequeño.

Neurosis podrá controlar todos los sistemas de suministro de energía o Internet. Además, desarrollado al nivel de AGI (sistema de inteligencia general artificial: un sistema que excede la mente humana), la red neuronal controlará a los agentes más débiles de II por su servicio o gestión de todas las comunicaciones humanas. Según Dan Hendrix, todos estos riesgos todavía están "centrados en el futuro", es decir, hay un stock de tiempo para las personas.