Entre (casi) todas las tecnologías futuras y aterradoras que podrían tener un impacto negativo en el mundo, solo hay unas pocas que son absolutamente aterradoras y que nunca quisiéramos ver realizadas. A continuación se muestran algunos (sin ningún orden en particular):
Nanotecnología de guerra
Nada podría provocar el fin de la humanidad más rápidamente que una nanotecnología molecular convertida en arma. Es una amenaza que puede contar con dos factores devastadores: crecimiento exponencial y replicación descontrolada. Un gobierno cínico, una entidad no gubernamental o incluso un grupo terrorista pueden construir máquinas microscópicas que pueden replicarse consumiendo rápidamente los recursos del planeta. Pequeños artilugios que con la ferocidad de un fuego transforman la tierra en un barro gris.
Robert Freitas, un experto y teórico en nanotecnología, ha especulado sobre varias variantes posibles de nanotecnología letal. Las máquinas de los aviones podrían capturar toda la luz del sol, otras serían ávidas de carbono o biomasa, o podrían "alimentarse" de organismos particulares.
En el peor escenario, la denominada “ecofagia global”, en tan solo 20 meses el planeta quedaría completamente destruido. En este poco tiempo disponible, el hombre debería luchar contra máquinas aparentemente imparables, identificando una forma de detener su replicación.
Por ello, la nanotecnología, concluye el experto, debe regularse estrictamente imponiendo una moratoria a su uso con fines militares.
Máquinas sensibles
Se cree ampliamente que la humanidad, tarde o temprano, será testigo del nacimiento de las máquinas de conciencia artificial. Sin embargo, es necesario tomar precauciones con mucha anticipación, para considerar todas las posibles consecuencias, incluidas las éticas, del caso. Un tema tratado brillantemente también en la serie de televisión "Westworld", si sabes de lo que estoy hablando.
Ya en 2003 el filósofo Thomas Metzinger observó que sería terriblemente cruel desarrollar software que pueda sufrir.
“¿Qué dirías si alguien se acercara y dijera 'oye, quiero crear niños con trastornos genéticos! Por el bien del progreso necesitamos personas sin algunas piezas o con déficits emocionales o cognitivos específicos ”. ¿Te parecería absurdo o no? ". Más. Lo encontraríamos peligroso. Una máquina sensible, si es verdaderamente sensible, puede sufrir todo tipo de déficits. Y sin tener ningún comité de ética, no hay representación en su defensa.
Según el futurólogo Louie Helm, una de las mejores cosas de una computadora es que puedes hacer que haga cosas aburridas sin aburrirla. Desde que decidimos usar un AI en lugar de humano para algunas tareas, puede ser inmoral programarlo deliberadamente para que sea consciente de sí mismo. Atrapar una conciencia en una máquina y luego obligarla a trabajar para usted se parece mucho a la peor esclavitud de la historia.
Por no hablar de que una hipotética inteligencia artificial generada con el fin de recrear la estructura biológica del cerebro, el resultado de una buena programación podría ser el hecho de que esta inteligencia perdería la cabeza si se sometiera a una injusta y considerable carga en su psique.
Este es un motivo para prestar mucha atención al desarrollo de tecnologías aterradoras basadas en inteligencia artificial que tienen la vocación de ganar conciencia.
Lectores de la mente
El peligro de las tecnologías aterradoras vinculadas a esta posibilidad existe naturalmente en el caso de máquinas capaces de leer los pensamientos y recuerdos de una persona a distancia y sin su consentimiento. Esto será muy difícil hasta que el cerebro humano esté conectado a una red o a cualquier forma de comunicación.
El desarrollo de la lectura mental procede rápido, sin embargo. El año pasado, un equipo holandés utilizó escáneres cerebrales y aprendizaje automático para determinar qué letras estaba mirando una persona en ese momento. La revolución abre el potencial para reconstruir el pensamiento humano a un nivel de detalle nunca antes visto: será posible saber lo que miramos, lo que pensamos, lo que recordamos. Aquí está. Ahora imagina algo así utilizado por cualquier régimen totalitario y repensar el concepto de "juicio de intenciones".