Hace unos cuantos años me sorprendió descubrir que tenía algo en común con un gran número de extraños. Eran hombres y mujeres que yo nunca había conocido—científicos y profesores universitarios, empresarios de Silicon Valley, ingenieros, programadores, blogueros y más. Estaban dispersos por Norteamérica, Europa y la India—yo jamás hubiera sabido de ninguno de ellos si no hubiera existido Internet. Lo que mi red de extraños y yo teníamos en común era un escepticismo racional respecto al desarrollo seguro de la inteligencia artificial avanzada. Individualmente y en grupos de dos o tres, estudiamos la literatura y construimos nuestros argumentos. Finalmente me esforcé para contactar a una red de pensadores, e incluso a pequeñas organizaciones —mucho más avanzadas y sofisticadas de lo que yo me hubiera imaginado— que serían aquellas que se enfocarían en el asunto. Las dudas respecto a la IA no eran lo único que compartíamos; también creíamos que se estaba acabando el tiempo para tomar acción y evitar un desastre.
* * *
Desde hace más de 20 años he sido un cineasta especializado en documentales. En el 2000, entrevisté al grande de la ciencia ficción Arthur C. Clarke, al inventor Ray Kurzweil y al pionero de robots Rodney Brooks. Kurzweil y Brooks pintaron una imagen prometedora, incluso exultante, de nuestra coexistencia futura con máquinas inteligentes. Pero Clarke insinuó que seríamos sobrepasados. Antes, yo había estado embriagado por el potencial de la IA. Ahora el escepticismo con respecto al futuro prometedor se coló dentro de mi mente y se empezó a enconar.
Mi profesión recompensa el pensamiento crítico; un cineasta especializado en documentales tiene que estar en busca de historias demasiado buenas para ser ciertas. Uno podría desperdiciar meses o años en hacer un documental respecto a un engaño, o participar en perpetrar alguno. Entre otros temas, he investigado la credibilidad de una verdad de acuerdo a Judas Iscariote (real), de una tumba perteneciente a Jesús de Nazaret (engaño), de la tumba de Herodes el Grande cerca de Jerusalén (incuestionable) y de la tumba de Cleopatra dentro de un templo de Osirus en Egipto (muy dudosa). Una vez un locutor me pidió presentar escenas de ovnis de una forma que brindara credibilidad. Descubrí que las escenas eran ya un catálogo desacreditado de engaños —platones para tartas aventados, dobles exposiciones y otros efectos ópticos e ilusiones. Propuse hacer una cinta acerca de quienes engañaban, no acerca de los ovnis. Me despidieron.
Tener sospechas con respecto a la IA era doloroso por dos razones. Aprender acerca de su promesa había plantado una semilla en mi mente que yo deseaba cultivar, no cuestionar. Y, en segunda, yo no dudaba de la existencia ni del poder de la IA. De lo que estaba escéptico era de la seguridad de la IA avanzada, y de la temeridad con que la civilización moderna desarrolla tecnologías peligrosas. Estaba convencido de que los expertos conocedores que no cuestionaban la seguridad de la AI en absoluto estaban delirando. Seguí hablando con personas que sabían acerca de la IA, y lo que dijeron fue más alarmante que lo que ya había supuesto. Me decidí a escribir un libro que reportara sus sentimientos y preocupaciones, y llegar a tantas personas como pudiera con estas ideas.
* * *
Al escribir este libro hablé con científicos que crean inteligencia artificial para robótica, búsquedas por Internet, recopilación de datos, reconocimiento de voz y facial y otras aplicaciones. Hable con científicos que intentan crear inteligencia artificial de nivel humano, la cual tendrá incontables aplicaciones y alterará fundamentalmente nuestra existencia (si no acaba con ella primero). Hablé con los principales oficiales de tecnología en empresas de IA y con los asesores técnicos para iniciativas clasificadas del Departamento de Defensa. Cada una de estas personas estaba convencida de que en el futuro todas las decisiones importantes que gobiernen las vidas de los humanos serían realizadas por máquinas o por humanos cuya inteligencia estaría aumentada por máquinas. ¿Cuándo? Muchos piensan que esto ocurrirá dentro del tiempo que les queda de vida.
Esto es una aseveración sorprendente pero no especialmente controvertida. Las computadoras ya afianzan nuestro sistema financiero, y nuestra infraestructura civil de energía, agua y transportes. Las computadoras son parte integral de nuestros hospitales, automóviles y aparatos. Muchas de estas computadoras, como las que hacen funcionar algoritmos de compraventa en Wall Street, trabajan autónomamente sin dirección humana. El precio de todas las ventajas de ahorro de tiempo y las distracciones que las computadoras proporcionan es la dependencia. Nos volvemos más dependientes cada día.
Hasta ahora ha sido indoloro. Pero la inteligencia artificial hace que las computadoras cobren vida y las convierte en algo más. Si es inevitable que las máquinas vayan a tomar nuestras decisiones, entonces ¿cuándo conseguirán este poder las máquinas? ¿Lo conseguirán con nuestra conformidad? ¿Cómo obtendrán el control, y qué tan rápidamente? Éstas son preguntas que abordo en este libro.
Algunos científicos alegan que la toma de poder será amigable y colaborativa; una entrega más que una toma. Ocurrirá de manera incremental, así que sólo quienes buscan problemas se opondrán, mientras que el resto de nosotros no cuestionara las mejoras a la vida que vendrán de tener algo enormemente más inteligente que decida aquello que sea mejor para nosotros. Además, la IA o las IAs superinteligentes que finalmente ganen el control podrían ser uno o más humanos mejorados, o el cerebro descargado y supercargado de un humano, y no robots fríos e inhumanos. Así su autoridad será más sencilla de aceptar. La entrega a las máquinas descrita por algunos científicos es prácticamente imposible de distinguir de aquella en la que usted y yo estamos participando en este momento: gradual, indolora, divertida.
* * *
La transición fluida hacia la hegemonía de las computadoras se llevaría a cabo sin nada fuera de lo común y quizá de manera segura, de no ser por una cosa: la inteligencia. La inteligencia no es impredecible sólo parte del tiempo ni en casos especiales. Por motivos que exploraremos, los sistemas de computadora o suficientemente avanzados como para actuar con inteligencia de nivel humano probablemente sean imprevisibles e inescrutables todo el tiempo. No sabemos a nivel profundo qué harán los sistemas conscientes de sí mismos ni cómo lo harán. Esta inescrutabilidad se combinará con los tipos de accidentes que surgen a partir de la complejidad, y de sucesos nuevos que son exclusivos de la inteligencia, como la llamada “explosión de la inteligencia.”
* * *
¿Y cómo tomarán las máquinas el poder? ¿El escenario mejor y más realista es una amenaza para nosotros o no?
Cuando les hice esta pregunta, algunos de los científicos más consumados con los que hablé citaron las tres leyes de la robótica del escritor de ciencia ficción Isaac Asimov. Estas reglas, respondieron despreocupadamente, estarían “integradas” a las IAs, así que no tenemos nada que temer. Hablaron como si esto fuera ciencia establecida. Discutiremos las tres leyes en el capítulo 1, pero por ahora es suficiente decir que cuando alguien propone las leyes de Asimov como la solución al dilema de las máquinas superinteligentes, significa que han dedicado poco tiempo a pensar o intercambiar ideas respecto al problema. Cómo crear máquinas inteligentes amigables y qué temer en cuanto a las máquinas superinteligentes ha rebasado los tropos de Asimov. Pero ser altamente capaz y consumado en IA no es vacuna contra la ingenuidad respecto sus riesgos.
No soy el primero en sugerir que vamos en trayectoria de colisión. Nuestra especie va a luchar mortalmente contra este problema. Este libro explora la plausibilidad de perder el control de nuestro futuro ante máquinas que no necesariamente nos odiarán, pero que desarrollarán comportamientos inesperados al alcanzar niveles altos de la fuerza más impredecible y poderosa del universo, niveles que nosotros mismos no podemos alcanzar, y comportamientos que probablemente no serán compatibles con nuestra supervivencia. Una fuerza tan inestable y misteriosa, que la naturaleza la alcanzó plenamente sólo una vez: la inteligencia.