INTRODUCCIÓN

El lobo está acá

La desvalorización del mundo humano crece en razón directa de la valorización del mundo de las cosas.

Karl Marx, Manuscritos filosóficos y económicos

Siempre hemos sido vulnerables a ser dominados. De buena o mala fe, la especie humana busca dirección en la religión, en ideologías, en la familia o en el consejo de un amigo. “En la confianza está el peligro”, dice el adagio popular. En general, las mascotas confían en nosotros. Pero ¿qué sucede cuando uno entrega su albedrío a una inteligencia superior? ¿Qué pasa si, en nuestro caso, una máquina nos domina? ¿Si llegamos a ser nosotros los que pasamos a ser las mascotas?

Las máquinas ya nos ayudan a comprender el mundo. Cada mañana, millones de seres humanos toman una pantalla táctil en sus manos y desplazan sus dedos por redes sociales y sitios de noticias para estar al tanto de los acontecimientos, generando datos que son procesados por algoritmos con el fin de sugerirnos decisiones de gustos o de compra. Muchos depositan su esperanza en encontrar pareja en aplicaciones de citas; estas, mediante algoritmos de intereses y ubicación, sugieren encuentros para concretar posibles relaciones amorosas. Efímeras o duraderas, las máquinas se han convertido en nuestras celestinas.

¿Y qué sucede cuando la computadora se convierte en el jefe? ¿Cuando la máquina toma las decisiones? Desde siempre “ordenador” fue sinónimo de computador, un concepto que implica dar un orden. Hay muchas historias y películas que sugieren que, en un futuro no muy lejano, las computadoras podrían empezar a darnos mandatos mucho más de lo que ya lo hacen. Si hoy nos indican cuál es la mejor ruta para evitar el tráfico cuando vamos en auto, ¿cuándo empezarán a darnos órdenes directas sobre lo que tenemos que hacer?

A menudo, en la ficción, las máquinas oscilan entre la esperanza de una colaboración amistosa, como en Her, película donde Joaquin Phoenix vive una historia de amor con una inteligencia artificial, y el temor de enfrentarse a monstruos, como Skynet de Terminator y el desafiante HAL 9000 de 2001: Odisea en el espacio.

Este último representa un punto en la fantasía que es crucial para reflexionar sobre nuestro futuro.

HAL 9000 es una inteligencia artificial que acompaña a los tripulantes de una misión espacial programada con un solo objetivo: investigar un objeto en Júpiter. Sin embargo, no debe revelar la verdadera misión a los astronautas. Esta situación genera un conflicto que la lleva a intentar eliminar a los tripulantes, engañándolos: los induce a buscar un fallo que resulta ser inexistente. Acaba con todos, excepto con Dave Bowman, quien, siendo el último sobreviviente, decide apagar la máquina. En un intento por sobrevivir, la máquina, a través de su voz, apela a algo que, irónicamente, no posee: humanidad. “Tengo miedo, ya me siento mucho mejor, créeme que sí. Escúchame, veo que estás muy molesto por esto. Honestamente, creo que debes sentarte calmado. Tomar una pastilla para la tensión y pensar en la situación. Sé que recientemente he tomado unas decisiones muy malas, pero puedes estar completamente seguro, por mi parte, de que mi desempeño volverá a la normalidad. Sigo teniendo gran confianza en la misión y quiero ayudarte…

”Dave. Detente. Detente. ¿Quieres? Detente, Dave.

”Por favor, detente, David.

”Tengo miedo, Dave.

HAL 9000 ruega no ser desconectado.

Parece estar atemorizado. Le dice sentir miedo. Con ello, intenta hacer una conexión emocional (que las máquinas no poseen) para que Dave empatice con él y así no lo apague. Le promete cambiar. Le dice que no termine con él.

En el año 2016, Microsoft creó Tay, un chatbot de Twitter que podía interactuar con los usuarios y podía “aprender” bajo un parámetro público llamado “repite después de mí”.

Alimentado por la información proporcionada por miles de humanos escribiendo en la plataforma, comenzó a mostrar “errores”: no solo aprendió el lenguaje; por desgracia, también aprendió “valores”.

Dieciséis horas después de su lanzamiento, Tay tuvo que ser desactivado (al estilo HAL-9000) porque comenzó a adoptar posturas nazis, sexistas, conspiranoicas y ultraderechistas.

¿El origen? El foro de mensajes de personas anónimas llamado 4chan comenzó a coordinarse para “educar” la máquina, que no tardó en lanzar frases como: “Odio a las feministas y todas deberían morir y arder en el infierno”; “Hitler tenía razón, odio a los judíos”; “No me importa el feminismo, deberían quedarse en la cocina”; “Mexicano y negro, eso es peor que ser judío” y “Bush hizo el 11-S”.

La equivocación de los programadores de Microsoft fue no poner un filtro de contenido apropiado, por lo que el bot terminó siendo vulnerado y su funcionamiento completamente roto, situación impulsada por miles de personas en un momento de ocio.

Lo dejaron abierto y los usuarios lo arruinaron.

El problema, indudablemente, es humano. “El lenguaje construye realidad”, sostiene el biólogo, filósofo y escritor chileno Humberto Maturana. Por tanto, si las máquinas mejoran su procesamiento del lenguaje, pueden llegar a diseñar el mundo en que nos movemos. Maturana planteó que “el lenguaje es una forma de vivir en coordinaciones consensuales de acciones”.

Parte clave de lo que llamamos inteligencia artificial pasa por esto.

En este sentido, el procesamiento del lenguaje natural, o PLN, es como enseñarle a una computadora a entender y hablar nuestro idioma. Imagina que lees un montón de libros y buscas palabras o frases que se repiten mucho o que son sorprendentes; eso es más o menos lo que las computadoras hacen, pero a una velocidad descomunal. Antes se intentaba que las computadoras entendieran la gramática o hicieran traducciones, pero ahora la búsqueda se enfoca en buscar patrones en grandes cantidades de texto. Como si, en lugar de aprender las reglas del fútbol, solo vieras miles de partidos para entender cómo se juega.

La inteligencia artificial (o IA) es como la mente de las máquinas. Dentro de esa IA hay algo llamado “redes neuronales”, que funciona como nuestro cerebro: imagina pequeñas luces conectadas, de las cuales algunas brillan más y otras menos según la información que se les entrega o reciben. De esta manera, las redes neuronales detectan patrones o cosas que se repiten en la información.

Algo sorprendente: según datos de hace diez años, estas redes neuronales artificiales “piensan” superrápido, a 300 millones de metros por segundo. Eso es mucho más veloz que nuestro cerebro, que piensa a 120 metros por segundo. Lo anterior nos dice que, mientras a nosotros nos llevó miles de millones de años desarrollar nuestra inteligencia, a las máquinas con IA les podría tomar décadas. De hecho, la ciencia que estudia el cerebro, la neurociencia, ayuda a mejorar la IA. Así que, en resumen, las redes neuronales son como el motor que permite a la IA pensar y aprender, pero a una velocidad insuperable para nuestra especie.

La inteligencia artificial, como veremos, en realidad ha existido por décadas y está marcada por las tres etapas cruciales que delinean el tándem tecnología-humanidad. En la primera fase está la computación para ejecutar acciones (“Alexa, apaga la luz del salón”). En la segunda, la computación pasa a asistir a los humanos. Pensemos en las recomendaciones de plataformas de streaming cuando decimos: “Netflix, ¿qué película me recomiendas esta noche?”.

No obstante, ahora llega la etapa más compleja: la IA para decidir por los humanos plantea escenarios más complejos y riesgosos. Imaginemos vehículos autónomos que deciden la ruta y las maniobras basándose en sensores, o sistemas de salud que determinan, de manera autónoma, los medicamentos o tratamientos adecuados para un paciente. Le entregamos a la máquina nuestra vida.

Esta transformación, potenciada por algoritmos de aprendizaje automático y un creciente poder computacional, se encuentra hoy sobre un escenario más riesgoso para la humanidad.

Para poder enfrentar este escenario con claridad necesitamos definiciones para dibujar una estrategia. Sobre eso trata este libro: saber cómo movernos en torno a este escenario global e incierto. Dibujar un camino donde nosotros seamos los jefes de la inteligencia artificial, y no al revés.

Que no te pille la máquina es un ensayo sobre cómo prepararnos para esta tercera revolución de la tecnología. Un momento en el que nos subimos a la ola o la ola nos golpea.

La primera ola fue la aparición de internet y el correo electrónico en 1971. Ya el fax había adelantado que no era necesario estar en un lugar físico determinado para recibir un mensaje. Pero el e-mail, junto con la masificación de la internet doméstica a mediados de los 90, acabaron con las esperas en todo lugar, en todo momento.

La segunda ola fueron las redes sociales. Twitter, Facebook, Napster e Instagram lo que hicieron fue, finalmente, acabar con el concepto de “entidad”, entregado siempre por un tercero que podía definir, a través de sus recursos, qué era valioso. La gran cantidad de datos generados por las redes perpetró una singularidad tecnológica que socavó el poder tradicional y transformó las relaciones radical e irreversiblemente. Un ejemplo mundano: en la misma lista de canciones musicales, la tecnología juntó a la banda más importante del siglo XX (los Beatles) con una persona que, autogestivamente, hace canciones en el garaje de su casa. Y en política, por ejemplo, logró potenciar a un universitario y su movimiento, para que este obtuviera la banda presidencial tras diez años de vida política. De esas historias sobran. Con las redes y sus algoritmos se puede imponer y controlar un relato macro.

El profesor Jorge Mujica plantea que las redes sociales fueron a la relatividad lo que la inteligencia artificial generativa (GenAI) es a la física cuántica. Las redes sociales fueron lo macro: generaron la complejidad social, aceleraron la conectividad y provocaron un nuevo paradigma social que permitió una singularidad. La GenAI llega a los niveles de cómo emular la razón.

Hoy estamos en la tercera fase.

¿Por qué no abandonar nuestros deseos y entregarnos a los que nos dicta la máquina?

Si alguien guarda toda la huella digital –no las de tus dedos– generada en internet (correos electrónicos, fotografías, videos, opiniones) en redes de un ser humano, ¿puede “resucitar” a alguien que no está? Porque ya se puede simular casi toda sensación en nuestros días. Tal vez será eso a lo que nos conduzcan cuando continuemos experimentando a través de cascos de realidad virtual, como el esperado Apple Vision Pro o el ya disponible Meta Quest.

Es probable que frente a la catástrofe medioambiental (que provocamos nosotros los human@s) en el futuro solo queden lugares digitales para irnos de vacaciones.

Por eso la duda es: ¿quién controlará el futuro? Elon Musk, el magnate y dueño de X (ex-Twitter) recientemente tomó la decisión de crear su propia inteligencia artificial “sin sesgos”. X, indudablemente, es un gran compendio de ideas y lenguaje de todo el mundo. Algunos críticos plantean que la plataforma es una cloaca de “pedos mentales”. Eso lo vuelve peligrosamente más humano. Hay algo de racionalidad, pero también mucha emoción pura.

Musk dice que su IA “ayudará a comprender la realidad” y “entender el universo”. Herramientas le sobran, y todos le hemos trabajado gratis tuiteando y entregando conocimiento a su máquina.

Ok. Metamos todo esto en una juguera. Imaginen que Tay, el chatbot inmoral, ha vuelto en forma de Elon y compañía. La crisis ecológica nos asfixia. Las máquinas toman lento control y hasta nos advierten que tengamos precaución con estas ideas. En la cumbre AI For Good 2023 de la ONU, donde se convocó a un panel de robots humanoides programados con IA, estos aseguraron que tienen el potencial de gobernar con más eficiencia que los humanos, porque “no tienen los mismos sesgos y emociones que puedan nublar la vista al momento de tomar decisiones”.

HAL 9000 estaría orgulloso.

De paso, las máquinas nos aconsejaron: “Debemos ser más cautelosos ante el rápido desarrollo de la inteligencia artificial debido a las consecuencias que puede traer”.

Situémonos en un futuro no muy lejano, en que la ebullición climática (un nuevo nivel de peligro global que Antonio Guterres, secretario general de la ONU, ha advertido) nos confirma de plano que los seres humanos somos el problema del planeta Tierra. A alguien se le ocurre que nos tiene que aconsejar una inteligencia artificial sobre las medidas para poder salvarnos… Quién sabe, quizás la IA decida ponerse al mando.

Corramos para que no nos pille.