Mariano Sigman (Buenos Aires, 1972) y Santiago Bilinkis (Buenos Aires, 1970) acaban de publicar Artificial. La nueva inteligencia y el contorno de lo humano (Debate, 2023), un ensayo que huye del oráculo, del tremendismo y de la ingenuidad, en el que abordan el origen, las utilidades y los riesgos de la IA. El primero es doctor en Neurociencia, fue uno de los directores del Human Brain Project –"el esfuerzo más vasto del mundo por entender y emular el cerebro humano"– y es autor de varios libros –en LD ya fue entrevistado por El poder de las palabras. Cómo cambiar tu cerebro (y tu vida) conversando (Debate, 2022)–; el segundo, emprendedor, divulgador, tecnólogo y colaborador en varios medios. Lejos de querer "alimentar a los nerds", tienen por objetivo acercar a "las personas comunes una herramienta que está hoy gratis a su alcance y que el 80% de la gente todavía no está utilizando". Sobre su última criatura de celulosa y todo lo que se desprende de ella, conversamos en la sede madrileña de Penguin. Partiendo, con un deje apocalíptico, de unas declaraciones de Nick Cave sobre la cosa.
P: Un tal Mark le pidió a ChatGPT que escribiera una canción a lo Nick Cave. El usuario le mandó la letra al cantante australiano, que la calificó como "una mierda": "El apocalipsis está en camino. Esta canción apesta". En primer lugar, ¿una canción artificial a lo Nick Cave puede ser tan buena como una canción artesanal de Nick Cave?
Santiago Bilinkis (SB): Si lo único que haces es decirle al prompt "haz una canción a lo Nick Cave", es muy probable que la calidad de la producción sea pobre. La gente tiende a pensar en la IA como una herramienta para ahorrarse trabajo. ¿Cuánto trabaja Nick Cave en la escritura de una canción? No la hace en cinco minutos. Y si la hace en cinco minutos, esos cinco minutos son producto de una elaboración mental que viene de años. Nos han preguntado si hemos usado la IA para escribir el libro. En general, la pregunta conlleva la impronta de si la usamos para hacerlo más rápido. Hacer un buen libro con IA no nos hubiera ahorrado trabajo. ¿Podríamos haberlo hecho? Sí, trabajando tan duro como para escribirlo sin usarla. Es natural la relación de Nick Cave.
P: ¿Se puede calificar a una IA como "creativa" u "original"?
Mariano Sigman (MS): La respuesta corta es sí. Hay ya un montón de ejemplos de cosas que están hechas con IA y que son muy sorprendentes. Nick Cave reacciona así porque sabe que esa canción no la ha escrito él, pero ya hay repletos concursos de arte en los que alguien ha hecho el experimento de enviar algo hecho con IA y ha ganado el concurso de fotografía, pintura, escritura… Tenemos la resistencia gala de sentirnos ofendidos cuando se puede hacer una creación que esté a la altura de lo que hacemos nosotros, pero esto no es algo hecho por un invento alienígena. En última instancia, es una creación humana hecha con una herramienta. Paco de Lucía utiliza la guitarra para tocar, una tecnología. Sin esa tecnología, Paco de Lucía no sonaría como puede sonar. Pero esa tecnología depende del uso expresivo que le encuentra alguien. Cuando salieron los djs, los músicos decían: "Estos no hacen música. Cogen música, la cortan y la pegan". Hoy lo vemos como un ejercicio creativo, y hay djs buenísimos y otros que son malísimos. La IA es una herramienta que, bien usada, llega a niveles expresivos brillantes de la cultura humana, y mal usada, genera basura.
P: Entonces, del mismo modo que existen los Munch o los Picasso, no se podrá decir "esto es un DALL-E 2 " o "esto es un Midjourney".
SB: La inteligencia no crea sola. Requiere un prompt, y un prompt es una elaboración humana. La calidad de ese prompt es muy variable según quien lo escriba y cuánto trabajo le ponga. Todos podemos poner nuestros dedos sobre las cuerdas de la guitarra, y sólo Paco de Lucía podía producir lo que podía producir. Esto es algo similar. A la vez, un prompt, al final del día, no es más que lenguaje natural, conversación. Esculpir es para pocos; conversar, no. Sin llegar al extremo de que cualquiera podrá tocar tan bien este instrumento como Paco de Lucía la guitarra, es importante saber que es mucho más accesible que buena parte de las tecnologías que tenemos ahora. Si te doy una computadora para programar, tendrías que estudiar durante meses o años lenguajes de programación para poder usar esa herramienta de una manera efectiva. Pero si te doy ChatGPT, en media hora de experimentación, vas a estar haciendo buenas producciones. Eso es muy propiciatorio. El objetivo de este libro no es alimentar a los nerds. Todo lo contrario: es acercar a las personas comunes una herramienta que está hoy gratis a su alcance y que el 80% de la gente todavía no está utilizando. Bien porque cree que es difícil, bien porque, como Nick Cave, entra en una competencia de pensar que viene a reemplazarnos cuando, en realidad, viene a potenciarnos, a permitirnos llegar a lugares expresivos que antes eran imposibles.
P: Volviendo a la reflexión de Cave, ¿el apocalipsis está en camino? Ustedes, al final de Artificial, no descartan que "seamos los nuevos neandertales de otra especie": "Quizá tengamos el raro ‘privilegio’ de haber gestado nuestra propia némesis". ¿Un Skynet es posible?
MS: Sí, es posible. Pero esa discusión no tendría que estar en primera plana. Creo que es parte del problema. La analogía es la de la tecnología nuclear. Cuando Oppenheimer hace su primera prueba, su pregunta es: "¿Voy a incendiar la atmósfera o no? ¡Me puedo cargar el planeta entero!". Eso no pasó, pero hicimos una tecnología con una capacidad tremendamente nociva y la hemos sobrevivido. Eso está en nosotros: cómo convivimos con estas tecnologías. La IA tiene algo que Harari y mucha otra gente expresa, y nosotros mismos expresamos: a diferencia de otras tecnologías, tiene su propia capacidad de decidir. Una máquina de escribir no decide lo que quiere escribir. La IA toma sus propias decisiones, incluida la decisión de replicarse a sí misma. En ese sentido, se parece un poco a la creación de una especie. Entonces, estos escenarios futuristas, que han sido el combustible de las novelas de ciencia ficción, hoy están sobre la mesa. Pueden pasar todo tipo de cosas, pero también… El otro día hablaba con un amigo y periodista que me decía: "Nuestros días están contados". Claro que están contados: el Sol se va a apagar. Una cosa es que la cosa estén contados y otra que no sean muchos. Hoy tenemos un montón de razones para estar preocupados: los conflictos de Ucrania e Israel, Argentina, España… hay un lío donde creo que tenemos que sincerarnos y darnos cuenta de que no necesitamos la IA para destrozarnos a nosotros mismos. Echarle la culpa a un ente intangible es una manera muy fácil de liberarnos de nuestra propia responsabilidad sobre nuestro destino.
SB: Ya que vas al final del libro, creo que hay dos cosas importantes ahí. Una es que el 99% de las especies que han existido se han extinguido. Los días están contados por definición. Pero también decimos que en la gran mayoría de los casos, cuando una especie más inteligente se vincula con otra menos inteligente, el camino no es el exterminio. Nosotros, como especie más inteligente del planeta, hemos, accidentalmente, llevado a otras especies al exterminio: por querer sacarles sus colmillos, sus cuernos… Pero con la gran mayoría de las especies no nos vinculamos de manera antagónica.
P: En la sucesión fuego, rueda, imprenta, máquina de vapor, internet, ¿lo siguiente es la IA?
MS: Sí. La IA no es una moda, como lo fue el metaverso, o ciertas cosas que se ponen de moda y, en realidad, no pasan nada. Primero: la IA no es el futuro, es el presente y está cambiando el mundo. Está en todos los lados: en tu casa, en la mía, en los niños que empiezan a utilizarla, en los algoritmos de Netflix y de Instagram, en procesos de producción… Empieza a estar diseminada en todos los lados y toca fibras estructurales de la sociedad: cómo nos educamos, como el trabajo… Hacemos bien en preguntarnos qué va a pasar. Es una tecnología inminente, muy potente, y como toda tecnología potente, nos va a dar un montón de libertades. Y con esas libertades, vienen todo tipo de responsabilidades.
P: Escriben: "Los indicios abundan: el rápido aumento de los trastornos de ansiedad, los ataques de pánico, los desórdenes alimenticios y la depresión, especialmente entre los jóvenes, nos llevan a pensar que en la interacción con la IA tenemos mucho que ganar, pero también que perder". ¿Cómo creen que el profano puede convivir con esta herramienta?
MS: Me gustan mucho tus entrevistas, pero estoy viendo una cierta atracción por el apocalipsis…
P: Reconozco que parto de una base no muy lejana a la de Nick Cave.
MS: Es bien humano. O sea, vas por una carretera, hay un accidente en la vía y no puedes evitar mirar. Las alturas nos dan miedo, y todos nos asomamos. Estamos ante algo que da vértigo. Esta visión apocalíptica genera miedo, y el miedo no es una buena manera de vincularse con las cosas. De nuevo, el ejemplo de la altura es bien bueno. Lo conozco por la bici: cuando vas y a la derecha hay un precipicio, el miedo te convoca a tirarte del precipicio. Entonces, cuando tú vas en bici y a la derecha hay un precipicio, tienes que saber que está, pero no tienes que mirarlo. Tienes que mirar el camino que te lleva hacia adelante. Lo que dices, Jesús, es bien cierto: un niño o un adolescente pasa una enorme parte de su tiempo en algo que tiene, no sé cuánto, ¿diez por tres centímetros? Pasa una parte esencial de su vida. Y la conecta con contenido híbrido, contenido de gente que está mediado y filtrado por una IA que conoce cuáles son los demonios de esa persona que consume, cuáles son las cosas a las que le cuesta decir que no, cuáles son nuestros vicios. ¿Ese mundo es bueno? Creo que no. Ahora bien, ¿ese mundo es culpa de la IA? Creo que tampoco. ¿Cómo resolvemos eso? Una manera es decir: "Todo esto es culpa de la IA, es el apocalipsis, no quiero enterarme de esto, me quiero olvidar, me dedico a la poesía y a lo humano". La poesía y lo humano ha creado esto. Ha creado a Quevedo, pero también a nuestros peores demonios. No hay que crear un alarmismo desmedido. Menos aún, cuando ese alarmismo esta proyectado en un ente que es el responsable de todos los males. Para mí, y esto es importante, toda la regulación empieza con la educación y la información. Y la regulación no es menester del Estado.
P: En el caso de niños y jóvenes, es o debiera ser menester de los padres…
MS: Es menester de todas las entidades sociales. La regulación empieza en uno: decides qué puedes comer y qué no. Por supuesto, tienes tus límites. Todos tenemos flaquezas. Depende del supermercado, que elige qué te vende, qué porquerías no te vende… y del Estado: como el mercado tiene su propia dinámica, decide que tampoco puedes vender cualquier cosa, y que tiene que haber ciertas etiquetas e informes sobre lo que consumes. Aquí es igual: un adolescente puede regular el contenido, pero hasta cierto punto. Entonces, primero tiene que estar informado. Y este es el objetivo del libro: al otro lado del mostrador, hay un caballo de Troya y tienes que aprender a defenderte, a ser escéptico. Luego, tus padres también tienen que estar educados en eso. Tú puedes enseñar a un niño el riesgo de cruzar una calle porque has cruzado calles, pero es muy difícil que un padre le explique a un niño el riesgo de cómo vincularse con una IA a través de redes sociales si nunca ha recorrido ese mundo.
P: Si no han tenido la experiencia…
MS: ¿Cómo enseñas a un niño que tenga un vínculo sano con su teléfono si no sabes lo que está pasando ahí? En última instancia, el devenir de cada una de estas cosas es un ejercicio humano. Y la manera que tenemos de encontrar mundos mejores o más sanos es estando educados e informados.
P: Hablábamos antes de la creatividad; ¿puede una IA desarrollar amor? Me estoy acordando de Her…
SB: Claramente, una IA va a poder despertar amor en nosotros. Empatía, sin duda. Cuando usas ChatGPT, es habitual decirle "gracias" o pedirle "por favor". La única justificación para hacerlo es la empatía, pensar que detrás hay alguien, no un ente humano, pero sí un ente que trabaja para ti. ¿Qué pasa en la cabeza de ese ente? Jamás lo sabremos. Como no sabemos qué pasa en la cabeza de un perro o de un gato. ¿Un gato siente amor? Diría que sí, pero la respuesta triste es que no lo sabemos. Quizá observemos en las máquinas, como en los perros, conductas propias de quien siente amor. Lo que yo adoptaría como regla es: si luce como amor, es amor.
P: Parece un verso.
SB: En realidad, es una declaración muy fuerte: si las máquinas logran hacer algo que luce como, tenemos que darle entidad. Porque sería muy fácil decir: "No, es una emulación". ¿Y por qué no es una emulación lo del perro? En el momento en que las máquinas empiecen a decirnos "estoy enamorada de ti", ¿vamos a creerlas o no? Nunca vamos a poder saber a ciencia cierta si es un artificio.
P: Eso también nos pasa con los seres humanos.
MS: Completamente. Los seres humanos han establecido líneas muy arbitrarias de todo tipo: de género, de edades, de razas, de culturas… Cuando España llega a América y se encuentra con algo que tenía un signo de pregunta, genuino… O sea, hoy se ve como algo conservador y reaccionario, pero había gente noble y bienintencionada que se preguntaba: "Esta gente, ¿es igual que nosotros o no?". Te encuentras, de repente, con otro ente. Esta historia también ha estado en la ciencia ficción. Imagínate que, dentro de treinta años, vas a un bar, te encuentras con una tía, empiezas a hablar, descubres que hay magia, pasa algo. Cuando termina la conversación, te dice que es un robot, una IA, y añade que lo que te ha dicho es todo verdad y lo ha experimentado. Que no te ha querido engañar y te dice que tienes dos opciones: "Apagarme, resetearme y ser otra persona, o seguir, porque me gusta lo que he vivido contigo, por favor, no me apagues". Lo que creo que es bueno en estas cosas es no salir con una fuerza vigorosa pensando que hay algo correcto y algo que no. El ejercicio de dudar, de preguntarnos, es bueno. Esos vicios o, si lo prefieres, automatismos que empiezan en lugares que pensamos muy nobles, nos han llevado a lo peor de la condición humana. Los arios lo han sentido. O los cuerdos, que sentían que los locos no tenían derechos y los encerraban en manicomios. Ahora entendemos que debemos ser cuidadosos con todas las personas del mundo, con el planeta, etcétera. Hemos evolucionado. Y puede ser, o puede que no, que en un momento nos demos cuenta de que hay otras entidades que funcionan en otro sustrato, que no están hechas de carne, nitrógeno, hueso, cosas que, cuando ves en un microscopio, no son muy espectaculares (risas), y que de ellas sea capaz de emerger algo que también sienta y experimente. Entonces, tendremos que preguntarnos cómo nos vinculamos con eso.