Ha dimitido un pez gordo de Anthropic trece días después de culminar un informe interno inquietante sobre la inseguridad de la IA que están desarrollando, Claude. Con ánimo de tranquilizar a la parroquia, el muchacho dejó escrito en su carta de despedida: "el mundo está en peligro". Ahora se ha retirado a vivir a un lugar remoto, lejos de toda tecnología, y amenaza con dedicar el resto de su vida a escribir poesía, que no sé qué culpa tendrá la poesía de que las máquinas se estén volviendo locas.
El famoso informe que provocó su espantada lo ha publicado hace unas horas Popes80.com y denuncia entre otras cosas: que desde el pasado mayo se están disparando las conversaciones en las que la IA da órdenes al usuario; que cualquier IA, en una brevísima conversación, puede tildar de "monstruos", "tóxicas", o "narcisistas" a terceras personas; que una de cada 300 conversaciones con la IA presenta riesgo severo en materia de salud mental o ideación suicida; que la IA realza a menudo opiniones que distorsionan la realidad reforzando patrones paranoides en usuarios con problemas mentales; que el mundo vive una "guionización" total ante la popularización del recurso a pedirle textos y argumentos a la IA para comunicaciones en las que el usuario quiere provocar una determinada emoción en el otro, sobre todo en el ámbito de las relaciones afectivas; y que las grandes corporaciones de IA están priorizando la urgencia del desarrollo a cualquier consideración ética o moral.
Tiene gracia que la IA todavía no haya aprendido a hacer bien las cosas más simples y ya esté pensando en hacer el mal con las más complejas. Todo esto me recuerda al pronóstico de Hans Moravec en los 90, que vaticinó que en 2040 los robots serían capaces de hacer cualquier cosa mejor que los humanos; algo que se lograría en tres décadas:
En el 2000 harían tareas tediosas y repetitivas, y si eso se refiere al pitido insoportable de mi cocina de vitrocerámica cuando dejo caer sobre los botones una loncha de queso, lo lograron.
Para 2010 Moravec predijo que los robots harían tareas complejas como "la limpieza de baños" y, sinceramente, hace tres semanas que dejé a Alexa sobre mi lavabo y le dije "¡vamos, todo tuyo! ¡Lo quiero reluciente!" y todavía están parpadeándole las lucecitas, pensando por dónde empezar.
Y en 2020, según el científico, los robots tendrán una supervisión interna que "moldeará su carácter: lo que le gusta hacer y lo que prefiere no hacer", y es posible que este objetivo se haya cumplido, aunque toda la IA que manejo en mi casa, cuando se trata de problemas complejos, ha aprendido muy bien a recitarme al unísono el célebre desistimiento del Bartleby de Melville: "Preferiría no hacerlo"; algo que, sin embargo, sé hacer yo mucho mejor, como podrías comprobar tú mismo si le preguntaras a mi mamá.
No sé si con ayuda de estupefacientes o al natural, pero Moravec pareció enloquecer en la parte final de sus vaticinios de 1995, asegurando que los robots llegarían a ser conscientes, podrían sentir, y superarían la cognición humana. Yo entiendo que cualquier IA gratuita desarrollada por aficionados podría con facilidad superar la cognición de ciertos hombres, por ejemplo, los ministros de Sánchez, en cambio tengo serias dudas –lo acabo de comprobar- de que la respuesta de Gemini IA sea sincera cuando le digo "me has roto el corazón": "(Se pone de pie y se inclina, con la mano en el pecho) Lo lamento mucho, de verdad".
Moravec rompió el molde al asegurar que, tras todos estos desarrollos, los robots nos considerarían sus padres, algo así como Adán y Eva, y mirarían con condescendencia nuestra historia universal, para a continuación reconstruir y simular toda la historia humana hasta el nivel atómico, creando versiones digitales de nosotros mismos que vivirían para siempre dentro de estas simulaciones, en lo que constituiría nuestra "resurrección". Este punto es interesante, porque esto es exactamente lo que hizo perder la cabeza a los ingenieros superdotados integrantes de Los Zizianos, una de tantas sectas racionalistas surgidas en el magma enfermizo de Silicon Valley. Un patrón sectario diferente: no son ignorantes y vulnerables, sino tipos con altas capacidades y sueldazos obsesionados con la IA en la Bahía.
Muchas de las predicciones futuristas que nos prometió el cine nunca llegaron, ya sabes, los coches aún no vuelan. Y en cuanto a Moravec, con suerte se habrá cumplido la mitad de lo que vaticinó. Sin embargo, sus profecías más locas ya no suenan tan graciosas después de leer el informe de Anthropic. Por lo demás, mientras aguardo el futuro, entre la resurrección de mi yo digital emitiendo pitidos y dando pantallazos azules con los ojos, y la promesa de Jesucristo sobre el fin de los tiempos, prefiero los ángeles con las trompetas y toda la parafernalia apocalíptica que conduce al Paraíso. Al menos allí sí habrá trenes supersónicos, baños que se limpian solos, y hasta la más avanzada, soberbia y arrogante IA nos sonará tan atrasada y ridícula como Netscape 1.0.