POST Nº 732

Este lunes me invitaron a participar, en la Fundación Ortega-Marañón (Madrid), dentro de su iniciativa del laboratorio TNT (Temas de Nuestro Tiempo), en una mesa que nos planteó la siguiente pregunta:  «¿Cómo puede la Inteligencia Colectiva ayudarnos a entender el impacto que tendrá la IA en el sector del libro?». Fue una oportunidad para conocer el trabajazo que está haciendo la Fundación —es de las pocas que se ha tomado en serio el término «inteligencia colectiva» en su agenda— y reencontrarme con muy buenos amigos, que no veía desde hace tiempo.

Mi conocimiento del sector editorial es sólo como autor. Tengo mis hipótesis sobre cómo la #IA va a afectar a esa industria, pero me invitaron por otra cosa: el trabajo que hago sobre inteligencia colectiva. En cuanto al sector editorial, mi percepción es que funciona demasiado como un juego de suma cero: «Si yo vendo más libros, tú menos». Esto tiene cierto sentido, porque el presupuesto de los lectores es limitado y hay una terrible guerra por la atención, pero, aun así, me parece un ecosistema muy poco optimizado, que se empeña en no reconocerse como tal. Creo que hay muchos eslabones en la cadena de valor del libro que permiten colaborar más que competir, y que esas oportunidades no se están aprovechando.

Voy a resumir algunas ideas que compartí en la Mesa, y otras que me llevé escuchando al resto de los participantes:

1. Pensar juntos/as nos ayuda a mejorar la capacidad diagnóstica y predictiva sobre lo que va a significar la IA para el sector del libro. A más complejo e incierto es un problema, más se necesita una diversidad de miradas para minimizar las zonas ciegas («Nadie sabe todo, todo el mundo sabe algo» – Pierre Lévy).

2. Me duele aceptarlo (por mi desconfianza), pero la única manera de entender la IA —y hablar con propiedad de ella— es usándola. Solo probando y aprendiendo con los LLM es que se puede comprender en qué pueden ayudar y cuáles son las amenazas. El mundo editorial necesita habilitar espacios (p.ej. laboratorios) para experimentar, explorar, manosear, estas herramientas, aunque sea solo para entender mejor su potencial impacto. Y eso se puede hacer de manera colaborativa, compartiendo costes.   

3. La conversación sobre el impacto de la IA en el sector editorial cambia mucho de tono cuando pasa de la gestión (IA analítica) a la creación (IA generativa). En la gestión parece evidente su utilidad. En la creación, los temores y dudas se multiplican.

4. La transparencia es clave. No veo problema, desde el punto de vista editorial (aunque a mí personalmente no me guste), con que se creen libros con IA, siempre y cuando se diga, se reconozca.  Todo lo que se haga usando IA debería ser transparente.

5. Las IAs pueden ser un buen apoyo a la escritura, siempre que funcionen como «herramientas» de copiloto, para repensar el proceso creativo, y no como «agentes» autónomos, que sustituyan las actividades clave del proceso de creación. El problema no está en que se use IA, sino en cómo, y en qué grado. 

6. Simplificando mucho, el éxito de un libro depende de la idea creativa y de la calidad narrativa. En cuanto a la primera, el  músculo creativo puede crecer exponencialmente gracias a la «máquina de serendipia» que es la IA. La segunda exige talento y mucha técnica, pero es algo que será cada vez más codificable (y replicable), porque se basa en modelos y patrones que los algoritmos pueden capturar.

7. Por lo dicho en el punto anterior, tengo clarísimo que, más temprano que tarde, nos espera un escenario en el que tendremos libros «sintéticos» (hechos por IA) con una eficacia parecida a los escritos por humanos, entendiendo «eficacia» aquí como la calidad percibida de un libro por un lector medio. En esto, siento decirlo así, la IA será imbatible, para el 80-90% de los libros que conocemos hoy (mi percentil se coloca ahí, y realmente da miedo). Esa es, para mí, una premisa en el análisis de futuros del sector que no admite dudas, a pesar de las que se plantearon en la mesa quizás desde un exceso de voluntarismo: «la IA no va a ser capaz de escribir libros únicos, que nos emocionen», etc. Sabiendo esto, voy al siguiente punto.

8. Un libro no es solo esa obra final que llega a nuestras manos. Hay que redefinirlo para que no sea tan fácil de reemplazar. Es una experiencia, un camino seguido, un dispositivo cargado de simbolismo. Como decía Roberto Carreras, en su estupenda reseña, «reivindicar el pensamiento lento es hoy un acto radical». Por eso, en un mundo tan obsesionado por los atajos: ¿qué tendríamos que hacer para que se entienda que el método seguido para la creación de un libro tiene mucho valor en sí mismo, y no solo la obra final que se entrega? Esto me lleva a muchas preguntas más: ¿cómo percibimos y asignaremos valor a los libros, con tantos atajos que ahora existen para crearlos? O, como lectores, ¿veríamos bien que un libro escrito por un humano valga más que uno sintético si, en una prueba a ciegas, los dos nos parecen de igual calidad?

9. Más preguntas: ¿deberían introducirse incentivos de «discriminación positiva de lo humano» a la hora de asignar valor/precio a los libros? Esto es: si una obra está escrita por personas, y no por máquinas, ¿debería recibir alguna protección o subvención? Y, lo que lo complica aún más: ¿Habría garantías técnicas para verificar, acreditar, que un libro no se ha creado por una IA? Esto último es importante porque en un escenario de incentivos «human-made», sin esas garantías habría muchos tramposos, y no sería viable.

10. Cualquier modelo de IA que se use para filtrar manuscritos y así mejorar la eficiencia de la curación (gestionar la sobreabundancia de propuestas que reciben las editoriales) entraña riesgos. Puede funcionar si se entrena bien, con una buena «memoria» (lo que esa IA sabe de la editorial, porque se le ha suministrado el dataset adecuado) y «prompts» que capturen algoritmos de curación muy bien pensados para que el filtrado sea fino. Conviene saber, de todos modos, que la IA generará falsos negativos, que van a doler. Tanto, o más, que los de los curadores humanos, que también se equivocan.

11. Se habló en la mesa de la figura del «curador editorial», un tema que me interesa muchísimo. Yo estoy convencido que ese rol cambiará radicalmente. La mayor parte de la curación será automática, por algoritmos. Al menos para reducir notablemente el número de obras elegibles. Pero los nuevos curadores tendrán un papel curioso: serán las moscas cojoneras que jueguen en contra de los algoritmos. Aportarán esa parte instintiva del editor con olfato, que es capaz de ver lo que ningún dataset va a contar. Repito, su papel será el de hacer contrapeso al filtrado automático de la IA. Mi manera de describirlo es que serán «filántropos de la atención», porque apuntarán a obras que no sobrevivan a la purga de los algoritmos, y así les darán una segunda oportunidad de poder ser elegidas.    

12. Sospecho que la IA va a mejorar la capacidad de escritura colaborativa, la posibilidad de que un libro se escriba por muchas personas siguiendo una lógica parecida a la wiki. Lo digo porque es muy eficiente (y barata) en la función de editor ensamblador de cientos de contribuciones.

13. Las IAs, a más personalizadas se vuelvan (es la tendencia, a medida que la gente aprende a usarlas), más van a afectar al marketing editorial. Serán fuertes prescriptoras personales de los libros que compramos. La publicidad y el boca-oreja perderán protagonismo.

14. El genio está fuera de la botella, y ya no volverá. Y a más tiempo fuera, más voraz, a menos que se haga algo pronto para domesticarlo (regularlo). El delicado asunto de que se entrene con datos sujetos a derechos de propiedad intelectual exige una respuesta urgente. Cada minuto de ambigüedad que pasa, sin regulación, menos probable es que algún día se respeten límites. Tal como sugiere la Ley de Linus («muchos ojos mirando hacen más fácil detectar el error»), la industria editorial va a tener que activar mecanismos de «vigilancia colectiva», sensores más distribuidos, para detectar señales que pongan en riesgo sus derechos. También deberá mejorar su capacidad de «negociación colectiva».

15. Cuando lo digo, suena chocante para muchos, pero la IA es una forma de inteligencia colectiva. Lo es porque resulta de agregar el conocimiento de millones de personas; solo que de manera «extraída» y no «social». No agrega un colectivo, de manera intencional, sino un dispositivo externo que, para más inri, tiene dueño. Si esa IA concentra más que devuelve, entonces se vuelve «extractiva», y esa capacidad indica su dimensión política, su capacidad de redistribuir poder. A más ajena y menos supervisable, más peligrosa.

Para terminar, me gustaría recordar que en cualquier debate sobre el impacto de la IA, siempre hay tensión entre la postura que confía en el Determinismo Tecnológico («no hay nada que hacer, la tecnología manda, y se autocorrige») y la opinión crítica, que llamaré Asertividad Tecnológica, que defiende la capacidad humana de tomar el control y decidir cómo puede/debe usarse la tecnología. Esto se hizo evidente también en la mesa de la Fundación.

Ahora mismo, la primera postura está ganando por goleada, aunque su puesta en escena sea victimista. El tecno-optimismo, a pesar de sus quejas, está consiguiendo todo lo que se proponía: que le dejen hacer sin cortapisas. Y el Telón de Silicio, de los Trump, Vance & la élite tecno-política, está impidiendo cualquier esfuerzo de prudencia normativa. Esto, desde luego, me preocupa; y por eso tenemos que seguir insistiendo en convocar reflexiones colectivas como estas. El sector se tiene que reencontrar, abrir más las ventanas y dejar que entre aire fresco. No puede delegar lo que sí depende de él, porque, como dice Harari, ¿para qué hablar del futuro si no podemos cambiarlo?   

NOTA: Si te ha gustado el post, puedes suscribirte para recibir en tu buzón las siguientes entradas de este blog. Para eso solo tienes que introducir tu dirección de correo electrónico en el recuadro de «suscríbete a este blog” que aparece en la homepage. También puedes seguirme en la red social Bluesky o visitar mi otro blog: Blog de Inteligencia Colectiva. Asimismo, aquí tienes más información sobre mi último libro.