POST Nº 730

La cita con que titulo el post pertenece al último libro de Yuval Noah Harari: «Nexus: Una breve historia de las redes de información desde la Edad de Piedra hasta la IA» (2024). Casi 600 páginas que me devoré de un tirón. Su estilo narrativo, muy cercano al periodístico, ayuda a que la lectura fluya. La erudición del autor israelí es apabullante. Aprecio su capacidad de conectar conceptos y eventos históricos que a primera vista no parecen relacionados, como fuente de inspiración para entender el mundo de hoy.

El libro empieza tibio. La primera parte, cuando se enreda en definir lo que es información, me resultó aburrida, pero rápido cambió el relato y se puso interesante. Me ha gustado mucho leerlo, lo recomiendo de verdad. Tomé un montón de notas que voy a compartir en esta reseña. Será la primera, pero habrá más. En esta pondré el foco en las reflexiones de Harari sobre el impacto de la Inteligencia Artificial.

Lo que me atrajo de este ensayo, y lo hace singular, es que es el primero —de los que yo he leído, matizo— que no se centra en el impacto de la automatización en el mercado laboral, sino en cómo la IA puede afectar a la democracia y a nuestra manera de habitar en las redes de información. Y, por cierto, lo debatimos en uno de los encuentros del Club de Lectura ALEXANDREIA, al que pertenezco.

Me atrapó enseguida esta frase: «La IA no es una herramienta, es un agente», porque, como repite varias veces el autor, «La IA es la primera tecnología de la historia que puede tomar decisiones y generar nuevas ideas por sí misma». Esto la hace diferente a todas las anteriores, y tiene enormes implicaciones en la distribución del poder, la política y la democracia. También conecté con el matiz semántico que usa Harari al renombrar el acrónimo IA, de «Inteligencia Artificial», por otro que le parece más apropiado: «Inteligencia Ajena». Siento que nombrado así abre más los ojos a lo que supone delegar tanto en ella.

Voy a reseñar una parte del libro a través de citas, que son literales. En algunas de ellas, como es mi costumbre, he añadido comentarios propios, que siempre aparecen entre corchetes. Organicé las ideas de Harari en un conjunto de temas que a mí me parecen interesantes porque son, además, preocupaciones mías. Las he enumerado, por si quieres referirte a alguna en particular en los comentarios:  

Perspectiva histórica de la IA

1. «Durante mis conversaciones acerca de la IA con políticos y con empresarios tecnológicos, la historia ha aparecido con frecuencia como tema central (…) Ellos mostraban esperanza en que, así como nosotros salimos del paso con la Revolución Industrial, la humanidad encontraría la manera de apañárselas con la revolución de la IA».

[PERO…]

2. «Las comparaciones históricas con la revolución de la imprenta y la Revolución Industrial resultan problemáticas (…) Subestiman tanto la naturaleza sin precedentes de la revolución de la IA como los aspectos negativos de las revoluciones previas (…) Hay que tener en cuenta que la IA es la primera tecnología de la historia capaz de tomar decisiones y de generar ideas por sí misma»

Determinismo tecnológico vs. control social

3. «La tecnología rara vez es determinista» [Harari insiste en esto, y es una afirmación que no pocos lectores negaran porque el falso mito del determinismo tecnológico lo compramos hace mucho tiempo].

4. «La creencia en el determinismo tecnológico representa un peligro porque exime a la gente de toda responsabilidad (…) Si no podemos cambiar el futuro, ¿por qué perder el tiempo hablando de él? »

5. «A veces la gente piensa en la nueva tecnología como en una opción binaria de todo o nada (…) La tecnología solo crea nuevas oportunidades; somos nosotros quienes debemos decidir por cuáles optar. Los humanos todavía tenemos el control. No sabemos durante cuánto tiempo, pero todavía poseemos el poder de moldear estas nuevas realidades».

6. «Las tecnologías novedosas suelen conducir a desastres históricos no porque sean intrínsecamente malas, sino porque a los humanos les lleva un tiempo aprender a usarlas con sensatez. Si la humanidad necesitó que le enseñaran lecciones tan terribles para aprender a gestionar la energía del vapor y los telégrafos, ¿cuál será el coste de aprender a gestionar la bioingeniería y la IA? (…) Con la IA tenemos menos margen de error».

[La élite tecno-empresarial celebra que la tecnología se mueva muchísimo más rápido que la política, y que la capacidad de control de las instituciones. Yo, obviamente no. Esa es una desgracia que terminaremos pagando carísima]

7. «Se hace necesario crear salvaguardas contra los peligros que puedan acechar en el futuro (…) Inventamos una tecnología que puede interpretarse a sí misma, pero precisamente por esto conviene que creemos instituciones humanas capaces de vigilarla de cerca».

8. «Las compañías que encabezan la revolución informática transfieren la responsabilidad a clientes y votantes o a políticos y reguladores. Pero (…) si los gigantes tecnológicos obedecen los deseos de clientes y votantes pero al mismo tiempo moldean dichos deseos, entonces ¿quién controla realmente a quién? »

9. «Para funcionar, los mecanismos autocorrectores democráticos necesitan entender aquello que se supone que deben corregir». [Aquí tenemos un gran lío, porque no lo entienden. Y para colmo, existe una fuerte carencia de vocación pública en el mundo Tech, y la que hay, está mal recompensada, lo  que nos lleva a la siguiente idea, que desarrollaré más en otro post]

10. «Probablemente haya muchos más que quieran ser los próximos Jobs, Zuckerberg o Musk y construir una compañía privada multimillonaria en lugar de convertirse en un servidor público. Esto conduce a una peligrosa asimetría en la información. La gente que dirige la revolución de la información conoce mucho mejor la tecnología subyacente que quienes se supone que deben regularla».

Telón de Silicio vs. Regulación

11. «Un mundo de imperios rivales separados por un opaco Telón de Silicio también sería incapaz de regular el poder explosivo de la IA».

12. «Aunque tenemos experiencia en la regulación de tecnologías peligrosas como las armas nucleares y biológicas, la regulación de la IA requerirá niveles de confianza y autodisciplina sin precedentes, por dos razones. En primer lugar, es mucho más fácil ocultar un laboratorio en el que se desarrolle una IA ilegal que esconder un reactor nuclear ilícito. Y, en segundo lugar, las IA ofrecen muchos más usos de carácter dual —es decir, usos que oscilan entre el ámbito civil y el militar— que las bombas nucleares».

Propiedades emergentes, superinteligencia y distopias

13. «El principio fundamental del aprendizaje automático se basa en que, al igual que los humanos, mientras interactúan con el mundo, los algoritmos se pueden enseñar cosas nuevas a sí mismos. Al encontrar pautas en los datos, aprenden cosas que incluso sus progenitores humanos ignoran (…) En la IA, las redes neurales que avanzan hacia la autonomía son inexplicables (…) Los ingenieros no pueden mirar bajo el capó y explicar en detalle la causa de que algo haya ocurrido» [Y esto irá a peor, añado, con los llamados agentes autónomos]

14. «Puede que la consciencia no tenga conexiones esenciales con la bioquímica orgánica, en cuyo caso los ordenadores conscientes podrían hallarse a la vuelta de la esquina (…) Es probable que en las próximas décadas la IA adquiera incluso la capacidad de crear nuevas formas de vida, ya sea a través de la escritura de código genético» [Esto nos lleva a una tesis, no del todo improbable, que es perturbadora: quizás la superinteligencia no necesite química orgánica, sino solo matemáticas, si tenemos en cuenta la posibilidad de que comportamientos biológicos puedan ser expresados y simulados a través de modelos matemáticos].

15. «Para promover una falsa intimidad, los ordenadores no necesitan desarrollar sentimientos propios; solo tienen que lograr que nosotros nos sintamos emocionalmente ligados a ellos (…) fingir relaciones íntimas con nosotros, que entonces podrán usarse para persuadirnos de votar a políticos concretos, comprar productos concretos o adoptar creencias radicales».

16. «Si definimos un objetivo desajustado a una calculadora de bolsillo, las consecuencias son mínimas. Pero, si definimos un objetivo desajustado a una máquina superinteligente, las consecuencias podrían ser distópicas».

17. «Están surgiendo cadenas de ordenador a ordenador en las que los ordenadores interactúan entre sí por sí solos. De estos circuitos quedan excluidos los humanos, que tienen dificultades incluso para entender qué es lo que sucede en su interior. Esto puede generar secuencias que se vayan de control, porque multipliquen las propiedades emergentes, por acumulación»

Mitos y burócratas digitales

18. «A partir de ahora, los humanos tendrán que lidiar con creadores de mitos digitales y con burócratas digitales (…) La civilización humana también podría ser víctima de armas de destrucción masiva sociales, como, por ejemplo, relatos capaces de socavar nuestros vínculos de convivencia» [Existe un miedo, que no es infundado, a que las máquinas con IA puedan construir un relato super eficiente para convencernos socialmente de hacer algo que no nos conviene].

19. «En el centro de toda religión se halla la fantasía de conectar con una inteligencia sobrehumana e infalible. Este es el motivo por el que estudiar la historia de la religión es tan importante para los debates actuales acerca de la IA».

20. «Durante miles de años un temor profundo ha obsesionado a los humanos. Siempre hemos apreciado la capacidad de los relatos y las imágenes para manipular y crear ilusiones en nuestra mente (…) ¿Qué será del curso de la historia cuando los ordenadores desempeñen un papel cada vez mayor en la cultura y empiecen a crear relatos, leyes y religiones? (…) Intentemos imaginar la huella que podría dejar un libro sagrado capaz no solo de hablar y escuchar, sino también de conocer nuestros temores y esperanzas más ocultos y moldearlos sin parar (…) No tendrán necesidad de enviar robots asesinos para que nos disparen. Pueden manipular a los seres humanos para que aprieten el gatillo».

21. «¿Qué ocurrirá con los debates democráticos cuando millones —y, en algún momento, miles de millones— de Bots superinteligentes no solo elaboren manifiestos políticos de lo más convincentes y creen imágenes y vídeos ultrafalsos, sino que también sean capaces de ganarse nuestra confianza y nuestra amistad?»

22. «La gente podría llegar a utilizar un único ordenador como consejero, como si de un oráculo integral se tratase. Por ejemplo, ¿qué sentido tienen los anuncios cuando puedo preguntarle al oráculo qué comprar?»

23. «La ley debería prohibir no solo la ultra falsificación de personas reales concretas —crear un vídeo falso del presidente de Estados Unidos, por ejemplo—, sino cualquier intento de hacerse pasar por un humano por parte de un agente no humano. P.ej. hay que impedir que la IA trate de hacerse pasar por un médico de carne y hueso».

El potencial anárquico de la IA

24. «El potencial anárquico de la IA es preocupante (…), plantea una amenaza definitiva para las democracias (…) Para funcionar, una democracia tiene que cumplir con dos condiciones: debe permitir un debate público y libre sobre cuestiones clave y debe mantener un mínimo de orden social y de confianza en las instituciones (…) Si acabamos en una anarquía, el paso siguiente consistirá en el establecimiento de una dictadura que surgirá cuando la gente acceda a trocar su libertad por algún tipo de certeza».

25. «También hay cosas positivas. Las dictaduras carecen de experiencia a la hora de controlar agentes inorgánicos. Cualquier red de información despótica se basa en el terror. Pero los ordenadores no temen que los encarcelen o los maten».

La idea ingenua de la información

26. «La idea ingenua de la información da por sentado que el problema puede solucionarse creando lo opuesto a una iglesia, a saber, un mercado libre de información. La idea ingenua cree que la eliminación de las restricciones al flujo de información libre hará que, inevitablemente, se descubra el error y este se vea desplazado por la verdad».

27. «La imprenta permitió la difusión rápida no solo de datos científicos, sino también de fantasías religiosas, noticias falsas y teorías de la conspiración. Por ejemplo, con “El martillo de las brujas”, la imprenta desempeñó un papel fundamental en la rápida divulgación de la creencia en una conspiración satánica global. Y esto generó toda una burocracia en torno a la caza de brujas».

28. «Un mercado de ideas completamente libre puede incentivar la divulgación de atrocidades y sensacionalismo a expensas de la verdad (…) En una contienda informativa completamente libre, la verdad suele perder (…) Para que la verdad tenga éxito, es necesario crear instituciones de organización y conservación con el poder de inclinar la balanza a favor de los hechos».

29. «Una de las mayores preguntas en torno a la IA es si favorecerá o socavará los mecanismos democráticos de autocorrección».

NOTA: Si te ha gustado el post, puedes suscribirte para recibir en tu buzón las siguientes entradas de este blog. Para eso solo tienes que introducir tu dirección de correo electrónico en el recuadro de «suscríbete a este blog” que aparece en la homepage. También puedes seguirme en la red social Bluesky o visitar mi otro blog: Blog de Inteligencia Colectiva. Asimismo, aquí tienes más información sobre mi último libro.