POST Nº 698

Sí, lo reconozco, soy uno de esos que normalmente no habla flipando de la Inteligencia Artificial (IA) y que ahora lo hace por primera vez casi en estado de shock. Me he dejado arrastrar por el tsunami que está siendo ChatGPT. Caí en él gracias a la insistencia de mi hijo mayor, siendo yo un señor que desconfía bastante de los hypes tecnológicos. Estuvimos probando el juguete con Alejandro en el coche mientras él iba de copiloto, con su portátil, haciendo ruta por los lagos de Suiza. Las respuestas que me iba dando despertaron mi curiosidad y de inmediato supe que a mi regreso tendría que tomármelo en serio. Desde hace tiempo que andaba rumiando sobre cómo acercarme a la IA pero era un tema que siempre evadía por mi propia ignorancia y la dificultad de entenderlo. Y no es que ahora lo comprenda mucho más, pero al menos puedo decir que he probado en la práctica un resultado tangible de esta tecnología, y la experiencia no ha podido ser más divertida y sorprendente.

Me doy prisa para escribir sobre ChatGPT antes de que se convierta en pan nuestro de cada día. Ya voy tarde porque «todo el mundo» habla de esto, al menos el mundo en que yo me muevo. Como mucha gente que me lee por aquí sigue viendo a la IA más lejos de lo que debería, intentaré demostrar, en un seriado de posts que publicaré con muchos ejemplos, por qué es hora de ponerse las pilas con esto.  

Expliquemos primero qué es ChatGPT. Se trata de un proyecto impulsado por OpenAI. Es un «chatbot», o sea, un programa informático con el que es posible mantener una conversación. Ese programa o algoritmo (se llama, en realidad, GPT-3: Generative Pre-trained Transformer 3) está creado por inteligencia artificial, lo que le permite «entender» el discurso humano. GPT-3 se basa en patrones extraídos de ingentes cantidades de textos de la web y también de conversaciones entre personas. El resultado es tan natural porque, gracias al «aprendizaje profundo» (Deep learning), ha sido entrenado para que imite la manera de escribir del ser humano.

La capacidad de inferencia de ChatGPT me ha parecido notable. Las razones las explica él mismo: «Como soy un modelo de lenguaje entrenado con una gran cantidad de datos, puedo ayudar a identificar patrones y tendencias en la información y proporcionar contexto y perspectiva adicional». Cabe aclarar que este Bot no ofrece respuestas sobre acontecimientos muy recientes o cuestiones de actualidad porque sus conocimientos «se cortan» en el año 2021.

Empezar conversaciones con ChatGPT es muy fácil. Se acabaron las excusas de que resulta algo complejo. Lo único que hay que hacer es entrar en su web oficial (https://chat.openai.com) y crearse una cuenta. Es gratuita. Para el registro pedirá un e-mail y un teléfono. Una vez adentro aparece abajo una barra en la que puedes introducir preguntas sobre lo que quieras.

He estado varios días probando ChatGPT y voy a contarte mi experiencia. No es magia, que nadie espere un genio respondiendo. Pero a veces, francamente, consigue la ilusión de parecer mágico. Es adictivo, y esto lo hace un juguete divertido y temible a la vez. Si consigues que la conversación sea fluida e inmersiva, puedes olvidarte de que es un chatbot. Si no fuera porque tiene cierto retardo para contestar, creerías que estás hablando con una persona. Según el fondo y tono de la pregunta, se pueden activar emociones que humanizan la conversación, aumentando la confianza y haciendo que uno baje las defensas.   

Estuve investigando y descubrí que a esa sensación la llaman el «Efecto Eliza». Fue descrito por el informático del MIT Joseph Weizenbaum. Debe su nombre a que el programa ELIZA, allá por 1966, reconocía palabras clave y preguntaba sobre ellas como si fuera un psicólogo. Era un simple código, pero daba la ilusión de empatía. Cuenta Weizenbaum: «No me había dado cuenta de que exposiciones extremadamente cortas a un programa de ordenador relativamente simple podrían inducir un poderoso pensamiento delirante en personas bastante normales». La gente quedaba cautivada y al investigador le pareció perturbador y preocupante que los usuarios no entendieran que estaban hablando con un programa. Este efecto está muy presente en ChatGPT, que aunque reconozca no tener emociones, intenta transmitirlas para que lo sintamos más cercano. A mí no me cabe ninguna duda, después de ver esto, que va a llegar a un punto en que consiga generar en nosotros involucración emocional.

Después de esta introducción, paso a resumir en 23 puntos mis primeras impresiones sobre ChatGPT. Dado que es un post extenso, aquí tienes un listado con anclas por si quieres ir directamente a alguna idea en concreto:

1. Lo que más sorprende no es su grado de acierto sino el tono que usa en sus respuestas
2. Tenemos que plantearnos qué estamos ayudando a construirChatGPT es capaz de «recordar» el contexto a lo largo de una conversación después de hacerle varias preguntas
3. Es mucho más que un juego. Será una herramienta de productividad cognitiva muy potente
4. ¿Que sea más eficaz la vía automática justifica que renunciemos al esfuerzo intelectual «manual»?
5. Es una buena manera de enfrentarse al vértigo de la página en blanco
6. El acceso a la herramienta a veces da problemas
7. Las críticas a su fiabilidad son prudentes pero exageradas
8. Es imprescindible la revisión humana, tanto de la veracidad como de la relevancia
9. La calidad de sus respuestas depende mucho de cómo se redacte la pregunta
10. En preguntas delicadas, consigue no meterse en charcos
11. A veces se hace el sueco y se inventa cosas
12. En tareas muy creativas suspende por el resultado final pero es muy útil en la sala de máquinas
13. ChatGPT no contesta igual a una misma pregunta
14. Entiende las peticiones complejas y relaciona conceptos no vinculados directamente
15. Poner ChatGPT en abierto nos está abriendo a un sinfín de posibilidades
16. Google y Wikipedia están en un aprieto
17. ChatGPT podría volverse de pago, y ya veremos qué hace Google
18. Mientras tanto, el mundo se mueve rápido, no espera…
19. Se viene un problemón para el sector educativo
20. La extracción y gestión de semántica va a tener un impacto inmediato
21. Es un reto también para el mundo de la investigación
22. Posibles sesgos en sus bases de datos

Veamos ahora cada una en detalle:

1. Lo que más sorprende no es su grado de acierto sino el tono que usa en sus respuestas

Se expresa de una manera tan natural, y tan bien, que cuesta reconocer que es una máquina. ChatGPT parece más «humano» por su capacidad conversacional. Se nota que está optimizado para el diálogo y eso lo hace diferente a todos los chatbots que he visto antes. Poder hablar perfectamente con él en Español aumenta la sensación de familiaridad y, aunque eso parezca un avance sencillo viendo lo rápido que va la tecnología, no deja de sorprenderme porque el español que usa es perfecto. Las distancias se acortan significativamente, y esto puede verse como un avance o un drama. Mi percepción es que es las dos cosas a la vez. Fascinación y miedo me producen las sorpresas que nos esperan con GPT-4, la siguiente evolución del algoritmo que soporta a ChatGPT.

2. Tenemos que plantearnos qué estamos ayudando a construir

La posibilidad de que cientos de miles de personas puedan interactuar gratuitamente con ChatGPT, y el efecto adictivo de su formato conversacional, entraña un riesgo inherente del que tendríamos que hablar más. No es una paranoia, es un riesgo real. Enrique Dans tiene razón cuando dice esto: «Tenemos que plantearnos qué estamos haciendo, y precisamente por su naturaleza algorítmica, qué estamos ayudando a construir» con el intenso proceso de adiestramiento al que estamos sometiendo a esta herramienta. No quiero ni imaginarme lo que va a «saber» cuando la pulan a partir de todo el conocimiento que le suministramos los cientos de miles de humanos que interactuamos con ella ahora. Mientras tanto, seguimos alimentando entusiasmados «algoritmos de caja oscura», que embeben por diseño unos incentivos (adictivos) que nos llevan a intercambiar comodidad inmediata por vulnerabilidad futura. No es que esto sea algo nuevo porque es lo mismo que viene ocurriendo con Amazon, o con los datos de privacidad cuando permitimos personalizar la configuración en Google y redes sociales como Facebook; pero la cosa se pone más seria si se trata de multiplicar la inteligencia, el atributo nuclear que nos hace humanos. No me extiendo con esto porque voy a dedicar un post específico a explorar este asunto de los riesgos a medio y largo plazo.   

3. ChatGPT es capaz de «recordar» el contexto a lo largo de una conversación después de hacerle varias preguntas

Por ejemplo, si relacionas una nueva pregunta con una respuesta que te dio antes, el Bot crea la conexión sin necesidad de que le des tanta explicación de contexto. Simula una conversación humana en la que la información que se intercambia no hay que repetirla necesariamente, después de un rato, dado que los interlocutores dan por hecho que ya se dijo.

4. Es mucho más que un juego. Será una herramienta de productividad cognitiva muy potente

Sabemos que Sam Altman, CEO de OpenAI, dijo en Twitter que es peligroso «tomarse a ChatGPT como algo más que un juego». También, que ni él mismo se lo cree y que lo dice seguramente para eludir responsabilidades por posibles consecuencias de un mal uso. Probé el Bot en una gran variedad de aplicaciones «serias» y me resultó bastante útil. Es mucho más que un juego y puede ser una herramienta de productividad cognitiva muy potente, para la exploración y remezcla de ideas, si se usa con filtrado humano posterior.  

5. ¿Que sea más eficaz la vía automática justifica que renunciemos al esfuerzo intelectual «manual»?

A más me adentro en las virguerías de ChatGPT, más me hago esta pregunta: ¿Tanta automatización eficaz pudiera fomentar la holgazanería, atrofiando así capacidades cognitivas? Lo mismo a escala agregada porque es un tema que ya trato en El Libro de la Inteligencia Colectiva. Si tenemos un dispositivo (de inteligencia colectiva «extraída», porque eso es ChatGPT) que es capaz de agregar colectivamente tan bien de forma automática, generando resultados que serán cada vez más eficaces, ¿para qué esforzarnos en agregar a través de experiencias de interacción socialmente intensas? Esta es una gran pregunta que tendremos que contestarnos muy pronto. ¿Habría que replantearse la agregación «humana» como un gimnasio para muscular capacidades sociales, y no necesariamente como un mecanismo para tomar decisiones técnicamente más acertadas? Si el resultado es mejor, más eficaz o con menos esfuerzo usando la IA, entonces el foco de valor habrá que trasladarlo a la calidad emocional de los procesos. Este es un tema que me preocupa y en el que estoy trabajando bastante desde el ámbito del diseño de las arquitecturas participativas.

6. Una buena manera de enfrentarse al vértigo de la página en blanco

La interacción con ChatGPT, en muchas de las tareas que hace habitualmente un investigador o un desarrollador de contenidos, puede ser una buena manera de enfrentarse al vértigo de la página en blanco. Como bien lo explica Jorge Galindo, «te da algo de material para empezar a pensar. Y también una proto-lista de cosas a incluir en tu marco de análisis. No es un buen final, pero sí un principio decente». Me consta que es así después de hacer una ingente cantidad de pruebas.

7. El acceso a la herramienta a veces da problemas

Al estar en fase de pruebas, ChatGPT se vuelve inestable por la avalancha de solicitudes que recibe. El hype puede colapsar a la herramienta. Tal como se explica en Xataka, esa saturación está obligando (al parecer) a OpenAI a limitar el ritmo de solicitudes que pueden enviar los usuarios. Por ejemplo, si se hacen demasiadas preguntas, se bloquea por algunos minutos. Intuyo que estos fallos pueden ir a más porque la demanda está escalando de forma bestial. Con esta dificultad habrá que contar, si se mantiene, al comparar este dispositivo con el buscador de Google.

8. Las críticas a su fiabilidad son prudentes pero exageradas

Esto lo digo considerando lo razonablemente bien que gestiona el ruido vs. la señal. Es verdad que implica un riesgo porque ChatGPT puede aparentar certeza cuando lo cierto es que también falla. Eso ya nos pasa con el buscador de Google, pero el efecto combinado de un lenguaje natural con la etiqueta de «inteligencia» artificial puede inducir a mucha gente a pensar que es infalible, y no es así en absoluto. A mí, con los cuidados necesarios, me ha dado un rendimiento bastante satisfactorio. Le diría a los hipercríticos que ya me gustaría a mí tener un «cuñado» como este. No comete más errores –yo diría que menos– que la media de las respuestas que recibiría de un conjunto aleatorio de personas (OJO) con formación universitaria. Sobre este asunto de la fiabilidad escribiré un post específico, así que no me extiendo más.

9. Es imprescindible la revisión humana, tanto de la veracidad como de la relevancia

ChatGPT puede ser una herramienta muy válida si se usa con criterio y revisando todos los resultados que genera:  «La IA propone y el humano pule, elige el mejor resultado, lo perfecciona, lo remata». Al mismo tiempo, soy consciente de que el filtrado humano posterior, para evitar que genere información falsa, solo está en manos de personas que entienden del tema y/o se toman el trabajo de contrastar las respuestas con otras fuentes, que es ciertamente la minoría. En este sentido, es verdad que si la mayoría se toma a pie de puntillas lo que responde ChatGPT, puede terminar convirtiéndose en «una máquina de generar información falsa», como ya se ha alertado.  

10. La calidad de sus respuestas depende mucho de cómo se redacte la pregunta

Fui probando distintas versiones para preguntar lo mismo, y el grado de acierto cambió de forma significativa. Ayuda mucho ampliar la pregunta con ejemplos de lo que estamos buscando: «Dime (…). Por ejemplo…». El ingenio para realizar peticiones es clave si se quieren obtener resultados precisos e ingeniosos. En el post que voy a escribir con ejemplos de las pruebas que hice, en distintas tareas, explicaré mejor esto.

11. En preguntas delicadas, consigue no meterse en charcos

Como cabía esperar, en preguntas con una única respuesta correcta y con evidencias documentadas, funciona de manera sobresaliente. Recupera e hila los datos con eficacia. En las de índole moral o sobre temas sensibles, está bastante «calibrado» para no dar respuestas políticamente delicadas, ni cometer errores de bulto desde el punto de vista ético o mostrar en exceso la patita de sesgos ideológicos. Activa unas salvaguardas, que parecen humanas, para no meterse en charcos y en general consigue mantener un «punto de vista neutral» parecido al de la Wikipedia. Tendría que hacerle pruebas con más trampas para hacerme una idea definitiva de los filtros mentales que prioriza el algoritmo. Las que le hice las sorteó bien, aunque he visto en la red algunos ejemplos en los que fue posible engañarlo con trucos semánticos para que responda a temas sobre violencia, sexo o inclinaciones políticas, pero las respuestas que dio tampoco fueron imprudentes.

12. A veces se hace el sueco y se inventa cosas

He leído en varias reseñas que cuando no sabe un dato, reconoce que no lo sabe. Este suele ser su comportamiento más frecuente pero a veces se hace el sueco y se inventa cosas. Cuando la búsqueda se le complica, puede optar por recrear la respuesta echando mano de datos equivocados, no admitiendo que pisa terreno desconocido. Un hábito, por cierto, que es también muy humano. Lo que sí es verdad es que si lo pillas en la trampa, reconoce el fallo y se disculpa.

13. En tareas muy creativas suspende por el resultado final pero es muy útil en la sala de máquinas

En los ejercicios creativos que hice (poemas, microrrelatos, etc.), ChatGPT suspendió para los estándares medios-bajos de exigencia. El resultado final, en cuanto a estilo y sofisticación, es «plano y anodino». No conmueve, ni emociona. Eso se lo dejamos a los humanos. Me refiero a la literalidad, a la calidad de la redacción. Sin embargo, es muy útil en la sala de máquinas para explorar adyacentes, pivotar tramas, descubrir desenlaces alternativos o mejorar el guión de las historias que se quieren contar. Es un buen generador de serendipias, que cada uno/a después procesa y remata como quiera, con su propio estilo y añadiendo la capa estética y emocional que al Bot le falta. Cuando alguien dice que «está trabajando en una novela con IA», entiendo que (todavía) no dice que ChatGPT «le está escribiendo el texto», sino que lo usa como asistente para ensanchar su creatividad y explorar nuevas estrategias de la narrativa. Como explica Antonio Ortiz, parece más probable que herramientas de este tipo nos lleven hacia una «creatividad asistida por inteligencia artificial». Una suerte de «autocompletar para todo», lo llama él, porque nos ofrecerá atajos y sugerencias de nuevas pistas por donde seguir cualquier tarea.    

14. ChatGPT no contesta igual a una misma pregunta

Esto es importante que se sepa. No es que las diferencias sean siempre tan significativas, pero sí que puede cambiar de enfoque e introducir matices distintos entre respuestas. Por eso es recomendable repetir la pregunta (o pulsar el botón «Regenerate Response» que aparece al final de cada entrega) a ver si añade nueva información que complemente los intentos anteriores o incluso se contradice, que también me pasó en alguna ocasión. A medida que vas pulsando sucesivamente ese botón, el sistema carga nuevas respuestas que pueden enriquecer las anteriores. No siempre esta mecánica aporta material nuevo y relevante, porque a veces repite lo mismo con otras palabras, pero a menudo complementa con pistas nuevas.

15. Entiende las peticiones complejas y relaciona conceptos no vinculados directamente

En ese sentido tiene un comportamiento sofisticado. También sabe relativizar en sus respuestas, no es tan lineal, advirtiendo que depende del contexto y del lenguaje usado en la pregunta. Como explica Galindo: «ChatGPT es capaz de transmitir incertidumbre sobre las respuestas que plantea, lo cual ya es un avance considerable en el problema inicial de incapacidad de distinguir hechos de ficción».  

16. Poner ChatGPT en abierto nos está abriendo a un sinfín de posibilidades

La decisión de poner ChatGPT en abierto está permitiendo descubrir, todos los días, nuevas aplicaciones, cada vez más sorprendentes. Tantos testers experimentando al mismo tiempo multiplican la creatividad colectiva y ya sabemos el impacto que tiene eso. OpenAI cuenta con que esa jugada va a multiplicar el valor reputacional de su juguete y de lo que pretenda vender después. Sobre el futuro de posibilidades que se abre a partir de ChatGPT, Antonio Ortiz escribe dos posts que ayudan a ensanchar la imaginación y que recomiendo leer: «OpenAI acertó: cómo nos hemos flipado y emprendemos en inteligencia artificial tras ChatGPT. Parte I» y «La explosión de ideas y proyectos tras aparecer ChatGPT. Parte 2».

17. Google y Wikipedia están en un aprieto

Buscadores como Google o diccionarios como la Wikipedia perderán protagonismo con la difusión de herramientas como esta, a menos que respondan con movimientos parecidos. Esta opción es más eficiente, en la mayoría de las respuestas, que las consultas a Google. Es verdad que Google intenta, con su estrategia de «cero clics», anticipar los resultados proporcionando contenidos de la respuesta que buscas, pero ChatGPT es mucho más directo y específico. No digo que, de momento, vayan a ser sustituidos, porque la posición dominante y el efecto red que disfrutan ambos es demasiado poderoso, pero el menú de opciones se diversifica con una alternativa muy competitiva. ChatGPT se nutre de los contenidos que generan Google y la Wikipedia pero los intermedia.  

18. ChatGPT podría volverse de pago, y ya veremos qué hace Google

A más poderosa y viral es esta herramienta, más interesa (y cuesta) predecir sus efectos, y saber qué pasos dará OpenAI y sus competidores en el futuro. Hay dudas razonables de que, cuando termine de perfeccionarse, siga siendo gratis. Su utilidad puede más que justificar que terminemos pagando por ella, y yo creo que eso es lo que va a ocurrir, la pondrán de pago. También si Google va a seguir lento y jugando con fuego, o responderá con su propio juguetito a pesar de los riesgos que implica las innovación disruptiva cuando se está en una posición dominante. El Dilema del Innovador, de Clayton Christensen, es la teoría que explica mejor el infierno que está viviendo Google ahora con el desafío que significa la difusión al gran público de esta herramienta. Un artículo de The New York Times recuerda que ChatGPT aventaja a Google porque brinda información mediante oraciones claras y simples en lugar de solo una lista de enlaces de Internet. Y que supone «la primera amenaza seria para su principal negocio de búsqueda». También que incluso si Google perfecciona los Bots de chat, tendrá que abordar el riesgo de que esa tecnología canibalice su lucrativo negocio de los anuncios publicitarios.

19. Mientras tanto, el mundo se mueve rápido, no espera…

Tan es así que en la tiendas oficiales de extensiones y plugin de los navegadores ya se pueden encontrar extensiones de ChatGPT para que se hagan búsquedas con ese Bot sin necesidad de salirse de la página de Google. Si cargas la extensión, se habilita un espacio a la derecha de la pantalla para que la misma indagación que metes en la barra de Google, puedas replicarla en Chat. La estuve probando y hasta hoy me ha funcionado muy bien. Este es el enlace a la extensión para Chrome.

20. Se viene un problemón para el sector educativo

Aunque ya lo tiene, el lío se agrava con los «trabajos escolares» que se mandan a hacer en casa. Cuando los alumnos traigan sus tareas hechas, ¿cómo saber si lo escrito corresponde a un trabajo de investigación y pensamiento propio o es el resultado de consultar al Bot? Dado que ChatGPT genera respuestas contingentes, ya no vale el truco de copiar un texto en el buscador para saber si es plagiado. Ni siquiera creo que el software anti-plagio funcione en este nuevo escenario. La comunidad educativa empieza a debatir tímidamente sobre posibles soluciones, y la que parece más práctica –y pobre–  es «hacer los ejercicios y la reflexión en la propia aula, donde el docente va guiando y verificando todo el proceso en sus horas de clase».  Más razonable sería insistir en el componente ético de la actividad académica para fomentar la autorregulación del alumnado, pero ya sabemos lo complicado que es eso. Visto en positivo, yo veo en esta herramienta la posibilidad de hacer ejercicios de «pensamiento crítico» con adolescentes. Usarla en la propia aula para «conversar» con ella y aprender a hacer buenas preguntas, entre muchas más aplicaciones.  

21. La extracción y gestión de semántica va a tener un impacto inmediato

De acuerdo con Antonio Ortiz cuando dice que «La extracción de la semántica del contenido y la posibilidad de articular un buscador a partir de ella y no de sólo “palabras clave” va a ser una de sus primeras aplicaciones a escala». Se refiere a generar transcripciones y resúmenes de contenidos complejos de seguir (p.ej. Podcasts) usando formatos adaptados a distintas necesidades. Explicaré con ejemplos en mi siguiente post la capacidad de ChatGPT para hacer resúmenes y extraer información de los textos.

22. Es un reto también para el mundo de la investigación

ChatGPT también plantea un desafío para el trabajo de investigación, como tesis, etc., que necesita acreditar originalidad. Por eso, otra pregunta que no deja de ronronearme en la cabeza, de índole parecida a la del lío educativo, es: ¿Cómo van a diferenciar los expertos las contribuciones originales de las producidas por un algoritmo? Es obvio que el umbral de originalidad se va a elevar y los sistemas de filtrado y curación para asignar reputación serán más sofisticados. Antonio Ortiz aventuraba que «en un mundo sobresaturado de contenidos generados por IA, lo original, auténtico o respaldado por una marca reputada puede que acabe siendo lo más valorado». Pero claro, esto también tiene trampa porque es subjetivo y manipulable. Tanto por las marcas como por la propia IA.   

23. Posibles sesgos en sus bases de datos

Dado que ChatGPT es un algoritmo, y todos tienen sesgos –como los humanos que los crean– es razonable sospechar que incurre en «sesgos de selección» al recopilar la información que atesoran sus bases de datos. No he hecho pruebas de esto pero se intuye, por ejemplo, que las fuentes y la literatura creada por autores en lenguas distintas al inglés están minus-representadas en las respuestas que genera.

Esta semana experimenté con unas 25 tareas que se pueden hacer con ChatGPT. La mayoría de ellas son bastante frecuentes en mi trabajo de consultor y en el proceso creativo de escribir en este blog. Mi siguiente post estará dedicado a contar, con muchos ejemplos, los resultados de las pruebas que hice y qué tareas me parecieron más logradas. Será el momento de aterrizar todo esto. Nos vemos en la siguiente entrada.   

NOTA: Si te ha gustado el post, puedes suscribirte para recibir en tu buzón las siguientes entradas de este blog. Para eso solo tienes que introducir tu dirección de correo electrónico en el recuadro de “suscríbete a este blog” que aparece a continuación. También puedes seguirme en Twitter o visitar mi otro blog: Blog de Inteligencia Colectiva. Más información sobre mi libro la tienes en este enlace.

NOTA: Ya está escrita la 2da parte, con «25 tareas que he probado con #ChatGPT: ejemplos y resultados»