A medida que un indicador de reputación incrementa su influencia, o sea, mientras más poderosa es una métrica o señal de reputación, más aumentan los incentivos de manipulación, y más gente intenta subvertirlos porque puede resultar muy lucrativo. Por eso, los sistemas de reputación más respetados están siempre sometidos a constantes ataques.

Retomo hoy mi seriado de posts sobre los “sistemas de reputación”, después de haber publicado varias entradas sobre el tema, pero esta vez me voy a centrar en lo que John Henry Clippinger llama la “industria de billones de dólares que trafica, vende y optimiza reputaciones”.

Los riesgos provienen de dos direcciones:

• Desde fuera: Los agentes que (como sujetos de reputación)  intentan falsear a su favor las señales reputacionales que se emiten sobre ellos
• Desde dentro: Los sistemas que gestionan y asignan esas señales, que pueden tener incentivos suficientes para dejar de ser neutrales.

Un problema especialmente delicado es el segundo, el de los sistemas de reputación que no son neutrales, porque su capacidad de adulterar la realidad puede tener un impacto grave en los patrones de interacción social. Aquí se evidencia, como dice Clippinger, el talón de Aquiles de las instituciones humanas desde sus tiempos inmemoriales: ¿Quién controla al controlador?

Así que a la hora de evaluar (valga la redundancia) qué reputación tiene cualquier sistema de reputación, habrá que ser desconfiados y no dar por sentado que su neutralidad está asegurada. En este sentido, parece importante analizar la robustez del diseño para resistir los intentos de manipulación, así como la estructura de incentivos que afectan al gestor del sistema para hacer bien su trabajo o dejarse tentar por otros intereses.

Por ejemplo, Google es un descomunal asignador de reputación a pesar de que poco se sabe de cómo lo hace, por su evidente falta de transparencia. Nadie conoce cómo funciona su algoritmo, ni siquiera cómo realiza las subastas. Clippinger va más lejos en sus conjeturas, sugiriendo que Google tiene margen para asumir una pérdida de calidad en las búsquedas (en el caso de que las manipulara con fines comerciales) por sus evidentes ventajas de escala frente a buscadores alternativos.

Otro ejemplo es el de las agencias de rating de las que depende íntegramente el sistema financiero. Estas agencias no son independientes porque son pagadas por las mismas compañías que ellas evalúan. Clippinger alerta de lo mismo que ya sabemos: “si no se mejora la transparencia, el feedback, la rendición de cuentas y los mecanismos de corrección, las agencias de rating financiero seguirán generando más y más burbujas”, que en buena medida son el resultado de adulterar las señales reputacionales de los activos.

Problemas parecidos pueden afectar otros ámbitos a medida que estos mecanismos se extienden a más sectores. Por ejemplo, en Estados Unidos y el Reino Unido adquieren cada vez más protagonismo los órganos y canales independientes para asignar atributos reputacionales en el ámbito de la educación o la salud. Se suelen usar estos servicios, operados por terceras partes, para acreditar niveles de excelencia, que son tenidos muy en cuenta por los padres para elegir la escuela de sus hijos o para contratar servicios de salud privados.

Craig Newmark, fundador de Craiglist, afirma que un buen sistema de reputación podría contribuir a “dar voz a las mayorías silenciosas”. Según él, la reputación tendría que ser una pieza clave del sistema inmunológico de la democracia para asignar poder, influencia y legitimidad a las personas que realmente lo merecen. Estos sistemas deberían ayudar a regular y atenuar el impacto de las asimetrías de poder. Sin embargo, Randy Farmer se cuestiona la suposición de que el “karma público” de las personas pueda llegar a desplazar parcialmente las formas clásicas de influencia económica y política; y su argumento se sustenta precisamente en las mismas dudas que venimos planteando en este post. Farmer tacha de “reputation system optimists” a los que como Newmark esperan tanto de estos sistemas, y lo explica así: “Si el dinero puede comprar karma digital, la idea del karma que desplaza al dinero como fuente de influencia política no es realista”. Así que una de las preguntas que habría que hacerse es: ¿Se puede comprar hoy “karma digital” con dinero?

Las iniciativas de Crowdsourcing, impulsadas por redes de voluntarios, pueden ser otra fuente de regulación del sistema. Están apareciendo proyectos que intentan servir de mecanismo corrector e higienizante, porque buscan una mayor transparencia en la asignación de reputación. Pero aquí aparece de nuevo el riesgo de manipulación, y la necesidad de autenticar la identidad de los verdaderos promotores de esas iniciativas.

Lo que preocupa, en definitiva, es el “meta-nivel”. Parece conveniente que las métricas que tienen un impacto público en la reputación estén sujetas a escrutinio e inspección por árbitros o “réferis” escrupulosamente seleccionados que tengan la llave para entrar en el backstage y hacer valer esa función de supervisión. Clippinger insiste en que estos “réferis” sean seleccionados de forma aleatoria dentro de un conjunto amplio y no sesgado de personas con una cualificación acreditada para el “expertise” que requiere la actividad. Al hilo de esta demanda, algunos se preguntan si el acceso a la información reputacional debería concebirse como un bien público, y habría que regularlo como tal.

Un problema añadido, y altamente sensible, que genera la deseada transparencia reputacional, es el de la privacidad. A medida que crece el impacto de la reputación online, más delicado se vuelve el tema de la privacidad, y la regulación asociada. Esto tiene que ver con el manejo de los datos y el impacto que pueden tener los mismos en la imagen de los afectados.

Nota: La imagen del post es del album de F Delventhal en Flickr.