Economía digital en tiempos de pandemia (II). El crédito social (social scoring)

economia-digital-en-tiempos-de-pandemia-(ii).-el-credito-social-(social-scoring)

China ha anunciado el final de
confinamiento, lo que significa que, a partir del próximo 8 de abril, se
permitirá a los ciudadanos de Wuhan viajar fuera de la ciudad. Sin embargo,
para poder salir al espacio público los habitantes de Wuhan tendrán que mostrar
un código QR “verde” en sus teléfonos móviles que certifique que no tienen un
riesgo algo de contagio. Por el contrario, si su código QR de salud es amarillo
o rojo, tendrán limitación de movimientos o deberán mantenerse en cuarentena.
Todos los ciudadanos chinos están clasificados en a través de estos códigos de
color que se asignan utilizando no solo su estado de salud, sino también su localización
y movimientos pasados.

No es una película de ciencia
ficción: está pasando hoy, a ocho horas de vuelo de nosotros, y puede ser
nuestro futuro inmediato. No es descabellado pensar que, cuando empecemos a
relajar las medidas de aislamiento social, la mejor la forma de hacerlo podría
pasar por subordinar las nuevas normas a las probabilidades de contagio, a la
vulnerabilidad de los colectivos e incluso a análisis coste-beneficio. Veamos
un ejemplo: es probable que muchas actividades se liberalicen pero que, a pesar
de ello y mientras haya riesgo de contagio, no se retomen las clases
presenciales en la Universidad, puesto que las ganancias de volver a abrir las
aulas, una vez rediseñados los cursos este año para impartirlos a distancia, no
compensarían los riesgos. De igual forma, la regulación de las residencias para
mayores debería ser muy restrictiva, dada su vulnerabilidad a la enfermedad.
Pero aunque podamos tener argumentos para discriminar entre actividades y
colectivos, hacerlo a nivel individual de acuerdo con un sistema de evaluación
opaco (basado en un análisis ingente de datos) implica un salto cualitativo.  

Este sistema de evaluación
social no es nuevo en China, ni está restringido al estado de salud. En 2018, Pekín
promulgó una ley que parece inspirada en la orwelliana novela 1984, o en Un mundo feliz de Huxley, permitiendo a las autoridades públicas
establecer un sistema de crédito social. Esta norma facultaría a las
autoridades a emplear toda la información que tienen sobre el comportamiento de
los individuos (utilizando bases de datos públicas, datos de redes sociales,
miles de cámaras, sistemas de reconocimiento social…) para “puntuarles” y servirse
de la evaluación para premiar y castigar. Los individuos con “buena reputacion”
tendrían acceso prioritario a los servicios públicos, mientras que aquellos con
una baja puntuación podrían encontrarse con obstáculos para obtener una plaza
de guardería o un visado para viajar. No está claro el grado de implementación
de este sistema crédito social. En
este articulo
se afirma que, aunque podría
extenderse su uso en el futuro, de momento solo se habría llevado a cabo un
estudio piloto en Rongcheng, un gran ciudad a 800 kilómetros de Pekín. Más allá
de la realidad china, es interesante reflexionar sobre un sistema de crédito
social y sus posibles implicaciones para situaciones excepcionales como la que ahora
vivimos.

Lo que sí funciona en toda China es un sistema privado de puntuación de pagos electrónicos, Alipay, del grupo de Alibaba. En este caso, lo que se evalúa es la solvencia del individuo y parece que goza de gran aceptación en el país, porque ha permitido la expansión del crédito. En realidad, es un sistema que podría implantarse en Europa si las grandes empresas digitales como Google, Amazon y Facebook se introducen no solo en el mercado de medios de pago sino en el de crédito. Estas empresas tienen una potencial ventaja competitiva (además de su enorme liquidez) dado que pueden usar toda la información que tienen de sus usuarios para identificar su nivel de solvencia, reducir el riesgo y, con ello, expandir la oferta de crédito. El sistema de puntuación de Alipay señaliza el nivel de solvencia, además de funcionar como un sistema de fidelización (premia el uso) y un potente sistema de incentivos para garantizar el pago de las deudas. Los riesgos que un sistema así presenta son, al menos, del mismo tamaño que sus ventajas. ¿Es ético y permisible utilizar información de nuestras redes sociales para estimar nuestra solvencia? ¿Cómo afectaría a nuestra comunicación, a nuestro comportamiento? ¿Cómo podemos impugnar dicho índice cuando pensemos que no estemos de acuerdo con su evaluación?

«De hecho ya contamos con algo muy cercano a un sistema de crédito social: el carné por puntos. Este sistema, apoyado por cámaras, radares y sistemas de vigilancia convencionales, determina si podemos o no conducir. Su implementación tuvo un gran éxito en la reducción de las infracciones de tráfico y cuenta con un alto grado de aceptación social».

Juan José Ganuza

En una situación como la actual, la implementación de un sistema de crédito social podría implicar que nuestro comportamiento social –cómo reciclamos, pero también cómo cumplimos las medidas de aislamiento social– fuera observado por cientos de cámaras, incluso desde drones, e inferido de todos los datos que las administraciones puedan tener de nosotros. La información sobre nuestro comportamiento se resumiría en un índice, que podría ser empleado por las administraciones para asignar servicios y por las entidades privadas, por ejemplo, para dar empleo. Da miedo. Incluso con garantías judiciales sobre la objetividad de un índice así, muy posiblemente sólo una pequeña fracción de la ciudadanía lo aceptaría en nuestro país; nuestros imperfectos sistemas de vigilancia y multas serían mejor valorados.

Sin embargo, los incentivos al comportamiento
prosocial que generaría tal sistema serían inmensas. Esto seguramente es
importante para el reciclaje, pero puede ser crucial para el control sanitario si
la pandemia se extiende en el tiempo y la salud general depende de controlar
comportamientos incívicos. Si lo pensamos, de hecho ya contamos con algo muy
cercano a un sistema de crédito social: el carné por puntos. Este sistema,
apoyado por cámaras, radares y sistemas de vigilancia convencionales, determina
si podemos o no conducir. Su implementación tuvo un gran éxito en la reducción
de las infracciones de tráfico y cuenta con un alto grado de aceptación social.

Las virtudes o los defectos de un sistema de créditos social dependen de su diseño –de cómo se ponderan los distintos comportamientos en el índice–, de la transparencia en su construcción, de los objetivos que se persiguen, de las garantías judiciales sobre el uso de los datos … El nobel Jean Tirole presentó en la Digital Economics Conference de Toulouse su artículo Digital dystopia, en el que reflexionaba precisamente sobre el diseño óptimo de un sistema de crédito social en la era digital. Tirole concluye que, para promover el comportamiento prosocial, la forma en que se construye el índice debe ser muy transparente y sus metas han de ser muy explícitas (téngase en cuenta que, potencialmente, un sistema como este podría aprovecharse para, por ejemplo, castigar la disidencia política).

Por último, uno de los capítulos
más interesantes de la serie británica Black Mirror titulado Nosedive (En España, “Caida en picado”) exploraba una aterradora versión descentralizada del
crédito social que podría tener lugar al margen de la decisiones políticas que
adoptemos: una red social, como muchas de las que conocemos, en la que los
individuos evalúan constantemente la interaccion con otros individuos, es tan
dominante que la puntuación obtenida por los usuarios determina sus relaciones
sociales, incluso sus oportunidades económicas. El capitulo transmite dos
mensajes inquietantes. El primero: cómo este sistema de crédito social se convierte
en el centro de la vida de la protagonista; y, en segundo lugar –una conclusión
más interesante desde el punto de vista económico–, que el sistema genera
muchas desigualdades, ya que pondera más las valoraciones de los individuos mejor
puntuados (lo que da lugar al titulo del capítulo: una vez perdida la
reputación social es difícil recuperarla).

En conclusión, los sistemas de
vigilancia masiva y crédito social generan muchos problemas éticos y por ello
se encontraban en nuestro catálogo de pesadillas futuristas. Sin embargo, son
sistemas muy potentes para generar incentivos a un comportamiento prosocial.
Los comportamientos incívicos son socialmente costosísimos en tiempos de
pandemia. Por ello, si esta se alarga, no debería sorprendernos que algún país
decidiese hacer realidad la distopía e implementar alguna versión de estos
sistemas de control social.