“Big Data meets Big Brother” cuando China se propone calificar a sus ciudadanos

El gobierno chino planea lanzar un Sistema de Crédito Social en 2020. ¿El objetivo? Juzgar la confiabilidad, o no, de sus 1.3 billones de residentes.

Por RACHEL BOTSMAN. Saturday 21 October 2017, Wired magazine Issue ©

(traducido y adaptado al español por: Dr. Gerardo Toledo | UAM A | The University of Western Ontario)

El 14 de junio de 2014 el Consejo de Estado de China publicó un documento ominoso llamado "Esquema de planificación para la construcción de un sistema de crédito social". En la trayectoria de los documentos políticos chinos, este era un asunto largo y bastante árido, pero contenía una idea radical: ¿Qué pasaría si existiese un puntaje de confianza nacional para calificar qué tipo de ciudadano eres?

Imagina un mundo en el que muchas de tus actividades cotidianas son supervisadas y evaluadas constantemente: lo que compras en las tiendas, y en línea; ¿en donde te encuentras? en un momento dado; ¿quiénes son tus amigos y cómo interactuas con ellos?; ¿cuántas horas pasas mirando contenido o jugando videojuegos? y ¿qué facturas e impuestos pagas (o no)?

Sin embargo esto ya sucede

¿Una visión futurista de Big Brother fuera de control? No, pues ya está en marcha en China, donde el gobierno está desarrollando el Sistema de Crédito Social (SCS) para calificar la confiabilidad de sus 1.300 millones de ciudadanos.

No es difícil imaginarlo, porque la mayoría de esto ya sucede, gracias a todos los gigantescos colectores de datos como Google, Facebook e Instagram, o aplicaciones de seguimiento de la salud como Fitbit. Pero, imaginemos ahora un sistema donde todos esos comportamientos se califican como positivos o negativos y se destilan en un solo número, de acuerdo con las reglas establecidas por el gobierno. Eso crearía algo así como el puntaje del ciudadano y le comunicaría a todos, si eres o no, confiable. Además, tu calificación sería clasificada públicamente comparándola con la de toda la población y utilizada para determinar tu elegibilidad para una hipoteca o un trabajo, a qué escuela pueden asistir tus hijos, o incluso cuáles serían tus posibilidades de obtener una cita romántica. ¿Una visión futurista de Big Brother fuera de control? No, ya está en marcha en China, donde el gobierno está desarrollando el Sistema de Crédito Social (SCS) para calificar la confiabilidad de sus 1.300 millones de ciudadanos.

El gobierno chino está lanzando este sistema como una forma deseable de medir y mejorar la "confianza" a nivel nacional, y para construir una cultura de "sinceridad". Tal medida política se piensa: "forjará un ambiente de opinión pública donde mantener la confianza es glorioso. Fortalecerá la sinceridad en los asuntos gubernamentales, la sinceridad comercial, la sinceridad social y la construcción de la credibilidad judicial".

Otros son menos optimistas teniendo en cuenta su propósito más amplio: "Es muy ambicioso en profundidad y alcance, incluido el escrutinio del comportamiento individual y qué libros lee la gente. Es el seguimiento del consumidor de Amazon con un giro político orwelliano", así es como Johan Lagerkvist, especialista en Internet en China, del Instituto Sueco de Asuntos Internacionales describe el sistema de crédito social. Rogier Creemers, un investigador postdoctoral especializado en leyes y gobierno chino del Instituto Van Vollenhoven de la Universidad de Leiden (Bélgica), quién publicó una traducción completa del plan, lo comparó con "revisiones al estilo Yelp, mas el estado-niñera vigilándote por encima del hombro." (#yelp)

Por el momento, técnicamente, participar en los puntajes de ciudadanos de China es opcional (voluntario). Pero para 2020 será obligatorio. El comportamiento de cada ciudadano y persona jurídica (que incluye cada compañía y entidad) en China será calificado y clasificado, les guste o no.

Un matrimonio bizarro

Antes de su implementación nacional para 2020 el gobierno chino está adoptando el enfoque de: observar y aprender. En este matrimonio entre la supervisión comunista y la cancillería capitalista, el gobierno ha otorgado una licencia a ocho compañías privadas para que presenten sistemas y algoritmos de puntaje de crédito social. Previsiblemente, los gigantes de datos actualmente ya ejecutan dos de los proyectos más conocidos: El primero es de China Rapid Finance, un socio del gigante de la red Social Tencent y desarrollador de la aplicación de mensajería WeChat con más de 850 millones de usuarios activos. El otro, Sesame Credit, es administrado por Ant Financial Services Group (AFSG), una empresa afiliada de Alibaba.

Ant Financial vende productos de seguros y ofrece préstamos a pequeñas y medianas empresas. Sin embargo, la verdadera estrella de Ant es AliPay, su brazo de pagos, que las personas usan no sólo para comprar cosas en línea, sino también para (pagar) restaurantes, taxis, aranceles escolares, boletos de cine e incluso para transferir(se) dinero entre ellos. Sesame Credit también se ha asociado con otras plataformas generadoras de datos, como Didi Chuxing, la principal compañía competidora de Uber en China antes de adquirir las operaciones chinas de la compañía estadounidense en 2016, y Baihe, el servicio de intermediación en línea más grande del país. No es difícil ver cómo todo eso se suma a las enormes cantidades de big data que Sesame Credit puede aprovechar para evaluar cómo se comportan las personas y calificarlas en consecuencia.

Entonces, ¿cómo se califica la gente? Las personas con crédito de Sesame Credit se miden con una puntuación que oscila entre los 350 y los 950 puntos. Alibaba no divulga el algoritmo complejo que utiliza para calcular el número, pero sí revela los cinco factores que se tienen en cuenta: El primero es el historial de crédito. Por ejemplo, ¿el ciudadano paga sus facturas de electricidad o teléfono a tiempo? Luego está la capacidad de cumplimiento, que define en sus directrices como "la capacidad del usuario para cumplir con sus obligaciones contractuales". El tercer factor son las características personales, la verificación de la información personal, como el número de teléfono móvil y la dirección de la persona. Pero donde se vuelve verdaderamente interesante, es en la cuarta categoría, comportamiento y preferencia: Bajo este sistema, algo tan inocuo como los hábitos de compra de una persona se convierten en una medida del carácter. Alibaba admite que juzga a las personas por el tipo de productos que compran.

Personas activas y persona inactivas

...el sistema no solo investiga el comportamiento, sino qué lo moldea.

"Alguien que juega videojuegos durante diez horas al día, por ejemplo, sería considerado una persona inactiva", dice Li Yingyun, Director de Tecnología de Sesame. "Alguien que compra pañales con frecuencia, probablemente será considerado como un padre, que a fin de cuentas demuestra tener sentido de la responsabilidad." Entonces, el sistema no solo investiga el comportamiento, sino qué lo moldea. Esto "empuja" a los ciudadanos a alejarse de compras y comportamientos que no le gusten al gobierno. Los amigos también importan. La quinta categoría son las relaciones interpersonales. ¿Qué dice (de ti) tu elección de amigos en línea y tus interacciones sobre la persona evaluada? Compartir lo que Sesame Credit denomina en línea "energía positiva", buenos mensajes sobre el gobierno, o qué tan bien está funcionando la economía del país, harán que tu puntuación aumente!

Alibaba es tajante al afirmar que, actualmente, un comentario negativo publicado en las redes sociales no afecta los puntajes (no sabemos si esto es cierto o no porque el algoritmo es secreto). Pero se puede ver cómo podría funcionar cuando el sistema de puntuación ciudadana del gobierno se lance oficialmente en 2020. Aunque no hay ninguna evidencia de que cualquiera de las ocho compañías privadas involucradas en el plan piloto en curso, sea la última responsable de administrar el sistema del gobierno, es difícil creer que éste no querrá extraer la máxima cantidad de datos para su SCS, en las pruebas piloto. Si eso sucede, y continúa como la nueva normalidad bajo el propio SCS del gobierno, ello resultará en plataformas privadas que actuarán esencialmente como agencias de espionaje para el gobierno. Es muy posible que no tengan otra opción.

Publicar opiniones políticas disidentes o enlaces que mencionan la Plaza Tiananmen nunca ha sido inteligente en China, pero ahora, además, podría afectar directamente la calificación de un ciudadano. Es aquí donde radica el verdadero truco: la puntuación de una persona también se verá afectada por lo que sus amigos en línea dicen y hacen, más allá de su propio contacto con ellos. Si alguien a quien están conectados en línea publica un comentario negativo, su propia puntuación también se verá reducida. Entonces, ¿por qué millones de personas ya se han inscrito en lo que equivale a una prueba para un sistema de vigilancia gubernamental respaldado públicamente?

Puede haber razones más oscuras, no declaradas (miedo a las represalias, por ejemplo, para aquellos que no levantan la mano), pero también hay un atractivo, en forma de recompensas y "privilegios especiales" para aquellos ciudadanos que se prueban a sí mismos como "confiables” en el Sesame Credit. Si su puntaje llega a 600, pueden solicitar un préstamo de Just Spend de hasta 5.000 yuanes (alrededor de £ 565) para comprar en línea, siempre que sea en un sitio de Alibaba. Si alcanzan 650 puntos, pueden alquilar un automóvil sin dejar depósito. También tienen derecho a un check-in más rápido en los hoteles y al uso del check-in VIP en el Aeropuerto Internacional de Beijing Capital.

Aquellos con más de 666 puntos pueden obtener un préstamo en efectivo de hasta 50,000 yuanes (£ 5,700), obviamente de Ant Financial Services. Obten más de 700 y puedes solicitar un viaje a Singapur sin documentos justificativos, como una carta de empleado. Ya para los 750, obtienes una aplicación de seguimiento rápido para una codiciada visa Schengen pan-europea. "Creo que la mejor manera de entender el sistema es como una especie de bastardo hijo de puta del esquema de lealtad", dice Creemers. Los puntajes más altos ya se han convertido en un símbolo de estatus, con casi 100.000 personas alardeando sobre sus puntajes en Weibo (el equivalente chino de Twitter) a los pocos meses de su lanzamiento. El puntaje de un ciudadano puede incluso afectar sus probabilidades de obtener una cita, o un compañero de matrimonio, porque cuanto mayor sea su calificación Sesame, más prominente es su perfil de citas en Baihe. Sesame Credit ya ofrece consejos para ayudar a las personas a mejorar su clasificación, incluida la advertencia sobre las desventajas de hacerse amigo de alguien que tiene un puntaje bajo.

Esto podría llevar al aumento de los asesores de puntaje, que compartirán consejos sobre cómo ganar puntos, o consultores de reputación dispuestos a ofrecer asesoramiento experto, sobre cómo mejorar estratégicamente una clasificación o salir de la lista negra que rompe la confianza (del gobierno sobre ti).

De hecho, Sesame Credit es básicamente una gran versión gamificada de los métodos de vigilancia del Partido Comunista; el inquietante Dang'an. El régimen mantuvo siempre un dossier sobre cada individuo que rastreaba las transgresiones políticas y personales. El Dang'an de un ciudadano lo seguía de por vida, de la escuela al trabajo, a la vida cotidiana. La gente comenzó a informar sobre sus amigos e incluso a sus familiares, levantando sospechas y reduciendo la confianza social en China. Lo mismo sucederá con los expedientes digitales. Las personas tendrán un incentivo para decirles a sus amigos y familiares: "No publiquen eso. No quiero que lastimen su puntaje, pero tampoco quiero que jodan el mío". También veremos, seguramente, el nacimiento de mercados negros de la reputación que te venderán “bajo la mesa” recetas para aumentar la confiabilidad. De la misma manera que se pueden comprar los me gusta de Facebook y Twitter, la gente pagarán para manipular su puntaje. ¿Qué hay de mantener el sistema seguro? Los piratas informáticos (algunos incluso respaldados por el estado) podrían cambiar o robar la información almacenada digitalmente.

"Las personas con calificaciones bajas tendrán velocidades de internet más lentas, acceso restringido a restaurantes y la eliminación del derecho a viajar"

Rachel Botsman, autora de ‘Who Can You Trust?’

Un cambio de paradigma

El nuevo sistema refleja un astuto cambio de paradigma. Como hemos notado, en lugar de tratar de imponer la estabilidad o la conformidad usando “el gran garrote” y una buena dosis de miedo de arriba hacia abajo, el gobierno intenta hacer que la obediencia semeje un game (juego). Es un método de control social disfrazado como un sistema de puntos-de recompensa. Es obediencia gamificada. En un barrio de moda en el centro de Beijing, los servicios de noticias de la BBC salieron a la calle en octubre de 2015 para preguntarle a la gente sobre sus calificaciones de crédito Sesame.

La mayoría habló sobre los aspectos positivos. Pero entonces, ¿si alguien criticara públicamente el sistema? Ding, tu puntaje podría bajar. De manera alarmante, muy pocas personas entendieron que una mala calificación podría perjudicarlos en el futuro. Aún más preocupante es la cantidad de personas que no tienen ni idea de que estaban siendo calificadas. Actualmente, Sesame Credit no penaliza directamente a las personas por ser "poco confiables”; es más efectivo asegurar a las personas con golosinas por buen comportamiento. Pero Hu Tao, gerente en jefe de Sesame Credit, advierte a las personas que el sistema está diseñado para que "las personas no confiables no puedan alquilar un automóvil, no puedan pedir dinero prestado o incluso no puedan encontrar trabajo".

Ella incluso ha revelado que Sesame Credit se ha dirigido al Ministerio Chino de Educación para compartir una lista de los estudiantes que hicieron trampa en los exámenes nacionales, para hacerles pagar en el futuro su deshonestidad. Las sanciones cambiarán drásticamente cuando el sistema del gobierno sea obligatorio en 2020. De hecho, el 25 de septiembre de 2016, la Oficina General del Consejo de Estado actualizó su política titulada "Mecanismos de advertencia y castigo para las personas sujetas a ejecución forzosa". El principio primordial es simple: "Si la confianza se rompe en un lugar, las restricciones se imponen en todas partes", dice el documento de política.

Por ejemplo, las personas con bajas calificaciones tendrán velocidades de internet más lentas; acceso restringido a restaurantes, clubes nocturnos o campos de golf; y la eliminación del derecho a viajar libremente al extranjero con, cito, "control restrictivo del consumo dentro de las áreas de vacaciones o negocios de viaje". Las puntuaciones influirán en las aplicaciones de alquiler de una persona, su capacidad para obtener un seguro o un préstamo, e incluso en los beneficios de seguridad social. Los ciudadanos con bajos puntajes no serán contratados por ciertos empleadores y se les prohibirá obtener algunos trabajos, incluso en el servicio civil, el periodismo y el campo legal, donde, por supuesto, deben considerarse de confianza.

Los ciudadanos de baja calificación también estarán restringidos a la hora de matricularse o inscribir a sus hijos en escuelas privadas que cobran caro. No estamos inventando esta lista de castigos. Es la realidad que los ciudadanos chinos enfrentarán. Como dice el documento del gobierno, el sistema de crédito social "permitirá que los [ciudadanos] de confianza vaguen por todas partes bajo el cielo, al tiempo que hacen que sea difícil para los desacreditados dar un solo paso". Según Luciano Floridi, profesor de filosofía y ética de la información en la Universidad de Oxford y director de investigación en el Oxford Internet Institute, ha habido tres “descentramientos” críticos que han alterado nuestra visión de la auto-comprensión:

- El modelo de Copérnico de la Tierra en órbita alrededor del Sol.

- La teoría de Darwin de la selección natural.

- La afirmación de Freud, de que nuestras acciones diarias están controladas por la mente inconsciente.

Floridi cree que estamos ingresando a la cuarta etapa, ya que lo que hacemos off-line y on-line se funden en una vida on-line. Él afirma que, a medida que nuestra sociedad se convierte cada vez más en una infosfera, una mezcla de experiencias físicas y virtuales, estamos adquiriendo una personalidad en la vida, diferente de quienes somos innatamente solos en el "mundo real." Vemos esto decretado en Facebook, donde las personas presentan un retrato editado o idealizado de sus vidas. Piensa en tus experiencias de Uber: ¿Eres un poco más amable con el conductor sólo porque sabes que recibirás una calificación? Sin embargo las calificaciones de Uber no son nada comparadas con las de Peeple, una aplicación lanzada en marzo de 2016, que es como un Yelp para humanos. Le permite asignar calificaciones y reseñas a todas las personas que conoces: tu cónyuge, tu vecino, tu jefe e inclusotu ex.

Un perfil muestra un "Número de Peeple", un puntaje basado en todos los comentarios y recomendaciones que recibe. Es preocupante, una vez que tu nombre está en el sistema Peeple, estará ahí para siempre. No puedes optar por no participar. Peeple ha prohibido ciertos malos comportamientos, incluso mencionar condiciones de salud privadas, hacer blasfemias o ser sexista (a menos que estés evaluando objetivamente el tema). Pero hay pocas reglas sobre cómo se califica a las personas o estándares sobre transparencia. El sistema de fideicomiso de China podría ser voluntario aún, pero ya está teniendo consecuencias. En febrero de 2017, el Tribunal Popular Supremo del país anunció que a 6.15 millones de sus ciudadanos se les había prohibido tomar vuelos durante los últimos cuatro años por delitos sociales.

La prohibición se señala como un paso hacia la inclusión de listas negras en el SCS. "Hemos firmado un memorando ... [con más de] 44 departamentos gubernamentales para limitar a las personas 'desacreditadas' en múltiples niveles", dice Meng Xiang, jefe del departamento ejecutivo de la Corte Suprema. Otros 1.65 millones de personas están despojadas del derecho de abordar un tren.

En donde estos sistemas realmente descienden al territorio de la pesadilla es que los algoritmos de confianza utilizados son injustamente reductivos. No tienen en cuenta el contexto. Por ejemplo, una persona puede dejar de pagar una factura o una multa porque estaba en el hospital; otro puede ser simplemente un freeloader (un gorrón). Y ahí radica el desafío que todos enfrentamos en el mundo digital, y no solo el chino.

Si los algoritmos determinantes de la vida están aquí para quedarse, necesitamos descubrir cómo pueden abarcar los matices, inconsistencias y contradicciones inherentes a los seres humanos y cómo pueden reflejar la vida real.