La sociedad máquina y el despotismo del dato

La sociedad máquina y el despotismo del dato

Alfonso Ballesteros Soriano. Profesor Ayudante doctor de Filosofía del Derecho Universidad Miguel Hernández.

«Hoy se anuncia con veneración casi religiosa que los datos vienen a gobernarnos por nuestro propio bien. Lo cierto es que el sueño de un mundo gobernado por la información no es nuevo. Ya Auguste Comte hace un par de siglos soñaba con un futuro político regido por la ciencia. Según su planteamiento, el método científico debe aplicarse a la sociedad dando lugar a una nueva ciencia, la “física social” o “sociología”. Esta debe sacar a relucir las leyes que regulan las sociedades humanas. La sociedad humana ocupa el centro, pues “el hombre propiamente no existe, no puede existir más que la Humanidad” (Comte). El individuo sería una categoría anticuada que hay que superar para lograr la utilidad común de las sociedades.

            Esta visión científica de la sociedad va camino de realizarse en China. Sin embargo, no pocos desean dirigir también a Occidente hacia una sociedad regida por los datos. Hoy el aprendizaje automático de la máquina —inteligencia artificial, por su nombre comercial—, aspira a conquistar la política. Esta física social permitiría conducir la sociedad al mejor de los mundos posibles.

En la actualidad, el máximo representante de esta visión es Alex Pentland, ingeniero del MIT, pionero del internet de las cosas y de las tecnologías llevables. La utopía del dato que propone permitiría establecer una sociedad en la que el principio del rendimiento se lleva a su máxima realización. Así, todo ocurre según lo previsto: “Para los individuos lo atractivo es un mundo en el que todo está preparado para su conveniencia —escribe—: tu revisión médica está mágicamente programada cuando empiezas a estar enfermo, el bus aparece justo al llegar a la parada de autobús”. Este mundo gobernado por los macrodatos es una utopía en la que grandes males pueden ser previstos y, por tanto, evitados. Pentland anuncia un mundo “sin guerras, ni crisis financieras”.

La utilidad y la eficacia se convierten en los valores superiores. Estos se persiguen gracias a la ingeniería conductual que empuja, de forma más o menos sutil, al individuo a la solución más conveniente para el todo social. Puede ser gracias a una sugerencia en su móvil o al impedir el encendido del coche cuando está ebrio. La conducta individual debe de responder siempre a un interés superior y deben desincentivarse las relaciones humanas que no aportan rendimiento. En coherencia con este planteamiento, Pentland anuncia “la muerte de la individualidad” y considera la idea de “individuo racional” quizá el mayor error de la historia occidental.

Estas ideas de Pentland no son excentricidades que nadie toma en cuenta, pues es asesor del gobierno estadounidense, chino y de la UE. Además, su visión de la política es predicada y llevada a la práctica por todo el mundo por sus ochenta discípulos, también en la Comunidad Valenciana. Aquí su discípula es la prestigiosa ingeniera Nuria Oliver, una “evangelista de la inteligencia artificial” según la revista Wired. Su experiencia en el uso de macrodatos en compañías telefónicas le ha permitido trabajar para el gobierno valenciano en la lucha contra la pandemia e indicar las políticas que emprender. Esta colaboración continúa y habrá que ver si se sigue la línea que apunta a un despotismo del dato o si se abandonará una vez terminada la pandemia.

La eficacia y utilidad de los macrodatos es innegable, pero esas dos cosas son lo único que pueden ofrecernos. Además, para abrir el camino a los valores superiores de la utilidad y la eficacia, se nos exigen numerosas renuncias porque los datos ciegan el paso a bienes más elevados:

  1. Renunciamos a vivir como seres humanos. Solo una sociedad de máquinas puede fundarse en la utilidad y la eficacia. Una sociedad automatizada es una pesadilla del rendimiento total. La libertad vivida con los demás, así como lo fortuito y lo imprevisto, son, precisamente, característicos de la vida humana.
  2. Renunciamos a la democracia. Parafraseando a Chesterton, es mejor que determinadas cosas las hagamos nosotros, aunque sea mal, a que otros las hagan por nosotros (incluso bien). La democracia requiere discurso y participación del hombre común al que afectan las decisiones, porque es razonable que lo que a todos afecta sea decidido por todos.
  3. Renunciamos a la ética. La ética no admite someterse al simple cálculo, la acción buena no guarda relación —más que de forma excepcional— con las consecuencias. Tampoco la ética política puede reducirse a estrategia o conveniencia.
  4. Renunciamos a la belleza. Que la utilidad común pueda ser calculada es, en cierto modo, indiferente. No es un valor absoluto. La belleza, por ejemplo, es mucho más importante y es la antítesis de la utilidad, como saben los poetas. “El rincón más útil de una casa son las letrinas” decía Théophile Gautier. En cambio, las acciones bellas y los monumentos bellos nos alegran la vida.
  5. Renunciamos a la verdad. La verdad no es accesible con datos, los datos no pueden decir toda la verdad. Lo que más vale la pena saber no puede contarse ni medirse con números.
  6. Renunciamos a pensar. El cálculo sustituye al pensar: “¿Podemos renunciar a lo que merece pensarse, a favor del delirio del pensar exclusivamente calculador y sus gigantescos logros?” (Martin Heidegger).

Por suerte, nada de esto es inevitable. La discrepancia de muchos puede evitar que el despotismo del dato llegue algún día a realizarse.»