ARMAS DE DESTRUCCIÓN MATEMÁTICA

Vivimos en la edad del algoritmo. Cada vez más, las decisiones que afectan nuestras vidas no están hechas por humanos, sino por modelos matemáticos. En teoría, esto debería conducir a una mayor equidad: todos son juzgados de acuerdo con las mismas reglas y se elimina el sesgo. Pero como revela Cathy O’Neil en «Armas de destrucción matemática», ocurre exactamente lo contrario. Los modelos que se utilizan en la actualidad son opacos, no regulados e incontestables, incluso cuando están equivocados. Los modelos están apuntalando a los afortunados y castigando a los oprimidos, creando un «cóctel tóxico para la democracia». Bienvenido al lado oscuro de Big Data.