Desde que escribí Algoritmos para dominar el mundo los algoritmos han seguido ganando importancia social, ya que se implementan cada vez más tanto en las políticas como en la toma de decisiones del día a día.
Es normal el creciente interés creciente tanto por parte de los formuladores de políticas como de los investigadores académicos para diseñar algoritmos más «éticos» que luego puedan utilizarse de manera más segura en las decisiones. como admisiones escolares, préstamos, evaluación de empleados, etc.
En The Ethical Algorithm: The Science of Socially Aware Algorithm Design de Michael Kearns y Aaron Roth se hace eco de este interés. Los ejemplos en los que se basan los autores son fascinantes, relevantes y muy próximos.
En este libro, se habla sobre aplicaciones de citas y navegación, cómo tu perfil de Netflix puede no ser tan privado, por qué la investigación científica puede no ser tan científica, cómo puede estar contribuyendo a la discriminación algorítmica y si debe preocuparse por la superinteligencia que deletrea el final. de la raza humana, entre muchos otros.
A diferencia de otros libros similares (p.ej. Armas de destrucción matemática de Cathy O’Neil), este libro está escrito por dos informáticos teóricos y, como tal, se centra en soluciones algorítmicas a los problemas éticos del aprendizaje automático, en lugar de participar en debates infructuosos sobre cuál debería ser la moral de nuestra sociedad (aunque también toca este tema).
Al centrarse en los algoritmos, los autores encuentran un nicho inteligente dentro de este campo incipiente para brindar un gran valor a todos los lectores. Como afirman claramente, este libro no se centra en los impactos sociales, económicos y morales de los algoritmos sesgados, ni se trata de regulaciones como los límites en la recopilación de datos y el cambio de poder de los algoritmos a los humanos. Más bien, trata sobre las formas (lo que los autores perciben como el enfoque correcto) en las que podemos hacer que los algoritmos se comporten más como queremos que opere nuestra sociedad.
En la Introducción de The Ethical Algorithm se proporciona una descripción general y definiciones de términos clave como algoritmo, inteligencia artificial y aprendizaje automático.
El contenido de los capítulos es el siguiente:
- El Capítulo 1 describe cómo se pueden diseñar algoritmos, con cierto costo de precisión predictiva, para mejorar la privacidad en la recopilación y el mantenimiento de datos digitales utilizando técnicas como la privacidad diferencial.
- El Capítulo 2 describe cómo se pueden diseñar algoritmos, nuevamente a un costo de precisión predictiva (consulte Intercambio de precisión-equidad), para mejorar la equidad de las herramientas de toma de decisiones utilizadas en asuntos que van desde la admisión a la universidad y los préstamos hipotecarios hasta la focalización en intervenciones médicas y prisión.
- El Capítulo 3 describe cómo los diseñadores de modelos y los reguladores pueden utilizar la Teoría Algorítmica de Juegos para mejorar el bienestar colectivo en una amplia variedad de aplicaciones actuales, incluida la forma en que podrían modificarse para reducir la creación de burbujas mediáticas y la proliferación de desinformación.
- El Capítulo 4 describe algunas de las trampas del razonamiento estadístico defectuoso (consulta Escala, adaptabilidad, estafas e informes de fondos de cobertura y P-Hacking) y cómo se debe tener en cuenta en el diseño algorítmico.
- El Capítulo 5 describe cómo se pueden diseñar los algoritmos para hacer que sus resultados sean más interpretables y cómo pueden abordar otros problemas éticos, incluidos los de The Singularity.
Definiciones cuantitativas
Los autores quieren algoritmos diseñados para hacer que valores como la equidad y la privacidad formen parte directamente del resultado algorítmico. “En lugar de que las personas regulen y controlen los algoritmos desde el exterior, la idea es arreglarlos desde el interior”.
Eso suena bien, por supuesto, pero el diablo está en los detalles. Los autores así lo reconocen. “Por supuesto, uno de los mayores desafíos aquí es el desarrollo de definiciones cuantitativas de valores sociales en las que muchos de nosotros podamos estar de acuerdo”.
Note la palabra “cuantitativo”. Eso es crucial porque, de lo contrario, cualquier valor social en particular no puede formar parte de una solución algorítmica (es decir, basada en matemáticas). Gran parte del libro, por lo tanto, trata sobre el proceso de tratar de determinar, cuantitativamente, lo que realmente queremos decir cuando hablamos de valores como la justicia, la privacidad y la transparencia.
En realidad, es difícil de que los humanos podamos llegar a un consenso, y mucho menos sobre definiciones morales cuantitativas.
Los autores, a pesar de su entusiasmo por (la perspectiva de) los algoritmos éticos, reconocen que muchos otros tampoco están convencidos. “Los críticos del enfoque algorítmico a menudo pueden tener razón. Hay muchos dominios consecuentes en los que las herramientas algorítmicas aún son demasiado ingenuas y primitivas para confiar plenamente en la toma de decisiones”. Y dar con definiciones acordadas y cuantitativamente precisas de los valores humanos no es la única dificultad.
Trampas algorítmicas
Otra dificultad es que el mismo proceso de optimización algorítmica basada en datos con frecuencia conduce a efectos secundarios inesperados e indeseables. El libro relata varios ejemplos, incluido este clásico obvio solo en retrospectiva: durante los incendios forestales del sur de California de fines de 2017, Waze y Google Maps guiaron a las personas que huían directamente al peligro, porque esas eran las rutas con casi cero tráfico de coches.
Kearns y Roth llegan a la conclusión obvia: «los algoritmos en general, y especialmente los algoritmos de aprendizaje automático, son buenos para optimizar lo que les pides que optimicen, pero no se puede contar con ellos para hacer las cosas que te gustaría que hicieran, pero no les pediste para, ni para evitar hacer cosas que no quieres, pero no les dijiste que no hicieran.”
Conclusión
Los autores concluyen haciendo esta gran pregunta: ¿Hay decisiones que los algoritmos simplemente no deberían (no se les debería permitir) tomar? Incluso plantean una instancia potencialmente convincente: matar a un ser humano en una guerra automatizada ( ver Un nuevo manifiesto para la era de la robótica: New Laws of Robotics).
“El argumento es que la decisión final de matar a un ser humano solo debe ser tomada por otro ser humano debido a la agencia moral y la responsabilidad involucrada; el peso de tal decisión debe recaer solo en una entidad que realmente pueda comprender, de una manera humana, las consecuencias en cuestión”.
Aun así, luego señalan que «por supuesto, si el algoritmo es realmente más preciso, apegarse a este principio moral resultará la muerte de más personas inocentes«. Un tecno-optimismo que no acaba de convencer.
Principales ideas de The Ethical Algorithm
- Los algoritmos plantean cuestiones de privacidad, equidad, seguridad, transparencia, responsabilidad e incluso moralidad.
- Proteger la privacidad es difícil, pero la aleatoriedad ayuda.
- Un algoritmo más justo debe ser menos preciso.
- Los algoritmos pueden tener resultados problemáticos debido a las acciones de las personas.
- La escala y la adaptabilidad crean algoritmos traicioneros.
- La inteligencia artificial puede estar en el camino hacia una «singularidad».
- Los algoritmos son falibles, pero un mundo sin ellos es impensable.
Imagen Investopedia