En 2009, durante las consecuencias de la crisis financiera, American Express comenz\u00f3 a utilizar algoritmos para determinar los patrones subyacentes de los clientes que ten\u00edan problemas para pagar sus facturas y reducir el riesgo financiero que estos clientes planteaban a la compa\u00f1\u00eda. Estos algoritmos eran sensibles a ciertos comportamientos de compras y ten\u00edan la capacidad de limitar el acceso de una persona al cr\u00e9dito (O’Neil, 2018). Como resultado, las compras en ciertos establecimientos podr\u00edan reducir la puntuaci\u00f3n de cr\u00e9dito de una persona. Sin embargo, a menudo estos establecimientos espec\u00edficos eran los frecuentados por personas que ya ten\u00edan dificultades financieras, por lo que las personas en grupos de ingresos m\u00e1s bajos fueron discriminadas por el algoritmo.<\/p>\n
Los afectados vieron bajar sus calificaciones crediticias y, por lo tanto, sus costos de endeudamiento suben. Esto, en combinaci\u00f3n con una capacidad adicional limitada de acceder al cr\u00e9dito, cre\u00f3 una situaci\u00f3n financiera grave para muchas personas. El algoritmo efectivamente castig\u00f3 a aquellos que ya estaban luchando con m\u00e1s problemas financieros (Lieber, 2009).<\/p>\n
Este caso plantea preguntas importantes con respecto a la privacidad y los derechos de protecci\u00f3n de datos. American Express s\u00f3lo fue capaz de establecer estas precarias correlaciones entre los h\u00e1bitos de gasto y la solvencia debido a su acceso a enormes vol\u00famenes de datos personales y su opaco procesamiento y an\u00e1lisis autom\u00e1tico de datos. La empresa fue capaz de poner a las personas en peligro financiero sin la debida diligencia o respeto a sus derechos. Nunca publicaron una explicaci\u00f3n sobre c\u00f3mo o por qu\u00e9 su algoritmo tom\u00f3 la decisi\u00f3n de incluir al titular de la tarjeta de cr\u00e9dito en una categor\u00eda determinada. Afortunadamente, la compa\u00f1\u00eda abandon\u00f3 la pr\u00e1ctica en medio de la reacci\u00f3n p\u00fablica.<\/p>","protected":false},"excerpt":{"rendered":"
En 2009, durante las consecuencias de la crisis financiera, American Express comenz\u00f3 a utilizar algoritmos para determinar los patrones subyacentes de los clientes que ten\u00edan problemas para pagar sus facturas y reducir el riesgo financiero que estos clientes planteaban a la compa\u00f1\u00eda. Estos algoritmos eran sensibles a ciertos comportamientos de compras y ten\u00edan la capacidad […]<\/p>","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[19],"tags":[],"yoast_head":"\n