Una nueva investigación infunde principios de equidad en el proceso de explicación de algoritmos

0


En los Estados Unidos, el lugar donde naces, tu origen social y económico, los vecindarios donde pasas tus años de formación y dónde envejeces son factores que representan entre un cuarto y un 60% de las muertes en un año determinado, en parte .porque estas fuerzas juegan un papel importante en la aparición y los resultados de las enfermedades cardíacas, el cáncer, las lesiones no intencionadas, las enfermedades crónicas del tracto respiratorio inferior y las enfermedades cerebrovasculares, las cinco principales causas de muerte.

Si bien los datos sobre estos factores «macro» son fundamentales para monitorear y predecir los resultados de salud de las personas y las comunidades, los analistas que aplican herramientas de aprendizaje automático a los resultados de salud tienden a depender de «micro» datos restringidos por contexto. Son puramente clínicos y están guiados por datos y procesos de salud. dentro del hospital, dejando en la oscuridad los factores que podrían arrojar luz sobre las disparidades en la salud.

Investigadores de NYU Tandon School of Engineering y NYU School of Global Public Health (NYU GPH), en una nueva perspectiva, «Aprendizaje automático y equidad algorítmica en la salud pública y de la población», en Inteligencia de la máquina de la naturaleza, tienen como objetivo activar la comunidad de aprendizaje automático para tener en cuenta factores «macro» y su impacto en la salud. Pensando fuera de la «caja» clínica y más allá de los límites rigurosos de los factores individuales, Rumi Chunara, profesor asociado de ciencias de la computación e ingeniería en NYU Tandon y bioestadística en NYU GPH, ha encontrado un nuevo enfoque para incorporar la red más amplia de datos relevantes para la predicción. modelos para resultados de salud individuales y comunitarios.

«La investigación sobre qué causa y reduce la equidad muestra que para evitar crear más disparidades, es esencial considerar también los factores aguas arriba», explicó Chunara. Señaló, por un lado, el gran volumen de trabajo sobre IA y la implementación del aprendizaje automático en la atención médica en áreas como análisis de imágenes, radiografía y patología, y por otro lado, la fuerte conciencia y defensa centrada en áreas como la estructura racismo, brutalidad policial y disparidades de salud que surgieron durante la pandemia de COVID-19.

«Nuestro objetivo es tomar ese trabajo y la explosión del aprendizaje automático rico en datos en la industria de la salud y crear una visión holística más allá del entorno clínico mediante la incorporación de datos sobre las comunidades y el medio ambiente».

Chunara, junto con sus estudiantes de doctorado Vishwali Mhasawade y Yuan Zhao, en NYU Tandon y NYU GPH respectivamente, explotaron el Modelo Social Ecológico, un marco para comprender cómo la salud, los hábitos y el comportamiento de un individuo están influenciados por factores como las políticas públicas nacionales e internacionales. y la disponibilidad de recursos de salud dentro de una comunidad y vecindario. El equipo muestra cómo los principios de este modelo pueden usarse en el desarrollo de algoritmos para mostrar cómo los algoritmos pueden diseñarse y usarse de manera más equitativa.

Los investigadores organizaron el trabajo existente en una taxonomía de los tipos de actividades para las que se utilizan el aprendizaje automático y la inteligencia artificial que abarcan la predicción, las intervenciones, la identificación de efectos y las asignaciones, para mostrar ejemplos de cómo se puede explotar una perspectiva multinivel. En el artículo, los autores también muestran cómo el mismo marco es aplicable a la privacidad de los datos, la gobernanza y las consideraciones de mejores prácticas para trasladar la carga de salud de las personas hacia la mejora de la equidad.

Como ejemplo de tales enfoques, miembros del mismo equipo presentaron recientemente en la Conferencia AAAI / ACM sobre Inteligencia Artificial, Ética y Sociedad un nuevo enfoque para el uso de la «equidad causal multinivel», la red de datos más grande. equidad de los algoritmos. Este trabajo se basa en el campo de la «equidad algorítmica», que, hasta la fecha, está limitado por su enfoque exclusivo en atributos a nivel individual como el género y la raza.

En este trabajo, Mhasawade y Chunara formalizaron un nuevo enfoque para comprender las relaciones de equidad utilizando herramientas de inferencia causal, sintetizando un medio por el cual un investigador podría evaluar y explicar los efectos de los macro atributos sensibles y no solo los factores individuales. Han desarrollado el algoritmo para su enfoque y han proporcionado las configuraciones bajo las cuales es aplicable. También ilustraron su método con datos que muestran cómo las predicciones basadas simplemente en puntos de datos asociados con etiquetas como raza, ingresos y género tienen un valor limitado si los atributos sensibles no se toman en cuenta o se toman en cuenta sin el contexto adecuado.

«Al igual que en el cuidado de la salud, la equidad algorítmica tiende a centrarse en las etiquetas (hombres y mujeres, negros contra blancos, etc.) sin considerar múltiples niveles de influencia desde una perspectiva causal para decidir qué es correcto y qué está mal en las predicciones», dijo. Chunara afirmó. . «Nuestro trabajo presenta un marco para pensar no solo sobre la equidad en los algoritmos, sino también sobre los tipos de datos que usamos dentro de ellos».

También podría gustarte
Deja una respuesta

Su dirección de correo electrónico no será publicada.

This website uses cookies to improve your experience. We'll assume you're ok with this, but you can opt-out if you wish. Accept Read More