Banco Interamericano de Desarrollo
facebook
twitter
youtube
linkedin
instagram
Abierto al públicoBeyond BordersCaribbean Development TrendsCiudades SosteniblesEnergía para el FuturoEnfoque EducaciónFactor TrabajoGente SaludableGestión fiscalGobernarteIdeas MatterIdeas que CuentanIdeaçãoImpactoIndustrias CreativasLa Maleta AbiertaMoviliblogMás Allá de las FronterasNegocios SosteniblesPrimeros PasosPuntos sobre la iSeguridad CiudadanaSostenibilidadVolvamos a la fuente¿Y si hablamos de igualdad?Inicio
Administración pública Agua y saneamiento Ciencia, tecnología e innovación Comercio e integración regional Conocimeinto Abierto Desarrollo infantil temprano Desarrollo urbano y vivienda Educación Energía Género y diversidad Impacto Industrias Creativas Medio ambiente, cambio climático y Salvaguardias Política y gestión fiscal Salud Sin Miedos Trabajo y pensiones
  • Skip to main content
  • Skip to secondary menu
  • Skip to primary sidebar
  • Skip to footer

Gente Saludable

BID

  • INICIO
  • CATEGORÍAS
    • Envejecimiento y dependencia
    • Priorización del gasto y financiamiento
    • Salud de la mujer y la niñez
    • Salud pública y nutrición
    • Seminarios y cursos
    • Servicios de salud
    • Transformación digital
    • Vida saludable
  • autores
  • Español
    • Inglés
    • Portugués

La adopción de soluciones de inteligencia artificial sigue creciendo, pero ¿alguien las está evaluando? 

November 7, 2022 por Cristina Pombo - Natalia González Alarcón Deja un comentario


Mucho se habla de los acelerados procesos de transformación digital y de la adopción de tecnologías emergentes como consecuencia de la pandemia, sin embargo, poco se indaga sobre la evaluación y los resultados de estas soluciones innovadoras, como la inteligencia artificial (IA) ¿Qué buenas prácticas podemos implementar en los procesos?  

“No necesitamos buenas intenciones, necesitamos buenas prácticas”. 

Veamos algunas cifras y tendencias de los últimos años. En 2021, el 52% de las empresas aceleraron sus planes de adopción de IA debido a la crisis del COVID-19 y el 86% afirmó que la IA se convirtió en una “tecnología convencional” en su empresa. La tasa de adopción promedio en todas las regiones del mundo aumentó 6% en comparación a 2020, quedando en 56 % – y en Latinoamérica pasando del 41% al 47%.   

En 2021 la financiación global de la IA aumentó un 108 % (US$66.8 billones) en comparación a 2020. Este aumento estuvo liderado por el sector salud, que representó casi una quinta parte de la financiación total (18%)

Potencial y retos de la inteligencia artificial 

La IA tiene el potencial de expandir el acceso a la atención, mejorar los resultados de salud, crear procesos más eficientes y reducir costos. No obstante, la IA puede generar sesgos, lo cual podría tener diversas implicaciones dependiendo del tipo de solución que se implemente. Pensemos en aplicaciones de IA que apoyan la toma de decisiones médicas las cuales impactan directamente a las personas. Es decir, si hay un error o sesgo negativo en la predicción del algoritmo y el personal médico decide tomar una acción a partir de esta, las consecuencias pueden ser fatales.  

Por ejemplo, hay evidencia de que reglas simples de predicción de enfermedades cardíacas utilizadas por décadas en países industrializados estaban sesgadas. La puntuación de riesgo cardiovascular – Framingham Heart Study – se desempeñaba muy bien en pacientes caucásicos, pero no en afroamericanos. Cerca del 80% de los datos recopilados eran de población blanca y, por lo tanto, los diagnósticos fueron más aplicables para ese grupo que para otros grupos subrepresentados. Esta problemática de sesgos raciales se repite en algoritmos comúnmente utilizados y en otros grupos poblacionales en ocasiones subrepresentados como las mujeres. Y si se habla de modelos complejos de IA el riesgo es aún mayor.  

La importancia de la auditoría algorítmica 

En respuesta a estos casos con resultados sesgados, falta de transparencia y mal uso de los datos, se ha generado un creciente interés en tener una investigación más activa sobre los errores algorítmicos y fallas de los sistemas, y un aumento en los pedidos de auditorías éticas obligatorias de los algoritmos como una solución para estos riesgos.  

Estas auditorias buscan evaluar un sistema de IA y su proceso de desarrollo, incluyendo el diseño y los datos utilizados para entrenar el sistema, y revisar impactos en materia de precisión, discriminación, sesgos, privacidad y seguridad, entre otros, brindando elementos de rendición de cuentas, transparencia y explicabilidad. El ejemplo de LAURA, una solución brasilera que sin duda es pionera mundial en la adopción de IA en el sector salud, ayuda a entender qué tipo de resultados podría tener un ejercicio como este. 

El caso de LAURA y las buenas prácticas en inteligencia artificial 

En 2021, el BID bajo su iniciativa regional fAIr LAC, de la mano de Eticas Consulting, realizó una auditoría algorítmica al sistema LAURA – quienes son aliados de la iniciativa y voluntariamente participaron reconociendo el valor de una auditoría para mejorar su solución y estándares de transparencia-. Se realizó un análisis de impacto social para entender qué aspectos podrían limitar el funcionamiento del sistema, y un análisis cuantitativo para detectar y recomendar medidas en posibles casos de discriminación, impacto diferencial o sesgo algorítmico.  

Por un lado, el análisis reveló que existe claridad y buena aceptabilidad de LAURA por usuarios finales, por la facilidad de uso y por la transmisión de conocimiento clínico. En términos de protección de datos, tiene una política de privacidad completa y bien estructurada, un estándar de acceso y autenticación con mecanismos de seguridad básicos, con una política de seudonimización que sigue los principios de privacidad en el diseño.  

No obstante, evidenció limitaciones en la comunicación a los usuarios sobre el alcance y las restricciones del modelo algorítmico, particularmente respecto al impacto en grupos poblacionales. El análisis identificó que a pesar de tener mayor proporción de población femenina más joven que la masculina, la capacidad predictiva para ese subgrupo poblacional era menor.  

Estos resultados informaron al equipo de LAURA sobre las mejoras para mitigar potenciales riesgos éticos en el despliegue de su solución. Este ejemplo evidencia la importancia de evaluar la acelerada adopción de soluciones de IA donde, más allá de las buenas intenciones, se necesitan adoptar estos procesos de evaluación iterativos y periódicos como una buena práctica en la industria. La auditoría algorítmica ya no debería ser vista como un privilegio que pueden tener ciertos proyectos, sino como un requisito que se debería incorporar en las soluciones que tienen impacto directo en el bienestar de la población.  

Te invitamos a leer en más detalle el informe final de la auditoría algorítmica de LAURA, así como la guía de auditoría algorítmica que te orientará en el paso a paso para su implementación. 


Archivado bajo:Transformación digital Etiquetado con:Banco Interamericano de Desarrollo, BID, innovación, inteligencia artificial, Salud, salud digital, transformación digital de la salud

Cristina Pombo

Cristina is an economist with an emphasis on social policy working in the intersection of technology and government, ethics & AI. She advises the Manager and Division Chiefs of the IDB´s Social Sector on operational issues and digital transformation strategies in education, health, social protection, labor markets, gender, diversity, and migration. In this capacity, she spearheads initiatives that leverage digital technologies to improve social services such as fAIr LAC, the first public-private alliance for responsible use of artificial intelligence in the region. She is part of the OECD Network of Experts on AI and a member of the Advisory Board of Northeastern University's Artificial Intelligence Experiential Institute. She is an expert in Digital Transformation in Governments from the Harvard Kennedy School and in Data Ethics from the University of Michigan.

Natalia González Alarcón

Natalia es investigadora en The GovLab de la Universidad de Nueva York. Anteriormente, trabajó en el Banco Interamericano de Desarrollo (BID) como gestora del programa fAIr LAC, una iniciativa regional que asesora a los gobiernos y al sector privado en el uso responsable de la IA y los datos en América Latina. Fue becaria del Foro Económico Mundial (WEF) en temas de compra pública innovadora de IA, y de New America en temas de la automatización y el futuro del trabajo. Asimismo, fue asesora del Departamento Nacional de Planeación (DNP) del gobierno colombiano, donde coordinó el diseño e implementación de la Política Nacional de Desarrollo Productivo. Natalia tiene una maestría en Políticas Públicas de la Universidad de Georgetown y es economista con maestría en economía de la Universidad de Los Andes, Colombia.

Reader Interactions

Leave a Reply Cancel reply

Your email address will not be published. Required fields are marked *

Primary Sidebar

SIGUENOS

Subscribe

Buscar

Salud

Los países de América Latina y el Caribe se enfrentan a grandes retos para garantizar la salud de sus ciudadanos. En este blog, los especialistas del BID y expertos internacionales exploran temas de actualidad sobre la salud y buscan, a través de tus comentarios, un diálogo enriquecedor.

Latin American and Caribbean countries face multiple challenges to provide quality healthcare for their citizens. In this blog, IDB Specialists and international experts discuss current health issues and hope to build a dynamic dialogue through your comments.

Artículos relacionados

  • Big data responsable para una mejor salud
  • Más y mejor comunicación para generar apoyos a las decisiones en salud de los gobiernos
  • ¿Cuáles son los desafíos para la salud digital en América Latina y el Caribe?  
  • Las herramientas digitales pueden prevenir recetas de medicamentos inapropiados e incluso peligrosos
  • 10 claves para que la región pueda mejorar la eficiencia del gasto en salud

Footer

Banco Interamericano de Desarrollo
facebook
twitter
youtube
youtube
youtube

Blogs escritos por empleados del BID:

Copyright © Banco Interamericano de Desarrollo ("BID"). Este trabajo está disponible bajo los términos de una licencia Creative Commons IGO 3.0 Reconocimiento-No comercial-Sin Obras Derivadas. (CC-IGO 3.0 BY-NC-ND) y pueden reproducirse con la debida atribución al BID y para cualquier uso no comercial. No se permite ningún trabajo derivado. Cualquier disputa relacionada con el uso de las obras del BID que no se pueda resolver de manera amistosa se someterá a arbitraje de conformidad con el reglamento de la CNUDMI. El uso del nombre del BID para cualquier otro propósito que no sea la atribución, y el uso del logotipo del BID estarán sujetos a un acuerdo de licencia escrito por separado entre el BID y el usuario y no está autorizado como parte de esta licencia CC-IGO. Tenga en cuenta que el enlace proporcionado anteriormente incluye términos y condiciones adicionales de la licencia.


Blogs escritos por autores externos:

Para preguntas relacionadas con los derechos de autor para autores que no son empleados del BID, por favor complete el formulario de contacto de este blog.

Las opiniones expresadas en este blog son las de los autores y no necesariamente reflejan las opiniones del BID, su Directorio Ejecutivo o los países que representan.

Atribución: además de otorgar la atribución al respectivo autor y propietario de los derechos de autor, según proceda, le agradeceríamos que incluyera un enlace que remita al sitio web de los blogs del BID.



Política de privacidad

Derechos de autor © 2023 · Magazine Pro en Genesis Framework · WordPress · Log in

Banco Interamericano de Desarrollo

Aviso Legal

Las opiniones expresadas en estos blogs son las de los autores y no necesariamente reflejan las opiniones del Banco Interamericano de Desarrollo, sus directivas, la Asamblea de Gobernadores o sus países miembros.

facebook
twitter
youtube
En este sitio web se utilizan cookies para optimizar la funcionalidad y brindar la mejor experiencia posible. Si continúa visitando otras páginas, se instalarán cookies en su navegador.
Para obtener más información al respecto, haga clic aquí.
X
Manage consent

Privacy Overview

This website uses cookies to improve your experience while you navigate through the website. Out of these, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may affect your browsing experience.
Necessary
Always Enabled

Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.

Non-necessary

Any cookies that may not be particularly necessary for the website to function and is used specifically to collect user personal data via analytics, ads, other embedded contents are termed as non-necessary cookies. It is mandatory to procure user consent prior to running these cookies on your website.

SAVE & ACCEPT