Banco Interamericano de Desarrollo
facebook
twitter
youtube
linkedin
instagram
Abierto al públicoBeyond BordersCaribbean Development TrendsCiudades SosteniblesEnergía para el FuturoEnfoque EducaciónFactor TrabajoGente SaludableGestión fiscalGobernarteIdeas MatterIdeas que CuentanIdeaçãoImpactoIndustrias CreativasLa Maleta AbiertaMoviliblogMás Allá de las FronterasNegocios SosteniblesPrimeros PasosPuntos sobre la iSeguridad CiudadanaSostenibilidadVolvamos a la fuente¿Y si hablamos de igualdad?Inicio
Administración pública Agua y saneamiento Ciencia, tecnología e innovación Comercio e integración regional Conocimeinto Abierto Desarrollo infantil temprano Desarrollo urbano y vivienda Educación Energía Género y diversidad Impacto Industrias Creativas Medio ambiente, cambio climático y Salvaguardias Política y gestión fiscal Salud Sin Miedos Trabajo y pensiones
  • Skip to main content
  • Skip to secondary menu
  • Skip to primary sidebar
  • Skip to footer

¿Y si hablamos de igualdad?

  • INICIO
  • CATEGORÍAS
    • Diversidad
    • Género
  • Autores
  • Español
tres puntos sobre sesgos en la tecnología

Tres puntos sobre sesgos en la tecnología

July 21, 2020 Por Cristina Pombo Deja un comentario


Si no eres afrodescendiente probablemente no lo sabes, pero el reconocimiento facial falla especialmente al reconocer a personas afro. Por eso creo que me llamó tanto la atención cuando Google publicó un video para promocionar el Píxel 4, en el que aparece una mujer negra en una habitación oscura. Ella aproxima su cara al teléfono y este se desbloquea.

Por supuesto lo llamativo no era el desbloqueo, esa tecnología esta presente desde hace años. Lo novedoso era que lo hiciera con una mujer negra. Y el video parece decir que Google ha solucionado el problema. Lo que supongo que son buenas noticias, pero también nos deja unas reflexiones para el futuro, si es que decidimos continuar usando esta tecnología, que no está muy claro de momento. Recientemente, Amazon, IBM y Microsoft han decidido restringir o detener la venta de tecnología de reconocimiento facial. Ciudades con San Francisco o  Cambridge, donde esta Harvard y el MIT, consideradas el corazón de la tecnología, también han prohibido su uso.

Algunas consideraciones:

  1. En la tecnología hay sesgos. Si no pueden reconocer las caras de mujeres afrodescendientes es porque no fueron incluidas en la base de datos para entrenar al algoritmo. Si no fueron incluidas es porque a los ingenieros no se les ocurrió. Y si no se les ocurrió es porque no viven en un “mundo” en el que sean representativas.
  2. ¿Como van a crear las bases de datos ahora? ¿Van a salir a escanear caras de personas de poblaciones diversas? ¿Suena extraño verdad? Medio distópico… No estoy en contra de que lo hagan, por el contrario, la tecnología debe ser inclusiva, pero hay que ser muy claros al determinar: 1) qué están recolectando, 2) de qué forma, 3) con qué consentimiento y a qué precio. Algo parecido a lo que se hace con las encuestas cuando se utilizan para fines científicos.
  3. Las formas son importantes y la preocupación justificada. Las poblaciones étnicas han sido vulneradas en demasiadas ocasiones. Esclavitud, encarcelamiento masivo, Jim Crow, experimentos médicos, hasta los episodios que describe Vargas Llosa en Tiempos Recios. Desde luego no sería la primera vez que se utilizan minorías para perfeccionar nuevas técnicas o tecnologías.

Ya llevamos hablando unos años de tecnología ética o justa. El del reconocimiento facial es un buen ejemplo de por qué esto se hace necesario. Para poder utilizar esta tecnología debemos hacerlo de una forma ética. Hace dos semanas habría terminado así este blog. Pero hace solo unos días Pratyusha Kalluri de Stanford y fundadora de la Radical AI Network publicó una columna en Nature en la que pide que se deje de hablar de tecnología justa o ética. Pide una aproximación mucho más radical, les cito:

Don’t ask if artificial intelligence is good or fair, ask how it shifts power

Pratyusha Kalluri

Propone que aquellos que tienen más posibilidades de ser perjudicados por la IA; es decir, las mujeres, los afrodescendientes, los pueblos indígenas, las personas con discapacidad y las personas con menores ingresos, participen en el diseño. No es sobre tecnología ética, es sobre darle el poder a los que están más afectados por su implementación. Les invito a que lo lean y si tienen ideas sobre como llevar esta aproximación a nuestra región escríbannos a [email protected].


Archivado Bajo:Género Etiquetado con:afrodescendientes, AI, Género, tecnología

Cristina Pombo

Cristina is a Ph.D. in Economics with an emphasis on social policy, working at the intersection of technology and government ethics & She leads efforts to use digital technologies for better social services, like fAIr LAC, the region's first alliance for responsible use of artificial intelligence in the region. She is part of the OECD Network of Experts on AI and a member of the Advisory Board of Northeastern University's Artificial Intelligence Experiential Institute. Expert in Digital Transformation in Governments from the Harvard Kennedy School and in Data Ethics from the University of Michigan

Reader Interactions

Leave a Reply Cancel reply

Your email address will not be published. Required fields are marked *

Primary Sidebar

SIGUENOS

Subscribe

Buscar

¿Y si hablamos de igualdad?

Porque el desarrollo sostenible no puede lograrse sin igualdad y diversidad de género, compartimos ideas y soluciones para América Latina y el Caribe.

Related posts

  • ¿Cómo aprovechar la inteligencia artificial sin perpetuar sesgos de género?
  • Tres videos que le cambiaron la perspectiva a un hombre
  • Cuando eres la única ejecutiva negra en la sala
  • Tecnología y lengua de señas: transformando la inclusión a través de la comunicación
  • Tres áreas de trabajo para la eliminación de la violencia basada en género 

ETIQUETAS

accesibilidad afrodescendientes brechas cambio climático Caribe Coronavirus COVID-19 cuidado cuidados datos desarrollo con identidad Desarrollo Económico Indígena desigualdad Diversidad Día de las Mujeres Rurales Día de los Pueblos Indígenas economía del comportamiento educación Empleo empleo informal emprendimiento Empresariado Indígena Futuro del trabajo GDLab Género Habilidades igualdad igualdad de género inclusión IPG lgbtq+ LGTBQ+ liderazgo femenino masculinidades mercado laboral Mercados laborales personas con discapacidad pueblos indígenas STEM tecnología Trata de personas violencia contra la mujer Violencia de género Violencia de Pareja Íntima violencia sexual y basada en género

Footer

Banco Interamericano de Desarrollo
facebook
twitter
youtube
youtube
youtube

Google Analytics

    Blogs escritos por empleados del BID:

    Copyright © Banco Interamericano de Desarrollo ("BID"). Este trabajo está disponible bajo los términos de una licencia Creative Commons IGO 3.0 Reconocimiento-No comercial-Sin Obras Derivadas. (CC-IGO 3.0 BY-NC-ND) y pueden reproducirse con la debida atribución al BID y para cualquier uso no comercial. No se permite ningún trabajo derivado. Cualquier disputa relacionada con el uso de las obras del BID que no se pueda resolver de manera amistosa se someterá a arbitraje de conformidad con el reglamento de la CNUDMI. El uso del nombre del BID para cualquier otro propósito que no sea la atribución, y el uso del logotipo del BID estarán sujetos a un acuerdo de licencia escrito por separado entre el BID y el usuario y no está autorizado como parte de esta licencia CC-IGO. Tenga en cuenta que el enlace proporcionado anteriormente incluye términos y condiciones adicionales de la licencia.


    Blogs escritos por autores externos:

    Para preguntas relacionadas con los derechos de autor para autores que no son empleados del BID, por favor complete el formulario de contacto de este blog.

    Las opiniones expresadas en este blog son las de los autores y no necesariamente reflejan las opiniones del BID, su Directorio Ejecutivo o los países que representan.

    Atribución: además de otorgar la atribución al respectivo autor y propietario de los derechos de autor, según proceda, le agradeceríamos que incluyera un enlace que remita al sitio web de los blogs del BID.



    Política de privacidad

    Derechos de autor © 2025 · Magazine Pro en Genesis Framework · WordPress · Log in

    Banco Interamericano de Desarrollo

    Aviso Legal

    Las opiniones expresadas en estos blogs son las de los autores y no necesariamente reflejan las opiniones del Banco Interamericano de Desarrollo, sus directivas, la Asamblea de Gobernadores o sus países miembros.

    facebook
    twitter
    youtube
    En este sitio web se utilizan cookies para optimizar la funcionalidad y brindar la mejor experiencia posible. Si continúa visitando otras páginas, se instalarán cookies en su navegador.
    Para obtener más información al respecto, haga clic aquí.
    x
    Manage consent

    Privacy Overview

    This website uses cookies to improve your experience while you navigate through the website. Out of these, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may affect your browsing experience.
    Necessary
    Always Enabled
    Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.
    Non-necessary
    Any cookies that may not be particularly necessary for the website to function and is used specifically to collect user personal data via analytics, ads, other embedded contents are termed as non-necessary cookies. It is mandatory to procure user consent prior to running these cookies on your website.
    SAVE & ACCEPT