Banco Interamericano de Desarrollo
facebook
twitter
youtube
linkedin
instagram
Abierto al públicoBeyond BordersCaribbean Development TrendsCiudades SosteniblesEnergía para el FuturoEnfoque EducaciónFactor TrabajoGente SaludableGestión fiscalGobernarteIdeas MatterIdeas que CuentanIdeaçãoImpactoKreatopolisLa Maleta AbiertaMoviliblogMás Allá de las FronterasNegocios SosteniblesPrimeros PasosPuntos sobre la iSeguridad CiudadanaSostenibilidadVolvamos a la fuente ¿Y si hablamos de igualdad?Inicio
Administración pública Agua y saneamiento Ciencia, tecnología e innovación Comercio e integración regional Conocimeinto Abierto Desarrollo infantil temprano Desarrollo urbano y vivienda Educación Energía Género y diversidad Impacto Industrias Creativas Medio ambiente, cambio climático y Salvaguardias Política y gestión fiscal Salud Sin Miedos Trabajo y pensiones
  • Skip to main content
  • Skip to secondary menu
  • Skip to primary sidebar
  • Skip to footer

¿Y si hablamos de igualdad?

  • INICIO
  • CATEGORÍAS
    • Diversidad
    • Género
  • Autores
  • Español
tres puntos sobre sesgos en la tecnología

Tres puntos sobre sesgos en la tecnología

July 21, 2020 Por Cristina Pombo Deja un comentario


Si no eres afrodescendiente probablemente no lo sabes, pero el reconocimiento facial falla especialmente al reconocer a personas afro. Por eso creo que me llamó tanto la atención cuando Google publicó un video para promocionar el Píxel 4, en el que aparece una mujer negra en una habitación oscura. Ella aproxima su cara al teléfono y este se desbloquea.

Por supuesto lo llamativo no era el desbloqueo, esa tecnología esta presente desde hace años. Lo novedoso era que lo hiciera con una mujer negra. Y el video parece decir que Google ha solucionado el problema. Lo que supongo que son buenas noticias, pero también nos deja unas reflexiones para el futuro, si es que decidimos continuar usando esta tecnología, que no está muy claro de momento. Recientemente, Amazon, IBM y Microsoft han decidido restringir o detener la venta de tecnología de reconocimiento facial. Ciudades con San Francisco o  Cambridge, donde esta Harvard y el MIT, consideradas el corazón de la tecnología, también han prohibido su uso.

Algunas consideraciones:

  1. En la tecnología hay sesgos. Si no pueden reconocer las caras de mujeres afrodescendientes es porque no fueron incluidas en la base de datos para entrenar al algoritmo. Si no fueron incluidas es porque a los ingenieros no se les ocurrió. Y si no se les ocurrió es porque no viven en un “mundo” en el que sean representativas.
  2. ¿Como van a crear las bases de datos ahora? ¿Van a salir a escanear caras de personas de poblaciones diversas? ¿Suena extraño verdad? Medio distópico… No estoy en contra de que lo hagan, por el contrario, la tecnología debe ser inclusiva, pero hay que ser muy claros al determinar: 1) qué están recolectando, 2) de qué forma, 3) con qué consentimiento y a qué precio. Algo parecido a lo que se hace con las encuestas cuando se utilizan para fines científicos.
  3. Las formas son importantes y la preocupación justificada. Las poblaciones étnicas han sido vulneradas en demasiadas ocasiones. Esclavitud, encarcelamiento masivo, Jim Crow, experimentos médicos, hasta los episodios que describe Vargas Llosa en Tiempos Recios. Desde luego no sería la primera vez que se utilizan minorías para perfeccionar nuevas técnicas o tecnologías.

Ya llevamos hablando unos años de tecnología ética o justa. El del reconocimiento facial es un buen ejemplo de por qué esto se hace necesario. Para poder utilizar esta tecnología debemos hacerlo de una forma ética. Hace dos semanas habría terminado así este blog. Pero hace solo unos días Pratyusha Kalluri de Stanford y fundadora de la Radical AI Network publicó una columna en Nature en la que pide que se deje de hablar de tecnología justa o ética. Pide una aproximación mucho más radical, les cito:

Don’t ask if artificial intelligence is good or fair, ask how it shifts power

Pratyusha Kalluri

Propone que aquellos que tienen más posibilidades de ser perjudicados por la IA; es decir, las mujeres, los afrodescendientes, los pueblos indígenas, las personas con discapacidad y las personas con menores ingresos, participen en el diseño. No es sobre tecnología ética, es sobre darle el poder a los que están más afectados por su implementación. Les invito a que lo lean y si tienen ideas sobre como llevar esta aproximación a nuestra región escríbannos a fairlac@iadb.org.


Archivado Bajo:Género Etiquetado con:afrodescendientes, AI, Género, tecnología

Cristina Pombo

Cristina é assessora do Gerente do Setor Social do BID na Estratégia de Economia Digital, que utiliza as tecnologias digitais para oferecer serviços sociais mais eficientes para a região da América Latina e Caribe. Ela também já assessorou a administração do Escritório de Relações Externas e a Vice-Presidência para os Países e foi especialista no Escritório de Planejamento Estratégico e Eficácia. Antes de ingressar no Banco, foi consultora em projetos de inovação juvenil para a Federação Colombiana de Cafeicultores e consultora acadêmica do Departamento de Economia da Universidad del Rosario.

Reader Interactions

Leave a Reply Cancel reply

Your email address will not be published. Required fields are marked *

Primary Sidebar

SIGUENOS

Subscribe

Buscar

¿Y si hablamos de igualdad?

Porque el desarrollo sostenible no puede lograrse sin igualdad y diversidad de género, compartimos ideas y soluciones para América Latina y el Caribe.

Tweets

Tweets by BID_Igualdad

Related posts

  • ¿Cómo aprovechar la inteligencia artificial sin perpetuar sesgos de género?
  • Brechas digitales de género en tiempos de COVID-19
  • Tecnologías digitales: pieza clave para la inclusión de personas con discapacidad
  • El poder de construir o destruir de los medios de comunicación
  • 5 blog posts más leídos sobre diversidad

ETIQUETAS

afrodescendientes brechas Caribe ciencias del comportamiento Coronavirus COVID-19 cuidado Cultura datos deporte paralimpico Desarrollo desarrollo con identidad Desarrollo Económico Indígena desigualdad Diversidad Día de los Pueblos Indígenas economía del comportamiento educación empleo informal Empresariado Indígena Futuro del trabajo Género Habilidades IDAHOTB igualdad igualdad de género inclusividad inclusión Lenguas indígenas LGTBQ+ liderazgo femenino masculinidades mercado laboral movilidad Pandemia personas con discapacidad políticas públicas post-pandemia pueblos indígenas STEM tecnología Trabajo doméstico violencia contra la mujer Violencia de género Violencia de Pareja Íntima

Footer

Banco Interamericano de Desarrollo
facebook
twitter
youtube
youtube
youtube

Google Analytics

Blogs escritos por empleados del BID:

Copyright © Banco Interamericano de Desarrollo ("BID"). Este trabajo está disponible bajo los términos de una licencia Creative Commons IGO 3.0 Reconocimiento-No comercial-Sin Obras Derivadas. (CC-IGO 3.0 BY-NC-ND) y pueden reproducirse con la debida atribución al BID y para cualquier uso no comercial. No se permite ningún trabajo derivado. Cualquier disputa relacionada con el uso de las obras del BID que no se pueda resolver de manera amistosa se someterá a arbitraje de conformidad con el reglamento de la CNUDMI. El uso del nombre del BID para cualquier otro propósito que no sea la atribución, y el uso del logotipo del BID estarán sujetos a un acuerdo de licencia escrito por separado entre el BID y el usuario y no está autorizado como parte de esta licencia CC-IGO. Tenga en cuenta que el enlace proporcionado anteriormente incluye términos y condiciones adicionales de la licencia.


Blogs escritos por autores externos:

Para preguntas relacionadas con los derechos de autor para autores que no son empleados del BID, por favor complete el formulario de contacto de este blog.

Las opiniones expresadas en este blog son las de los autores y no necesariamente reflejan las opiniones del BID, su Directorio Ejecutivo o los países que representan.

Atribución: además de otorgar la atribución al respectivo autor y propietario de los derechos de autor, según proceda, le agradeceríamos que incluyera un enlace que remita al sitio web de los blogs del BID.



Política de privacidad

Derechos de autor © 2021 · Magazine Pro en Genesis Framework · WordPress · Log in

Banco Interamericano de Desarrollo

Aviso Legal

Las opiniones expresadas en estos blogs son las de los autores y no necesariamente reflejan las opiniones del Banco Interamericano de Desarrollo, sus directivas, la Asamblea de Gobernadores o sus países miembros.

facebook
twitter
youtube