Banco Interamericano de Desarrollo
facebook
twitter
youtube
linkedin
instagram
Abierto al PúblicoBeyond BordersCaribbean Development TrendsCiudades SosteniblesEnergía para el FuturoEnfoque EducaciónFactor TrabajoGente SaludableGestión fiscalGobernarteIdeas MatterIdeas que CuentanIdeaçãoImpactoIndustrias CreativasLa Maleta AbiertaMoviliblogMás Allá de las FronterasNegocios SosteniblesPrimeros PasosPuntos sobre la iSeguridad CiudadanaSostenibilidadVolvamos a la fuente¿Y si hablamos de igualdad?Inicio
Administración pública Agua y saneamiento Ciencia, tecnología e innovación Comercio e integración regional Conocimeinto Abierto Desarrollo infantil temprano Desarrollo urbano y vivienda Educación Energía Género y diversidad Impacto Industrias Creativas Medio ambiente, cambio climático y Salvaguardias Política y gestión fiscal Salud Sin Miedos Trabajo y pensiones
  • Skip to main content
  • Skip to secondary menu
  • Skip to primary sidebar
  • Skip to footer

Abierto al Público

  • INICIO
    • ¿Qué es el Conocimiento Abierto?
    • Sobre este blog
    • ¿Cómo suscribirse?
    • Pautas editoriales
  • CATEGORÍAS
    • Aprendizaje abierto
    • Código abierto
    • Datos abiertos
    • Gestión del conocimiento
    • Sistemas abiertos
  • AUTORES
  • Español

Los riesgos de la inteligencia artificial y algunas soluciones

December 7, 2022 by Cristina Pombo 2 Comentarios


6 minutos de lectura.

Los riesgos de la inteligencia artificial (IA) se han vuelto un tema cada vez más recurrente y relevante dado que estas tecnologías llegaron para quedarse y están presentes de mil maneras en nuestra vida diaria. En este artículo rescatamos información importante sobre la IA, los riesgos que a nivel social se han asociado a ella, así como recursos para mitigarlos.

Sobre la inteligencia artificial

La adopción de la IA continúa creciendo a un ritmo sin precedentes a nivel mundial, algunos números que dan cuenta de esto se comparten en el reporte del 2022 de McKinsey sobre tendencias tecnológicas:

  • Globalmente, la adopción de IA ha aumentado en un 56% entre 2015 y 2021.
  • La velocidad de entrenamiento de los modelos de IA aumentó en 94.4% desde 2018.
  • En comparación con el 2015, hay 30 veces más patentes presentadas usando esta tecnología.

La revolución que ha traído la inteligencia artificial se extiende también a la esfera social, ya que estas tecnologías pueden ayudar en el proceso de toma de decisiones y así generar políticas más igualitarias y eficientes. No solo eso, un uso responsable de la IA podría mejorar nuestros empleos, servicios de salud, calidad educativa, etc. Desde que se empezó a hablar del potencial para mejorar el bienestar social que tiene la IA, muchos gobiernos y emprendedores han dirigido su atención hacia la solución de un sinnúmero de problemas sociales y creación de políticas públicas efectivas.

¿Cuáles son los riesgos de la inteligencia artificial?

El uso de sistemas de inteligencia artificial en los procesos de toma de decisiones conlleva ciertos riesgos debido a los potenciales impactos directos o indirectos de la implementación de estas tecnologías. Algunos de estos riesgos incluyen:

  • La filtración de los datos personales que pueden comprometer el bienestar de las personas.
  • La extrema vigilancia y posterior manipulación por parte de las organizaciones privadas o gubernamentales con acceso a la información que alimenta a las tecnologías de inteligencia artificial.
  • Las “cámaras de eco” o “filtros burbuja” que se presentan cuando se está expuesto a las mismas ideas, noticias y/o hechos, lo que es un fenómeno común entre los usuarios de redes sociales y termina fortaleciendo sesgos preconcebidos. Esto es específicamente peligroso entre los tomadores de decisiones en cualquier área, pero aún más entre aquellos que trabajan en políticas públicas.
  • La subrepresentación en los modelos creados por la inteligencia artificial, especialmente en cuestiones relacionadas al acceso a la salud y a la educación.
  • Tener la información y no un plan de acción. Tan importante es contar con la información necesaria para abordar una problemática social, como haber desarrollado una hoja de ruta para solucionarla.

Afortunadamente, este tipo de riesgos pueden anticiparse y mitigarse si nos aseguramos de que los implicados en el desarrollo y uso de estas tecnologías establezcan protocolos claros para cada etapa de su ciclo de vida. Este enfoque facilita la organización del debate y la identificación de los riesgos específicos asociados a cada etapa, cuando, dada la naturaleza iterativa de la IA, un enfoque lineal no es adecuado.

Soluciones para los riesgos de la inteligencia artificial

A nivel regional, el BID, a través de su iniciativa fAIr LAC, ha colaborado con los gobiernos de América Latina y el Caribe (ALC) para promover el uso y la adopción responsable de la IA. En respuesta al trabajo realizado con el sector público y privado, fAIr LAC también ha centrado esfuerzos en el desarrollo de recursos para generar consciencia sobre los beneficios potenciales y también sobre los grandes riesgos que conlleva la inteligencia artificial. Estos recursos incluyen, no sólo documentos generales, sino también herramientas específicas para llevar los principios de estas tecnologías a la práctica.

El más reciente recurso es fAIr LAC a la mano, donde se encuentran 5 herramientas abiertas y disponibles para quienes lideren proyectos que usan IA y para equipos que directamente desarrollen soluciones y quieran cumplir con principios éticos y de reducción de riesgos:

  1. Una autoevaluación ética para sistemas desarrollados en agencias de gobierno. Esta herramienta es un cuestionario que revisa los aspectos más importantes que se deben tener en cuenta para mitigar potenciales riesgos éticos tanto en la fase de diseño como en el desarrollo de una solución de IA.  
  2. Como espejo, una autoevaluación para el ecosistema emprendedor dirigido tanto empresas que usan IA en sus servicios como a las que lo desarrollan.
  3. Un manual para quien esté dirigiendo, desde una entidad pública, un proyecto que use sistemas de soporte de decisión. Es una guía práctica que acompaña a los responsables de formular proyectos con IA en las diferentes etapas de decisión, y también los alerta sobre los posibles riesgos éticos asociados que deben tener en cuenta durante el diseño, desarrollo y validación del modelo, así como en su posterior despliegue y monitoreo.
  4. Un manual para el equipo técnico encargado del desarrollo del modelo. Utilizando el ciclo de vida de los sistemas de IA como marco de análisis, el manual ofrece orientación técnica a los directores de proyecto, así como a los equipos desarrolladores del modelo (a los que llamamos el equipo técnico), para mejorar sus procesos de toma de decisiones y sus resultados en la construcción de una solución de IA.
  5. Y finalmente, pensando en el despliegue de una solución de IA y en la necesidad de rendición de cuentas, compartimos la Guía de auditoría algorítmica. En ella se resaltan las implicaciones y consecuencias que tiene el uso de sistemas automatizados en la toma o soporte de las decisiones que afectan a las personas, con el fin de entender la necesidad de implementar una auditoría y el proceso que esta conlleva.

Todo complementado con el MOOC “¿Cómo hacer uso responsable de la inteligencia artificial?”, mismo que está pensado para funcionarios públicos que utilizan por primera vez estas tecnologías para responder a un problema de política pública. Es importante destacar que las herramientas siguen un proceso vivo de iteración y calibración a través de la práctica, y tienen siempre al ser humano en el centro. Solamente así aseguramos que efectivamente estamos promoviendo el uso ético de la IA que podrá mejorar vidas.

¿Conoces de algún proyecto que esté utilizando la IA para promover el bienestar social? Comparte tu experiencia en la sección de comentarios más abajo. 

Por Cristina Pombo, coordinadora de fAIr LAC dentro del BID.


Archivado Bajo:Gestión del conocimiento Etiquetado con:Inteligencia Artificial, Recursos accionables

Cristina Pombo

Cristina es economista con énfasis en política social trabajando en la intersección entre la tecnología y el gobierno, la ética y la IA. Asesora al gerente y a los jefes de división del Sector Social del BID en temas de operaciones y de transformación digital en salud, educación, protección social, mercados laborales, género, diversidad y migración. Desde ahí, coordina iniciativas que aprovechan las tecnologías digitales para proveer servicios sociales más eficientes, equitativos, éticos y con mayor impacto en la región, como fAIr LAC, la primera alianza público-privada para un uso responsable de la inteligencia artificial y la tecnología. Cristina es miembro de la Red de Expertos de la OCDE en IA y del AI Advisory Board del instituto experiencial de inteligencia artificial de la Universidad de Northeastern. Experta en transformación digital en Gobiernos por la Harvard Kennedy School y en Ética de Datos por la Universidad de Michigan.

Reader Interactions

Comments

  1. Diego Leopoldo Mejía Romo Dice

    March 1, 2023 at 1:30 pm

    Saludos Cristina

    Excelente artículo, la temática tratada por su desconocimiento o poco conocimiento a veces causa miedo, sin embargo es una herramienta fabulosa que trabajada con ética aportará a la solución de varias problemáticas, tanto sociales como en el campo técnico.
    Pero si me surgen dudas, como: que pasará con nuestra privacidad?, ¿Cuál es el límite de la IA?, ¿Qué pasará con la docencia?, son algunas de las preguntas que quisiera que nos comentes.

    Reply
  2. Jorge Carpio Dice

    March 1, 2023 at 2:01 pm

    Excelente artículo para exponer los riesgos de la IA. Creo que se podrían ampliar las alternativas de control y regulación facilitando la participación ciudadana. Sdos.

    Reply

Leave a Reply Cancel reply

Your email address will not be published. Required fields are marked *

Primary Sidebar

SIGUENOS

Suscríbete

Sobre este blog

Podemos describir al conocimiento abierto como aquel conocimiento que puede ser usado, reutilizado y compartido sin restricciones, ya que cuenta con las características tanto legales como tecnológicas para ser accedido por cualquier persona, en cualquier momento y en cualquier lugar del mundo.

En el blog "Abierto al Público" exploramos los temas, recursos, iniciativas e impacto de la apertura de conocimiento a nivel global, prestando especial atención a lo que sucede en la región de América Latina y el Caribe. También abordamos los esfuerzos que lleva a cabo el Banco Interamericano de Desarrollo por apoyar la diseminación del conocimiento abierto y accionable que constantemente genera esta organización.

Buscar

Explorar temas

AcademiaBID Acceso abierto Acceso a la información Análisis de datos Análisis de texto Big Data Cambio climático Ciencia Abierta Conceptos clave Conocimiento Abierto Coronavirus Creative Commons Credenciales digitales Crowdsourcing Código para el Desarrollo Datos geoespaciales Diseño instruccional El Rincón de Publicación Emprendimiento Eventos Gobierno abierto Género y diversidad Hackatones Inclusión digital Innovación abierta Inteligencia Artificial Lecciones aprendidas Metodologías MOOC Más leídos Números para el Desarrollo Objetivos de Desarrollo Sostenible Participación ciudadana Paso a paso Periodismo de datos Procesamiento del Lenguaje Natural Productos de conocimiento Protección de datos Proyectos de desarrollo Recursos accionables Solidaridad Trabajo en equipo Visualización de datos

Publicaciones similares

  • Inteligencia artificial: la oportunidad es ahora
  • Inteligencia artificial: conceptos básicos y aplicaciones en el desarrollo
  • Colaboremos para enfrentar los riesgos éticos de la inteligencia artificial
  • ¿Quieres automatizar un servicio social con inteligencia artificial? 4 consideraciones clave
  • ¿Es la inteligencia artificial abierta una tendencia en alza?

Footer

Banco Interamericano de Desarrollo
facebook
twitter
youtube
youtube
youtube

Blogs escritos por empleados del BID:

Copyright © Banco Interamericano de Desarrollo ("BID"). Este trabajo está disponible bajo los términos de una licencia Creative Commons IGO 3.0 Reconocimiento-No comercial-Sin Obras Derivadas. (CC-IGO 3.0 BY-NC-ND) y pueden reproducirse con la debida atribución al BID y para cualquier uso no comercial. No se permite ningún trabajo derivado. Cualquier disputa relacionada con el uso de las obras del BID que no se pueda resolver de manera amistosa se someterá a arbitraje de conformidad con el reglamento de la CNUDMI. El uso del nombre del BID para cualquier otro propósito que no sea la atribución, y el uso del logotipo del BID estarán sujetos a un acuerdo de licencia escrito por separado entre el BID y el usuario y no está autorizado como parte de esta licencia CC-IGO. Tenga en cuenta que el enlace proporcionado anteriormente incluye términos y condiciones adicionales de la licencia.


Blogs escritos por autores externos:

Para preguntas relacionadas con los derechos de autor para autores que no son empleados del BID, por favor complete el formulario de contacto de este blog.

Las opiniones expresadas en este blog son las de los autores y no necesariamente reflejan las opiniones del BID, su Directorio Ejecutivo o los países que representan.

Atribución: además de otorgar la atribución al respectivo autor y propietario de los derechos de autor, según proceda, le agradeceríamos que incluyera un enlace que remita al sitio web de los blogs del BID.



Política de privacidad

Copyright © 2023 · Magazine Pro on Genesis Framework · WordPress · Log in

Banco Interamericano de Desarrollo

Aviso Legal

Las opiniones expresadas en estos blogs son las de los autores y no necesariamente reflejan las opiniones del Banco Interamericano de Desarrollo, sus directivas, la Asamblea de Gobernadores o sus países miembros.

facebook
twitter
youtube
En este sitio web se utilizan cookies para optimizar la funcionalidad y brindar la mejor experiencia posible. Si continúa visitando otras páginas, se instalarán cookies en su navegador.
Para obtener más información al respecto, haga clic aquí.
x
Manage consent

Privacy Overview

This website uses cookies to improve your experience while you navigate through the website. Out of these, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may affect your browsing experience.
Necessary
Always Enabled

Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.

Non-necessary

Any cookies that may not be particularly necessary for the website to function and is used specifically to collect user personal data via analytics, ads, other embedded contents are termed as non-necessary cookies. It is mandatory to procure user consent prior to running these cookies on your website.

SAVE & ACCEPT