La inteligencia artificial (IA), con sus máquinas admirables y autodidactas, transformará a América Latina y el Caribe. No sucederá de la noche a la mañana, pero es inevitable. Y la región debe garantizar que existan leyes y regulaciones para que la IA aumente la productividad sin afectar la privacidad o incitar a la discriminación.
No hay tiempo que perder. Aunque la IA en la región apenas está dando sus primeros pasos, ya está teniendo repercusiones. La automatización y los robots están transformando los procesos industriales en sectores como la producción automotriz y las industrias químicas y de plásticos. Las personas en toda la región están interactuando con interlocutores automáticos o bots conversacionales, cada vez que realizan transacciones con bancos, comercios minoristas y líneas aéreas. En las granjas se está usando la IA para mejorar el manejo de siembra y cultivos; y según un reciente informe y artículo de Accenture, una compañía de consultoría global, una empresa chilena ha desarrollado un sistema automatizado que puede leer y calificar hojas de vida, realizar exámenes, e incluso entrevistar aspirantes por video.
Los países de América Latina y el Caribe aún están muy rezagados en este sentido frente a las economías avanzadas, donde la IA está siendo muy utilizada para analizar datos financieros, evaluar préstamos, organizar embalaje y envíos e identificar delincuentes. Y muy probablemente, en un futuro no muy lejano, conducir los vehículos de las personas.
Pero es casi seguro que la IA introducirá un cambio revolucionario cuando se instale por completo en nuestra región, como se señala en un reciente informe del BID sobre el futuro del trabajo.
Problemas de privacidad
Entretanto, se avecinan grandes retos éticos y legales, los cuales están relacionados tanto con la IA en sí misma como con el ecosistema de información que la rodea, incluyendo la explosión de los datos masivos (o big data) que habilita los algoritmos en computadoras y máquinas interconectadas para ejecutar tareas, tomar decisiones e incluso recopilar más datos mediante el aprendizaje automático que es un componente esencial de la IA.
El asunto clave de los recientes escándalos de privacidad en torno a los datos masivos en Estados Unidos tiene que ver con el uso no autorizado de información personal de cuentas de Facebook con el objetivo de crear perfiles electorales y enviar mensajes políticos. Esta situación ha suscitado preocupación con respecto a la posibilidad de que nuestra información privada también esté siendo utilizada indebidamente en materia de préstamos, empleo y vivienda.
Además, una vez que esta información sea incorporada en los algoritmos que permiten que la IA funcione, es posible que no tengamos manera de corregir errores: podría resultar muy difícil ubicarlos dentro de la complejidad de un algoritmo. A medida que los gobiernos y las empresas utilizan cada vez más la IA para tomar decisiones en su nombre, es posible que descubramos que nos están negando beneficios con base en información inexacta y que no tenemos forma de apelar.
Los sistemas automatizados y los sesgos
Por lo tanto, existe una gran posibilidad de que estos sistemas automatizados se vean filtrados por el sesgo y la parcialidad. Por ejemplo, los departamentos de policía en Estados Unidos no solo están utilizando las fotos de prontuario, sino también las bases de datos de fotografías de las licencias de conducir y los carnets de identidad para buscar delincuentes, usando una combinación de cámaras de vigilancia y software supuestamente expertos en reconocimiento facial.
Según un informe del Centro de Privacidad y Tecnología de la Facultad de Derecho de Georgetown, actualmente cerca de la mitad de los adultos en Estados Unidos tienen su fotografía registrada en una red de reconocimiento facial de delincuentes. Pero el uso desproporcionado de las fotos de afroamericanos en estos sistemas aumenta la posibilidad de su detención equivocada. Asimismo, se ha reportado ampliamente que la tecnología de reconocimiento facial puede fallar a la hora de distinguir con precisión los rasgos de caras afroamericanas. Un estudio reciente analizó distintas aplicaciones de reconocimiento facial, y encontró que la tasa de error en dichos sistemas para mujeres de aspectos más oscuros varía entre el 21% y el 35% en comparación con el 1% para hombres de tez más clara.
Dichas injusticias podrían multiplicarse en todos los aspectos de la vida cotidiana. ¿Cómo evitar que las empresas excluyan a homosexuales o transexuales de sus filas de empleo usando información de acceso público sobre ellos y dada la facilidad con la que pueden identificarlos a través de reconocimiento facial? ¿O que utilicen software para detectar mentiras en posibles clientes y luego negarles los servicios con base en una apreciación errónea?
La rendición de cuentas es un elemento clave
América Latina y el Caribe hará bien en establecer medidas para evitar estos usos, haciendo énfasis en la rendición de cuentas. Eso significa leyes y regulaciones que protejan la privacidad y limiten la forma como las empresas y el gobierno pueden usar la IA. Significa diseñar códigos de ética empresarial específicamente relacionados con la IA. Y, probablemente implica, involucrar a personas de las minorías y una amplia gama de disciplinas como la psicología, la sociología y el derecho, para auditar algoritmos y garantizar que su diseño no termine incorporando prácticas discriminatorias en las máquinas inteligentes.
Por último, esas protecciones serán importantes no solo a nivel interno sino en el comercio internacional. El 25 de mayo, la Unión Europea puso en vigor nuevas regulaciones dando a los ciudadanos mayor control sobre su información personal y la exportación de datos fuera de Europa. Mientras que los gobiernos en las economías avanzadas actúan para hacer frente a estos y otros desafíos relacionados con los datos masivos y la IA, los países de América Latina y el Caribe podrían tener dificultades para homogeneizar sus regulaciones en función del comercio, si no toman medidas tempranas para garantizar sistemas justos y de rendición de cuentas. Eso podría significarles su desvinculación de mercados prometedores.
La IA tiene un enorme potencial de aumentar el crecimiento en América Latina y el Caribe, siempre y cuando los gobiernos eduquen lo suficiente a sus ciudadanos para que la aprovechen. Pero también es deber de los gobiernos garantizar que la IA proteja la privacidad y fomente las metas de inclusión e imparcialidad a largo plazo. Tenemos una ventana de tiempo para trabajar en ello, pero no es infinita
Muy interesante. Creo que el único riesgo de la I.A es la privacidad y mantener todo bajo control.
Muy interesante. Creo que el único riesgo de la I.A es la privacidad y mantener todo bajo control.
Este tipo de tecnología debío ser utilizada hace muchos años en El Salvador; para evitar las altas tasas de delincuencia en este pais; como todo cambio trae aspectos positivos y negativos pero se deben de medir si los resultados son favorables a la mayoria de la población se deben de ejecutar.
Ojala podamos implementar esta tecnología en toda la América, el único problema es la privacidad. Allí radica todo.