Lo esencial para una empresa
Durban+25 convierte el sesgo algorítmico en una pregunta de gobernanza, no solo de tecnología
El riesgo escala
Un prejuicio humano puede afectar una decisión. Un sistema automatizado puede repetir el mismo patrón cientos o miles de veces.
Ecuador ya tiene reglas
Protección de datos, decisiones automatizadas, gestión de riesgos y revisión humana ya forman parte del entorno regulatorio ecuatoriano.
La inclusión debe auditarse
Una política DEI pierde eficacia si el software de selección, evaluación o atención reproduce barreras que la empresa intenta eliminar.
Hace 25 años, en Durban, Sudáfrica, la comunidad internacional adoptó la Declaración y Programa de Acción de Durban contra el racismo, la discriminación racial, la xenofobia y las formas conexas de intolerancia. El 28 de septiembre de 2026, la Asamblea General de las Naciones Unidas conmemoró ese aniversario con una reunión de alto nivel en Nueva York.
El encuentro tuvo como eje movilizar apoyo público para la aplicación plena y efectiva de los compromisos de Durban. Sin embargo, para las empresas existe un componente que merece especial atención: la inteligencia artificial y el riesgo de que sistemas digitales reproduzcan desigualdades estructurales.
La idea tiene implicaciones directas para áreas de talento humano, compliance, legal, tecnología, experiencia de cliente y protección de datos. El riesgo discriminatorio ya no reside exclusivamente en lo que decide una persona. También puede estar incorporado en los datos, las reglas, los modelos y las variables con las que una herramienta automatizada recomienda, clasifica o descarta.
Una empresa puede tener una política de inclusión ejemplar y, al mismo tiempo, utilizar un sistema que reproduzca silenciosamente las barreras que esa política intenta eliminar.
01 · Naciones Unidas
Qué ocurrió el 28 de septiembre en Durban+25
La reunión de alto nivel se celebró en la sede de Naciones Unidas en Nueva York durante el lunes 28 de septiembre de 2026. La agenda incluyó un segmento de apertura, debate general de los Estados y un panel interactivo dedicado al liderazgo juvenil para integrar el antirracismo en las decisiones cotidianas, las instituciones, las políticas públicas y las tecnologías.
El borrador final de la declaración política había sido transmitido a los Estados el 4 de septiembre de 2026. Al cierre de esta edición, el 29 de septiembre, la página oficial de la Presidencia de la Asamblea General continúa identificando ese documento como Final draft of the political declaration y señala que el resultado de la reunión será publicado cuando sea emitido.
Precisión editorial
Por esa razón, este análisis se refiere al borrador final transmitido el 4 de septiembre y no presenta ese texto como una declaración ya adoptada.
02 · La nueva frontera
Lo nuevo: la inteligencia artificial entra en la conversación antidiscriminación
Desde la perspectiva de la gobernanza digital, tres apartados del borrador final resultan especialmente relevantes para empresas y organizaciones.
Párrafo 10
Expresa preocupación por el uso de internet y de sistemas de inteligencia artificial para propagar racismo y odio, y subraya la necesidad de respetar los derechos humanos en los entornos digitales.
Párrafo 11
Advierte que sistemas de IA diseñados, desarrollados o utilizados sin salvaguardas adecuadas pueden reforzar desigualdades y sesgos, además de generar riesgos para la privacidad.
Párrafo 21
Plantea promover marcos y estándares destinados a identificar y mitigar sesgos y discriminación, incluidos los que pueden estar presentes en conjuntos de datos y algoritmos.
Automatizar una decisión no la vuelve automáticamente objetiva. Un sistema que filtra hojas de vida, una herramienta que ordena candidaturas, un algoritmo de evaluación de desempeño, un motor que asigna niveles de riesgo o un chatbot puede reproducir diferencias ya presentes en sus datos o reglas.
03 · Interseccionalidad
El vacío que las empresas no deberían reproducir
Desde una perspectiva de género, diversidad y desarrollo, el borrador presenta una ausencia que merece análisis. El párrafo 4 enumera diversos grupos afectados por racismo, xenofobia y formas conexas de intolerancia: personas africanas y afrodescendientes, asiáticas, indígenas, romaníes, minorías religiosas, mujeres, niñez, migrantes, personas refugiadas, personas con discapacidad, personas mayores y jóvenes, entre otros.
La orientación sexual y la identidad de género no aparecen expresamente en esa enumeración.
Esto no significa que las personas LGBTIQ+ queden fuera de la protección general de los derechos humanos o de las obligaciones contra la discriminación. Sí implica, sin embargo, una menor visibilidad de determinadas intersecciones.
La pregunta interseccional
¿Qué ocurre cuando la persona afectada por una decisión automatizada es, al mismo tiempo, afrodescendiente, trans, migrante, indígena, lesbiana, gay, bisexual o no binaria?
El propio borrador, en su párrafo 22, llama al sector privado a intensificar sus esfuerzos frente a la discriminación. Para las empresas de Pride Connection Ecuador, ese llamado puede convertirse en una pregunta operativa: ¿nuestros sistemas digitales están alineados con nuestros compromisos de inclusión?
04 · Ecuador
Por qué esto importa jurídicamente a las empresas en Ecuador
El artículo 11, numeral 2, de la Constitución de la República establece el principio de igualdad y prohíbe la discriminación, entre otras razones, por etnia, lugar de nacimiento, sexo, identidad de género, identidad cultural, condición socioeconómica, condición migratoria, orientación sexual, estado de salud y discapacidad.
La Ley Orgánica de Protección de Datos Personales reconoce derechos específicos frente a decisiones automatizadas y elaboración de perfiles cuando se producen efectos relevantes sobre las personas.
En 2026, la Superintendencia de Protección de Datos Personales expidió la Norma General para la Garantía del Derecho de Protección de Datos Personales en el Uso de Sistemas de Inteligencia Artificial, posteriormente reformada en septiembre de 2026. Esto refuerza la necesidad de que las organizaciones analicen los riesgos de los sistemas de IA cuando tratan datos personales.
Implicación empresarial
Para una empresa que utiliza IA en reclutamiento, evaluación, perfiles de clientes, biometría o atención automatizada, el tema ya no pertenece únicamente a reputación o DEI. También pertenece a protección de datos, gestión de riesgos y cumplimiento.
05 · Talento humano
Reclutamiento automatizado: donde el riesgo se vuelve concreto
Uno de los escenarios más inmediatos se encuentra en los procesos de selección. Los sistemas actuales pueden buscar perfiles, ordenar hojas de vida, inferir afinidades, puntuar candidaturas, analizar entrevistas, identificar palabras clave o recomendar quién avanza a una siguiente etapa.
El problema aparece cuando el modelo aprende a partir de decisiones históricas sin evaluar primero si esas decisiones fueron equitativas.
Si durante años una organización contrató principalmente a determinado grupo, un modelo entrenado para reconocer características asociadas al “candidato exitoso” puede aprender correlaciones que favorezcan perfiles similares. Ni siquiera es indispensable introducir explícitamente variables como raza, género u orientación sexual: otras variables pueden funcionar como aproximaciones indirectas.
Pride Connection Ecuador ya ha abordado este riesgo en su análisis ¿Puede una IA discriminar talento? El nuevo reto para las empresas inclusivas.
06 · De la declaración a la gestión
Cinco acciones que las empresas de Pride Connection Ecuador pueden iniciar ahora
- Inventariar dónde se usa automatización. Identifique filtros de CV, ranking de candidaturas, evaluación de desempeño, chatbots, perfilamiento, biometría, scoring o sistemas de recomendación.
- Exigir evidencia a los proveedores. Solicite información sobre finalidad, datos, riesgos, controles contra sesgos, seguridad y supervisión humana.
- Preservar revisión humana significativa. Defina quién puede revisar y revertir decisiones relevantes y cómo una persona puede cuestionarlas.
- Medir resultados, no solo intenciones. Analice diferencias de resultados de forma legítima, necesaria y compatible con la normativa de protección de datos.
- Capacitar conjuntamente a DEI, legal, datos y tecnología. El sesgo algorítmico no debe quedar únicamente en manos del equipo técnico.
07 · Conclusión
La próxima frontera de la inclusión también es algorítmica
Durban+25 deja una señal que las empresas no deberían pasar por alto. La discriminación contemporánea no siempre aparece como una decisión abiertamente hostil. Puede esconderse dentro de procedimientos que parecen neutrales, datos históricos, modelos de puntuación y herramientas contratadas a terceros.
Las empresas no necesitan esperar a que cada marco internacional nombre todas esas intersecciones para actuar. Pueden incorporarlas en sus políticas, evaluaciones, procesos de contratación, compras tecnológicas y sistemas de gobernanza desde ahora.
La pregunta ya no es únicamente si una empresa discrimina. También es si puede demostrar que las herramientas que utiliza no están automatizando la discriminación.
Pride Connection Ecuador
¿Su empresa sabe dónde está utilizando IA y cómo comprobar si sus resultados son inclusivos?
Pride Connection Ecuador promueve espacios de trabajo inclusivos y una gestión empresarial de la diversidad basada en acciones verificables.
Preguntas frecuentes
Sesgo algorítmico, IA y empresas en Ecuador
¿Qué es el sesgo algorítmico?
Es una diferencia sistemática en los resultados de un sistema automatizado que puede perjudicar o favorecer injustificadamente a determinados grupos. Puede originarse en los datos, variables seleccionadas, diseño del modelo, objetivos, contexto de uso o decisiones humanas que rodean al sistema.
¿Qué debería pedir una empresa a un proveedor de IA para recursos humanos?
Información suficiente sobre funcionamiento, finalidad, datos utilizados, riesgos, pruebas de desempeño, posibles sesgos, controles, seguridad, supervisión humana, gestión de incidentes y responsabilidades contractuales.
¿Durban+25 crea nuevas obligaciones legales para las empresas ecuatorianas?
La reunión internacional no sustituye la legislación ecuatoriana ni convierte por sí sola el borrador analizado en una nueva ley empresarial. Su relevancia está en consolidar una tendencia internacional que incorpora los riesgos tecnológicos y algorítmicos dentro de las políticas de igualdad y no discriminación.
Fuentes y documentos
Referencias
1. Naciones Unidas, Presidencia de la Asamblea General. High-level Meeting to Commemorate the 25th Anniversary of the Adoption of the Durban Declaration and Programme of Action. Consultar documento
2. Naciones Unidas. Provisional Programme, 28 September 2026. Consultar PDF
3. Naciones Unidas. Final draft of the Political Declaration, transmitido el 4 de septiembre de 2026. Consultar PDF
4. Asamblea Nacional del Ecuador. Constitución de la República del Ecuador, artículo 11, numeral 2.
5. Ecuador. Ley Orgánica de Protección de Datos Personales.
6. Superintendencia de Protección de Datos Personales. Normativa sobre protección de datos personales en el uso de sistemas de inteligencia artificial.
