Pruebas de equidad
Métricas por grupo y subgrupo, análisis de umbrales, revisión de variables proxy y documentación de compensaciones aceptadas.
Riesgo, Ética y FATE
Ética que produce evidencias, no declaraciones
FATE —Fairness, Accountability, Transparency and Ethics— usado como lente de trabajo: criterios medibles, decisiones documentadas, supervisión humana y resultados revisables.
¿Qué significa FATE en inteligencia artificial?
FATE significa equidad, rendición de cuentas, transparencia y ética. La equidad se refiere a resultados dispares entre grupos y a las métricas elegidas para detectarlos. La rendición de cuentas define quién responde por las decisiones de un modelo y cómo queda registrado. La transparencia cubre lo que se revela sobre datos, finalidad, limitaciones y lógica a usuarios, auditores y personas afectadas. La ética aborda la aceptabilidad del propio caso de uso, incluidos los casos en que la decisión correcta es no desplegar.
Qué evaluamos
Rendición de cuentas
Derechos de decisión, registros de aprobación, escalamiento y la cadena entre la salida del modelo y la responsabilidad humana.
Transparencia
Fichas de modelo, documentación de conjuntos de datos, avisos a usuarios y explicaciones adecuadas a cada audiencia.
Peritaje de sesgo
Investigación forense de presunta discriminación algorítmica, con método reproducible e informe técnico.
Preguntas frecuentes
¿Se puede eliminar el sesgo de un sistema de IA?
No. El sesgo puede medirse, reducirse y declararse, pero no eliminarse, porque las definiciones de equidad entran en conflicto matemáticamente y todo modelo refleja los datos y las decisiones que lo originaron. La práctica responsable consiste en elegir métricas adecuadas, probar con regularidad, documentar las compensaciones y mantener supervisión humana donde el impacto sobre personas sea relevante.
¿Cuándo se necesita un peritaje de sesgo algorítmico?
Normalmente tras una denuncia, una consulta regulatoria, un litigio o una alerta interna que sugiera que una decisión automatizada produjo resultados discriminatorios. El trabajo reconstruye cómo se generó la decisión, prueba el impacto dispar y documenta los hallazgos en un formato utilizable en procesos legales y regulatorios.
Evalúe sus modelos con criterios FATE
Revisión estructurada de equidad, transparencia y rendición de cuentas en sus casos de uso de mayor impacto.