Cómo la inteligencia artificial puede perpetuar las desigualdades históricas y qué hacer para evitarlo

2–4 minutos

De director técnico de IBM a fundador de una startup contra los sesgos

Calvin Lawrence, exdirector técnico de inteligencia artificial en IBM, dejó la empresa tras 25 años de carrera —incluidos cuatro años en el consejo de ética en IA— para fundar IntegrityFirst.ai en 2025. La nueva empresa ofrece la plataforma XTegrity, diseñada para identificar daños potenciales de los sistemas de IA, evaluar riesgos, medir la exposición financiera y empresarial, auditar modelos en funcionamiento y establecer una gobernanza continua.

Por qué documentar políticas no es suficiente

Lawrence explica que, durante su tiempo en IBM, las organizaciones ya contaban con muchos principios y marcos, pero carecían de herramientas prácticas para mostrar dónde un modelo puede causar perjuicio y qué se está haciendo al respecto. IntegrityFirst.ai llena este vacío al permitir que las empresas encuentren, prueben y corrijan problemas concretos, en lugar de limitarse a producir documentos.

Cuando la precisión no significa justicia

Un ejemplo notable citado por Lawrence es el de un sistema utilizado para predecir la reincidencia criminal. El modelo utilizaba el número de detenciones anteriores como indicador. Aunque el dato parece objetivo, refleja patrones de vigilancia policial desproporcionados: las comunidades más vigiladas acumulan más registros, lo que lleva al algoritmo a clasificarlas nuevamente como zonas de riesgo. En este caso, el sesgo no es un fallo del código, sino la transformación matemática de desigualdades históricas en decisiones futuras.

Hay que preguntarse: ¿para quién es necesario? ¿Para quién es incorrecto? ¿Y quién paga el precio cuando el modelo se equivoca?

Las pruebas de sesgo deben ir más allá de las métricas globales

Lawrence advierte que declarar que un sistema ha sido «probado contra sesgos» no tiene valor si no se especifica qué grupos fueron examinados, con qué datos y cuáles fueron las tasas de falsos positivos y falsos negativos por grupo. Recomienda analizar los resultados separados por raza, género, edad y otras características relevantes, y garantizar que se tomen medidas correctivas cuando se identifiquen disparidades.

La regulación aún está retrasada con respecto a la adopción

En Europa, partes significativas del AI Act entraron en vigor el 2 de agosto de 2026, imponiendo obligaciones de transparencia y requisitos para los modelos de propósito general. En Estados Unidos, la ausencia de una ley federal integral sobre IA deja un vacío regulatorio, mientras que en Brasil el Proyecto de Ley 2338/2023 avanza en el Congreso. En todos los casos, la velocidad de implementación de los sistemas de IA supera la capacidad de creación de normas, lo que exige que las propias empresas asuman la responsabilidad de gobernar sus tecnologías antes de que los reguladores intervengan.

Empoderando a la próxima generación de creadores

Además de su trabajo técnico, Lawrence fundó AI 4 Black Kids, una iniciativa que busca enseñar a niños negros no solo a usar la IA, sino a convertirse en autores y cuestionadores de la tecnología. La idea es que aprendan a programar, a pensar críticamente sobre las decisiones automatizadas y a considerar el emprendimiento como un camino hacia la autonomía.

Perspectiva para el futuro

Lawrence se declara esperanzado, pero no satisfecho. El debate sobre los sesgos y la rendición de cuentas ha avanzado, pero el ritmo de evolución de la IA, especialmente con los modelos generativos y autónomos, exige una gobernanza ágil y continua. El mensaje central es que la protección humana debe acompañar el progreso tecnológico, y no quedarse atrás.