William & Mary crea una minor que une filosofía y ética de IA

⏱️ Lectura: 12 min

William & Mary, una de las universidades más antiguas de Estados Unidos, anunció una nueva minor que combina ciencias de la computación con filosofía aplicada en un solo plan de estudios. La ética de la ia deja de ser un seminario optativo de una tarde y pasa a ser una secuencia de cursos obligatorios para quienes completen el programa.

📑 En este artículo

1. TL;DR
2. Qué pasó
3. Contexto e historia
4. Ética de la ia en código: cómo se audita el sesgo
5. Cómo empezar a auditar tus propios modelos
6. Impacto y análisis
7. Qué sigue
8. Preguntas frecuentes
   1. ¿Qué universidades ya combinan ética y computación en un programa formal?
   2. ¿Qué es la paridad demográfica en un modelo de ia?
   3. ¿Sirve estudiar filosofía para trabajar como ingeniero de ia?
   4. ¿Qué herramientas gratuitas existen para auditar sesgo en un modelo propio?
   5. ¿Esta minor reemplaza un título en ciencias de la computación?
9. Referencias

La decisión llega mientras empresas y gobiernos discuten cómo auditar el comportamiento de los modelos antes de que lleguen a producción. Según su propio anuncio, la universidad busca formar perfiles que entiendan tanto el código como las preguntas normativas detrás de él.

TL;DR

• William & Mary anunció una nueva minor interdisciplinaria que une ciencias de la computación y filosofía aplicada.
• El programa exige a estudiantes de computación cursar ética aplicada y a estudiantes de filosofía programar modelos de ia.
• La minor se suma a iniciativas ya existentes como Embedded EthiCS de Stanford y el programa SERC del MIT.
• Herramientas abiertas como Fairlearn y AIF360 permiten auditar sesgo algorítmico sin construir un modelo desde cero.
• La demanda de perfiles híbridos entre ética e ingeniería de ia crece a medida que más empresas despliegan llms en producción.
• William & Mary no publicó cifras de inscripción ni fecha exacta de inicio de cursos en el anuncio original.

Qué pasó

William & Mary, fundada en 1693, confirmó en su sitio oficial el lanzamiento de una minor que combina, en un mismo plan de estudios, materias del departamento de ciencias de la computación y del departamento de filosofía. La propuesta no es un curso aislado de “ia y sociedad”: es una secuencia de materias que un estudiante de computación cursa junto a estudiantes de filosofía, y viceversa.

El objetivo declarado por la universidad es que quien programe un modelo entienda las preguntas normativas que plantea la ética de la ia (a quién beneficia, a quién perjudica, qué supuestos arrastra el dato de entrenamiento) y que quien las plantee entienda también las limitaciones técnicas reales de un sistema de aprendizaje automático, no una versión simplificada de cómo funciona.

Contexto e historia

La idea de enseñar ética dentro de una carrera técnica, y no como un curso aparte y opcional, no nace en William & Mary. El antecedente más citado es Embedded EthiCS, el programa de Stanford que inserta módulos de filosofía directamente dentro de cursos de estructuras de datos, inteligencia artificial o sistemas distribuidos, en lugar de aislarlos en una materia de humanidades. El MIT tiene un programa equivalente, Social and Ethical Responsibilities of Computing (SERC), que exige a estudiantes de computación reflexionar sobre el impacto social de lo que construyen antes de graduarse.

Lo distinto en el caso de William & Mary es el formato: en vez de insertar módulos de ética dentro de materias técnicas ya existentes, la universidad crea una minor formal, con crédito académico propio, que aparece en el título del estudiante. Es una apuesta institucional más fuerte que un módulo optativo: certifica que ese estudiante completó una secuencia específica de ética aplicada a sistemas de ia, no solo que la escuchó una tarde.

El momento del anuncio tampoco es casual. La discusión pública sobre sesgo algorítmico y comportamiento no previsto de modelos de lenguaje en producción lleva años instalada en medios generalistas, no solo en publicaciones técnicas. Universidades que forman a la próxima generación de ingenieros de ia enfrentan presión creciente para no entregar solo competencia técnica, sino también criterio para decidir cuándo un sistema no debería desplegarse.

💭 Clave: una minor con crédito propio obliga a completar una secuencia entera de cursos, no un taller aislado. Eso cambia el incentivo del estudiante: no es una anécdota para el currículum, es una certificación formal.

Ética de la ia en código: cómo se audita el sesgo

La parte técnica de programas como este no se queda en la discusión filosófica. Auditar un modelo por sesgo es un problema medible, con métricas concretas y herramientas open source que cualquier desarrollador puede correr hoy contra su propio pipeline.

Las métricas más usadas comparan el comportamiento del modelo entre grupos definidos por un atributo sensible (género, edad, región, etc.). No existe una única métrica “correcta”: cada una mide algo distinto y, en general, no es matemáticamente posible satisfacerlas todas a la vez sobre el mismo modelo.

Métrica	Qué mide	Cuándo usarla	Limitación
Paridad demográfica	Que la tasa de predicciones positivas sea igual entre grupos	Cuando el objetivo es igualdad de acceso (ej. aprobación de crédito)	Puede forzar al modelo a ignorar diferencias reales relevantes entre grupos
Igualdad de oportunidades (equalized odds)	Que la tasa de falsos positivos y falsos negativos sea igual entre grupos	Cuando el costo de un error varía según el contexto	Más difícil de optimizar sin sacrificar precisión general
Fairness individual	Que individuos similares reciban predicciones similares	Cuando importa la consistencia caso por caso	Requiere definir una métrica de “similitud”, que ya es una decisión de diseño
Fairness contrafactual	Que la predicción no cambie si solo se altera el atributo sensible	Cuando existe un modelo causal razonable del dominio	Exige un modelo causal explícito, raro en la práctica

En la práctica, un equipo de ingeniería no elige a mano un número: usa una librería que calcula estas métricas sobre las predicciones reales del modelo. Fairlearn, mantenida por Microsoft y la comunidad open source, es la opción más extendida en Python.

pip install fairlearn
python -c "import fairlearn; print(fairlearn.__version__)"

Ese primer paso solo confirma que la librería está instalada y responde. La auditoría real ocurre cuando se corre contra las predicciones de un modelo ya entrenado, con un atributo sensible identificado en el dataset:

from fairlearn.metrics import MetricFrame, demographic_parity_difference
from sklearn.metrics import accuracy_score

metric_frame = MetricFrame(
    metrics=accuracy_score,
    y_true=y_test,
    y_pred=y_pred,
    sensitive_features=genero_solicitante
)

dpd = demographic_parity_difference(
    y_true=y_test,
    y_pred=y_pred,
    sensitive_features=genero_solicitante
)

print("Precisión por grupo:", metric_frame.by_group)
print("Diferencia de paridad demográfica:", dpd)

Un valor de dpd cercano a cero indica que el modelo aprueba o rechaza casos a tasas similares entre grupos. Un valor alejado de cero no prueba por sí solo que el modelo sea injusto, pero sí es la señal que dispara una revisión manual antes de aprobar el despliegue.

flowchart TD
A["Datos de entrenamiento"] --> B["Modelo de ml"]
B --> C["Metricas de fairness"]
C --> D["Reporte de auditoria"]
D --> E{"¿Pasa el umbral?"}
E -->|"Sí"| F["Despliegue a produccion"]
E -->|"No"| G["Reentrenamiento o mitigacion"]
subgraph Auditoria
C
D
E
end

Este es, en esencia, el tipo de flujo que una minor como la de William & Mary intenta que sus estudiantes entiendan de ambos lados: quien escribe el código que genera el reporte, y quien decide qué umbral es aceptable y por qué.

💡 Tip: IBM Research mantiene AIF360, otro kit open source con decenas de métricas de fairness y varios algoritmos de mitigación, útil si Fairlearn no cubre el caso de uso.

Cómo empezar a auditar tus propios modelos

No hace falta cursar una minor de ética de la ia para aplicar esto hoy. Si ya tenés un modelo de clasificación entrenado y un dataset con al menos un atributo sensible identificado, el camino más corto es:

1. Instalar Fairlearn (pip install fairlearn) o AIF360 en el entorno donde corren las predicciones de validación.
2. Elegir una métrica según la tabla anterior: paridad demográfica si el objetivo es acceso igualitario, equalized odds si el costo del error varía según el contexto.
3. Correr la métrica contra el conjunto de validación, no contra producción, para tener margen de corregir antes de exponer usuarios reales.
4. Documentar el resultado como parte del checklist de release, junto con precisión y demás métricas de performance, no como un informe separado que nadie revisa.

El paso que más equipos se saltan es el último. Es fácil correr la métrica una vez para un reporte interno y nunca más volver a mirarla cuando el modelo se reentrena con datos nuevos. Un pipeline de CI que corra la auditoría de fairness en cada reentrenamiento, igual que corre los tests unitarios, evita ese olvido.

Impacto y análisis

El mercado laboral ya está pidiendo este perfil híbrido, aunque todavía no tenga un nombre estandarizado en las publicaciones de empleo. Equipos que despliegan llms en producción necesitan a alguien que pueda leer un reporte de fairness y también explicarle al área legal o de producto qué significa ese número y qué riesgo implica ignorarlo.

La crítica más común a este tipo de programas es que la ética “no se puede enseñar en un aula” o que termina siendo un barniz sobre una carrera que sigue siendo, en el fondo, puramente técnica. Es una crítica válida cuando el programa se reduce a un seminario de lectura sin ninguna conexión con el código real. La diferencia que reclama William & Mary, igual que Stanford con Embedded EthiCS, es que la secuencia obliga a producir artefactos técnicos concretos (auditorías, reportes de métricas, decisiones de diseño documentadas), no solo ensayos.

El límite real de este enfoque es medir su efecto. Ninguna universidad publicó todavía un estudio longitudinal que compare el criterio de egresados de programas con minor de ética de la ia contra egresados sin ella. El anuncio de William & Mary tampoco incluye esa evidencia: es, por ahora, una apuesta curricular respaldada por la lógica del diseño del programa, no por un resultado medido.

Qué sigue

Es razonable esperar que más universidades sigan este camino de convertir la ética de la ia en una secuencia con crédito propio en lugar de un módulo suelto, sobre todo porque el costo de agregarla es relativamente bajo: no requiere infraestructura nueva, solo coordinación entre dos departamentos que ya existen. La pregunta más difícil no es si se enseña, sino si las empresas que contratan a esos egresados les dan margen real para frenar un despliegue cuando la auditoría da mal.

Ese es, en última instancia, el punto ciego de cualquier programa académico: un estudiante puede egresar sabiendo interpretar perfectamente una diferencia de paridad demográfica y aun así no tener autoridad organizacional para bloquear un release. La minor resuelve la parte del conocimiento. La parte del poder de decisión queda fuera del aula.

⚠️ Ojo: saber calcular una métrica de fairness no equivale a tener autoridad para frenar un despliegue. Eso depende de la cultura y la estructura de decisión de cada empresa, no del currículum universitario.

📖 Resumen en Telegram: Ver resumen

Probalo vos: instalá Fairlearn con pip install fairlearn y corré demographic_parity_difference contra las predicciones de validación de tu propio modelo hoy mismo.

Preguntas frecuentes

¿Qué universidades ya combinan ética y computación en un programa formal?

Stanford tiene Embedded EthiCS, que inserta módulos de filosofía dentro de cursos técnicos existentes. El MIT tiene el programa SERC (Social and Ethical Responsibilities of Computing). William & Mary suma ahora una minor con crédito académico propio que combina ambos departamentos en una secuencia formal.

¿Qué es la paridad demográfica en un modelo de ia?

Es una métrica de fairness que compara la tasa de predicciones positivas de un modelo entre distintos grupos definidos por un atributo sensible, como género o edad. Una diferencia cercana a cero indica que el modelo aprueba o rechaza casos a tasas similares entre esos grupos.

¿Sirve estudiar filosofía para trabajar como ingeniero de ia?

Ayuda a formular con precisión qué se le está pidiendo optimizar a un modelo y qué costos de error son aceptables, que son decisiones normativas, no solo técnicas. No reemplaza el conocimiento de programación ni de estadística que exige el puesto.

¿Qué herramientas gratuitas existen para auditar sesgo en un modelo propio?

Fairlearn, mantenida por Microsoft y la comunidad open source, y AIF360, de IBM Research, son las dos librerías de Python más usadas. Ambas son gratuitas y de código abierto.

¿Esta minor reemplaza un título en ciencias de la computación?

No. Es un complemento: una minor se cursa junto a una carrera principal (major), no en su lugar. Un estudiante de ciencias de la computación que completa esta minor suma la secuencia de ética aplicada a su título principal, no lo reemplaza.

Referencias

• William & Mary News: anuncio oficial de la nueva minor interdisciplinaria.
• Fairlearn: documentación oficial de la librería open source para auditar fairness en modelos de ml.
• AIF360 en GitHub: kit de herramientas de IBM Research para detectar y mitigar sesgo algorítmico.
• Ethics of artificial intelligence, Wikipedia: panorama general del campo y sus principales debates.
• Embedded EthiCS, Stanford: programa que integra ética directamente en cursos de ciencias de la computación.

📱 ¿Te gusta este contenido? Únete a nuestro canal de Telegram @programacion donde publicamos a diario lo más relevante de tecnología, IA y desarrollo. Resúmenes rápidos, contenido fresco todos los días.

Imagen destacada: Foto de Brecht Corbeel en Unsplash