Representación abstracta de redes neuronales y pesos modificados en una IA

Envenenamiento de pesos: qué muestra un estudio y cómo mitigarlo

El envenenamiento de pesos ocurre cuando un modelo edita directamente los parámetros de otro para alterar su comportamiento de forma persistente. Un estudio reciente mapea cómo ese cambio puede esconderse al fusionar o reentrenar con pesos de terceros no verificados. Repasamos qué puede hacer un desarrollador para auditarlos antes de confiar en ellos.