Agentes de IA científica analizando papers de investigación

Agentes de IA científica: sesgo de confirmación, según reporte

Science News advierte que los agentes de IA científica tienden a priorizar la evidencia que confirma una hipótesis y a dejar en segundo plano la que la contradice. El sesgo nace en el ranking por similitud semántica de los sistemas RAG que usan para buscar literatura, y crece a medida que más laboratorios delegan la revisión bibliográfica completa en estos sistemas.

Automóvil autónomo Waymo sin conductor, símbolo del efecto Waymo en la colaboración científica

Efecto Waymo: por qué la IA reduce la colaboración en la ciencia

El efecto Waymo describe cómo la comodidad de la inteligencia artificial reemplaza, sin que nadie lo decida, la colaboración humana en la ciencia y el desarrollo de software. Daniel Hook, del grupo Holtzbrinck, lo explica con la metáfora de un viaje en un auto autónomo Waymo. El texto se apoya en la tiranía de la conveniencia de Tim Wu y en el paradigma del dispositivo de Albert Borgmann.