¿La IA está llevando a una crisis de reproducibilidad en la ciencia? [EN]

Durante la pandemia de COVID-19 a finales de 2020, un equipo de la India informó de que la inteligencia artificial podía diagnosticar la infección en las radiografías de tórax. En septiembre del año siguiente, en la Universidad Estatal de Kansas (Manhattan), entrenaron un algoritmo de aprendizaje automático con las mismas imágenes, pero utilizando sólo secciones de fondo en blanco que no mostraban ninguna parte del cuerpo. Aun así, su IA pudo detectar los casos de COVID-19 a un nivel muy superior al de la casualidad.

[#4 SubeElPan]

#1 Pues anda que cuando empiecen a comentar en menéame…

[#6 Un_señor_de_Cuenca]

#4 Ya estamos comentando en Menéame. Pregúntame lo que quieras.

[#2 Toponotomalasuerte]

Overfiting

[#8 eldarel]

#2 Peor, un mal manejo de variables.
El caso me recuerda a un entrenamiento de imágenes médicas, dónde la caja negra se aprendió las marcas que hacían los expertos y no tanto en las imágenes del cuerpo.
O aquel modelo que identificaba muy bien tanques, siempre que estuviera el cielo despejado.

[#3 mariopg]

si juntas la pedazo de movida que es la IA y que estamos en manos de hijos de puta psicópatas, pinta regular, la verdad…

[#7 Aeren]

Para que una IA realice correctamente una tarea concreta hay que alimentarla con miles de casos probados y documentados. Por tanto si esa tarea se empieza a realizar únicamente con IA, nunca más se podrá avanzar en ese campo a no ser que se siga trabajando en nuevos casos y creando nueva documentación para alimentar las posteriores mejoras de esa misma IA.

Es como con el arte. Si se deja de crear arte por que las IA crean una basura mierdera con la que los CEOs basureros y mierderos se…