Desbloqueando la 'caja negra': los científicos revelan los pensamientos ocultos de la IA (eng)

Los investigadores presentan un nuevo método para evaluar cómo las redes neuronales profundas interpretan la información, garantizando su confiabilidad y robustez para aplicaciones del mundo real.En este estudio, los investigadores desarrollaron un nuevo método, llamado método de distribución k*, que visualiza y evalúa más claramente qué tan bien las redes neuronales profundas categorizan elementos relacionados entre sí. dx.doi.org/10.1109/TNNLS.2024.3446509

[#2 HanSoloyAzucar]

Me alucina ver que hay gente que cree que una maquina pueda pensar, o tomar decisiones o que unos "cientificos" puedan mirar en el codigo las opiniones de una IA. Esta peña ha visto tanto Netflix que se le ha derretido el cerebro.

[#3 ed25519]

#2 es que vende mas lo otro, ni mas ni menos

[#1 Robus]

Er... hasta el AutoML de Google (la forma más sencilla de hacer una red neuronal profunda, en la que no tienes ni que teclear código) ya ofrece una opción explicativa de porque se toman ciertas decisiones y de que features tienen más importancia en la decisión final.

Y desde hace años...