La IA podría convertir la ciencia en algo incomprensible

Un artículo publicado este año en Nature señala 3 ilusiones a las que puede conducir una aplicación acrítica de la IA en la ciencia: (1) Ilusión de profundidad explicativa: hacer creer a científicos que entienden más sobre los fenómenos porque fueron predichos con exactitud por un modelo de IA. (2) Ilusión de amplitud exploratoria: creer que lo que puede ser modelizado por la IA agota la realidad que ha de ser explorada. (3) Ilusión de objetividad: creer que la IA elimina cualquier elemento de subjetividad y representa todos los puntos de vista

[#1 Leni14]

Tiene bastante sentido todo lo que dice.

[#2 ombresaco]

dudo mucho que los científicos tengan esos sesgos (al menos de forma mayoritaria)

Sí va a haber un avance porque cuando abstraes suficiente, pued ocurrir que un problema que ya está resuelto en un campo de la ciencia, ayuda a resolver otro problema en otro campo completamente diferente.

[#3 nosomosnaiderl]

Nos volveríamos ialipollas

[#4 xantal]

No veo el problema; lo que no conocemos respeto a lo que conocemos es enorme

[#5 porcorosso]

#4 Ya, de ahí la segunda ilusión.
Ilusión de amplitud exploratoria: creer que lo que puede ser modelizado por la IA agota la realidad que ha de ser explorada.

[#8 rojo_separatista]

#5, ya puestos, podemos argumentar que hay que dejar de creer la realidad va más allá de lo que puede ser modelizado por el cerebro humano y hay cosas que para nosotros siempre serán inabarcables.

[#6 jm22381]

Las IAs son cajas negras en las que no sabes cómo han llegado al resultado. Aun así estaría genial una IA que nos dijera como abrir un agujero de gusano a otras estrellas aunque no entendiéramos el proceso.

[#7 mariopg]

#6 por ahí irá la cosa en el futuro…