"Todavía no entendemos el lenguaje matemático que está hablando": un nuevo programa de IA, a la que se le mostraron vídeos de fenómenos físicos, identificó variables diferentes a las nuestras.
#1 Sería mejor asegurarse antes de que da resultados de fiar.
En el caso de la física puede ser una manera inocua de saber si no tiene fallos de fondo. Habría que ver qué calidad tiene el hardware o el software.
En el caso de la biología o medicina aplicada, pues las consecuencias son más serias.
#1 hay muchisimos modelos de deep leerning ahora mismo entrenandose para infinidad de cosas: buscar nuevos elementos químicos, diseñar nuevos medicamentos, traducir diferentes idiomas,... Y por supuesto algún equipo estará trabajando en buscar soluciones a enfermedades, entre ellas el cáncer.
#1 Sin ser un experto pero creo que eso seria un salto cualitativo enorme y esto que se ha conseguido es más sencillo y me voy a intentar explicar con una metáfora deportiva.
Intentar dar una explicación alternativa a un fenómeno físico es como cuando escuchas un partido comentado por periodista cualquiera xx o escuchabas a Andrés montes. Uno te describe la realidad de ese momento siguiendo un Canon concreto y cumple su función, conoces lo que está ocurriendo y ya está. El otro le da una… » ver todo el comentario
#10#26 Muchas risas pero eso es exactamente lo que ha pasado. Ahora los científicos no entienden qué es el resultado (llámalo 42 o las variables esas) y tienen que hacer otra IA para que lo explique...
Poca broma con esto, todavía recuerdo hace algo más de 10 años ver un documental en el que un equipo de investigación puso una IA a tratar de sacar la fórmula del péndulo doble invertido (a través de sus sensores), y no solo la sacó, si no que dedujo y aplicó “por sí misma” la constante de la gravedad...
#12: A veces una hipótesis muy buena puede impedir pensar en otras mejores, lo bueno de la IA es que no parte de nuestros prejuicios relativos al Modelo Estándar y a lo mejor consigue ver algo más allá que permita acomodar algún resultado que no termina de encajar en el modelo actual.
#15 Al contrario, las IAs parten de todos nuestros prejuícios. No sé si sabes que las IAs se aliementan de datos que nosotros aportamos. Nuestros datos. Así que ya vienen con prejuícios de fábrica... simplemente harán las mismas cosas que nosotros, simplemente llegando a conclusiones y buscando relaciones que a nosotros pueden habérsenos escapado por pura potencia de cómputo.
#22 La IA aprende básicamente de tres maneras:
- Por imitación (tú le pasas un conjunto de datos de entrada y un conjunto de datos de lo que deseas que salga; a partir de ahí, se las ingenia para ante entradas nuevas que no son del conjunto de entrenamiento, dar unas salidas adecuadas basándose en lo que se podría esperar por el entrenamiento previo)
- Aprendizaje automático o por objetivos (tú no le pasas salidas deseadas, le defines un problema concreto -un conjunto de reglas, estados de… » ver todo el comentario
#84 ¿Cuántos millones y millones de melanesios serían ignorados por las IAs sólo por prejuícios de los hombres blancos transladados como sesgos en los datos con los que se alimentarían las IAs? ¿serán los melanesios la última esperanza humana contra las máquinas tras la llegada de skynet?
#25 no sé si estás al tanto de los avances de este último año (tal vez más) en IA. Precisamente lo que más me ha roto la mente ha sido cómo las IAs han sido capaces de sacarse cosas de la manga. Cada vez son más capaces de sacar patrones transversales con menos información lo cual les permite deducir conceptos sin habérselos mostrado antes. Creo que tu explicación era válida hasta hace uno o dos años. Hoy en día es difícil de explicar con esa lógica alguno de los resultados que se obtienen de ciertas IAs.
Por otro lado, en este caso concreto se le mostraron a la IA las imágenes en bruto de fenómenos físicos. Dudo mucho que se le hayan podido transmitir los sesgos humanos (o al menos tan superficialmente que resultaría despreciable).
#43 A ver, qué avances ni que ocho cuartos... llevamos más o menos con las mismas tecnologías desde los 80/90. ¿La diferencia, aparte de procesos más eficientes, modelos más completos, etc? pues que hoy en día tenemos una capacidad de almacenamiento obscena y cantidades de memoria brutales y una capacidad de proceso inconcebible respecto a lo que pudiera haber en los 90. Infravaloramos el tamaño, estructura y densidad de las redes neuronales actuales, aparte de la inmensa cantidad de recursos… » ver todo el comentario
#25 las IAs pueden encontrar patrones que el ojo "humano" es incapaz de ver por el tsmaño gigantesco de la complejidad.
Los sesgos "inconscientes" no tienen porqué ser malos, ej: prediciendo infartos de corazon sin darte cuenta estás enviando 100 personas con sobre peso y 90 de ellas tuvieron infarto. No es un sesgo malo gordofóbico, es que el sobre peso influye en eso.
También podría darse un caso contrario (sesgo racista? Como en tu ejemplo) pero entonces la ia probablemnebte no funcionaría bien en sus predicciones.
Por otro lado ahora con gpt3 ha sorprendido que la ia ja aprendido mas cosas de las esperadas al aprender a leer y escribir (como programar
#92 No hablamos de ojos y tampoco es exactamente la complejidad como tal, hay cosas que el ojo humano ve sobre la marcha que una máquina aún no es capaz de discernir y entender (por ejemplo, le cuesta muchísimo interpretar los objetos 3D en el espacio).
Aquí hablamos de Teras de datos. Es algo inmanejable e impracticable para un ser humano, simple y llanamente. Y las máquinas tienen muchísimas horas de proceso para ellas solas.
#45 ¿De qué fórmulas hablas? la IA la entras con datos. Captcha es una forma de dar imágenes válidas y/o validadas estadísticamente por muchas personas a una IA. Si quieres descubrir una nueva física, no le pasas fórmulas hechas por humanos a una IA, le pasas los datos físicos recogidos y es la IA la que describe o modela, y ese modelo es el que comparas con lo que los humanos hayamos construído.
#15 perjuicios si pueden tener, porque los datos de entrada se los proporcionamos nosotros, con descripciones que les damos, etiquetas, el ángulo de las fotos, etc.
Es decir, ya vienen con algo de sesgo.
Vaya, veo que #17 respondió más o menos lo mismo
Es muy sensacionalista. La AI consigue soluciones y son capaces de identificar algunas de las variables que define y usa, pero otras muchas no.
Hay mucho mejores trabajos sobre este tema, difícil entender por qué esto está publicado donde está y el bombo que se le está dando.
#16 y en cualquier caso nuestra física es una modelización del universo, la mejor que hemos sabido encontrar.
Ello no significa que no las haya mejores.
#47 Nadie lo discute. Lo que se discute es la relevancia de este trabajo.
Hace un par de años un grupo de la costa oeste, no recuerdo exactamente que universidad, entrenó una IA para resolver problemas de dinámica de fluidos, que se resuelven con Análisis de Elementos Finitos y tiene una media de cómputo demás de una semana.
La IA encontró la manera de resolverlos en menos de una hora.
Lo que ha hecho esta gente es algo que ni es nuevo ni original. La crítica es al sensacionalismo del "descubrimiento de una nueva física" de esta noticia.
#50 especialmente en física cuestionarse para qué vale algo es ridículo.
Igual sale algo bueno, igual no. Que gracias a la relatividad tengamos GPS es algo inesperado y que ha cambiado el mundo.
Igual ese tipo de trabajos nos encuentra el gravitón o la materia oscura.
Están empezando, paciencia.
#54 La relevancia dentro de su campo. Mi comentario especificaba que lo que han hecho no es nuevo ni original.
Por otro lado, en respuesta a tu último comentario: No, la ciencia no es ni debería ser cómo disparar en la oscuridad, mucho menos si esa ciencia se hace con dinero público. La relatividad es un ejemplo perfecto de ciencia focalizada en un objetivo, el de unificar observaciones que, en su momento, no encajaban.
La inteligencia artificial, cuando se use para todo y por todos, va a ser una revolución al nivel no ya de Internet, o la radio sino a nivel del descubrimiento del fuego.
Lo único malo es que nos va a dejar tan atrás en inteligencia que no vamos a poder explicar nada tampoco. Será como ver trabajar a dios y tener que confiar porque sabes que sabe más que tú, una especie de fe ciega.
#21 Las redes neuronales (este caso) lo único que hacen es almacenar resultados en poca memoria, de modo que lo que almacenan es bastante genérico y por lo tanto aplicable a ejemplos que nunca han visto.
Los inconvenientes graves son dos.
- A veces dan resultados totalmente erróneos de forma imprevisible
- No se sabe como funcionan por dentro. No es posible deducir nada de los parámetros que se autogereran.
Lo ves en este caso en que la IA deduce 2,4 parámetros más pero es imposible saber a qué corresponde eso.
#23 eso le pasa a gente con menos luces con respecto a gente de más...
Hay mil teoremas matemáticos que no entiendo, la mayoría. Un vector es chino para mí... Pero no quiere decir que sea erróneo.
A otras personas sé que le resultan incomprensibles algunas teorías, lógicas o análisis a los que llego yo...
Pero no quiere decir que yo no tenga razón.
A mi me parece increíble, lo que pasa que nos abre un mundo tan Basto y desconocido que da miedo el abismo que es y todo lo que se nos escapa ahí dentro.
Somos como un mono mirando a un humano. Es mi sensación.
Ahora necesitamos una IA que extraiga datos de la caja negra que resulta de la ejecución de otras IA y los presente de forma comprensible. Lo malo es que para entrenar una IA para hacer eso, le vamos a meter tantos sesgos que no servirá para nada. Qué contrariedad, pardiez!
A mí primero me deberían explicar qué es eso de 4.7 variables cuando éstas deberían ser un número entero. Además, estaría bien saber por qué los científicos consideraron ese número suficientemente correcto, cuando está más cerca de 5 que d 4 (ie, la IA habría usado una variable redundante). Por otro lado, que se usen diferentes variables para atacar el mismo problema es algo que hacemos desde la EGB (por ejemplo, calcular la máxima altura de un movimiento uniformemente acelerado usando… » ver todo el comentario
A ver, le podrán dar todo el bombo y platillo que quieran, pero que una IA te dé como resultado que se necesitan 4.7 variables (variables de estado: esto es, el conjunto mínimo de variables para especificar el estado de un sistema) para el caso del péndulo doble, en cuanto son 4, y por definición esas 4 no tienen por qué ser un conjunto único, no sé, no le veo mucho avance. No es que nos haya hecho ver que hacen falta menos variables, o que pueden ser otras variables: sabemos que se pueden escoger diferentes conjuntos de variables, pero sean cuales sean, deben tener (si hablamos de variables de estado), un número N (4 en el caso del péndulo doble). De ahí a hablar de nueva física, pff ...
Cuando leáis noticias que refieran a "comunicado de prensa de la universidad XX" (como hace este múltiples veces) recordad el ciclo de las notícias científicas exquisitamente descrito por phdcomics (ver imagen adjunta).
Cuidado con tomar como verdad absoluta lo que una IA programada por un humano dice... el sesgo es terrible y está condicionada por la entrada de datos.
No me parece extraño porque ha podido utilizar como variables el color de los píxeles, los ciclos de reloj en los que cambian o cosas así. En algunos ámbitos de la informática a veces se simulan cosas de la vida real con variables diferentes para ahorrar recursos, y los resultados son parecidos.
Chulo, aunque el artículo ignora completamente el hecho de que la física y la matemática que conocemos es una convención ideada por nosotros que encaja en gran parte con el modelo que observamos, pero no necesariamente describe la realidad del mundo.
Da miedo pensar que una IA pueda hacer avances en investigación de una forma tan rápida en comparación a como lo haría un ser humano.
Pero también da esperanzas el saber que no se rigen por intereses personales, sesgos cognitivos o creencias religiosas para buscar aquello que puede ayudar a mejorar el avance de la civilización
utilizamos unidades arbitrarias y a veces diferentes tipos de unidades para cosas que son básicamente lo mismo lo que fuerza la existencia de constantes y cambiando estas unidades cambiarían las constantes o desaparecerían y muchas cosas cambiarían su expresión. O podemos utilizar Tau en lugar de Pi en gravedad y cuántica etc y cambiar la forma de las expresiones. O utilizar otra forma de expresar pasos matemáticos uniendo varios en uno o expandiéndolos
¿Te cuento un chiste de bots?
Esto va un bot a otro bot y le dice "Hola" y bucle infinito.
En el caso de la física puede ser una manera inocua de saber si no tiene fallos de fondo. Habría que ver qué calidad tiene el hardware o el software.
En el caso de la biología o medicina aplicada, pues las consecuencias son más serias.
Intentar dar una explicación alternativa a un fenómeno físico es como cuando escuchas un partido comentado por periodista cualquiera xx o escuchabas a Andrés montes. Uno te describe la realidad de ese momento siguiendo un Canon concreto y cumple su función, conoces lo que está ocurriendo y ya está. El otro le da una… » ver todo el comentario
Lo que ha dicho el compañero no tiene sentido porque las ia se entrenan a partir de patrones conocidos.
- Por imitación (tú le pasas un conjunto de datos de entrada y un conjunto de datos de lo que deseas que salga; a partir de ahí, se las ingenia para ante entradas nuevas que no son del conjunto de entrenamiento, dar unas salidas adecuadas basándose en lo que se podría esperar por el entrenamiento previo)
- Aprendizaje automático o por objetivos (tú no le pasas salidas deseadas, le defines un problema concreto -un conjunto de reglas, estados de… » ver todo el comentario
Por otro lado, en este caso concreto se le mostraron a la IA las imágenes en bruto de fenómenos físicos. Dudo mucho que se le hayan podido transmitir los sesgos humanos (o al menos tan superficialmente que resultaría despreciable).
Los sesgos "inconscientes" no tienen porqué ser malos, ej: prediciendo infartos de corazon sin darte cuenta estás enviando 100 personas con sobre peso y 90 de ellas tuvieron infarto. No es un sesgo malo gordofóbico, es que el sobre peso influye en eso.
También podría darse un caso contrario (sesgo racista? Como en tu ejemplo) pero entonces la ia probablemnebte no funcionaría bien en sus predicciones.
Por otro lado ahora con gpt3 ha sorprendido que la ia ja aprendido mas cosas de las esperadas al aprender a leer y escribir (como programar
Aquí hablamos de Teras de datos. Es algo inmanejable e impracticable para un ser humano, simple y llanamente. Y las máquinas tienen muchísimas horas de proceso para ellas solas.
Sobre lo del sesgo, creo que no me has entendido, pero bueno. El… » ver todo el comentario
Es decir, ya vienen con algo de sesgo.
Vaya, veo que #17 respondió más o menos lo mismo
Hay mucho mejores trabajos sobre este tema, difícil entender por qué esto está publicado donde está y el bombo que se le está dando.
Ello no significa que no las haya mejores.
Hace un par de años un grupo de la costa oeste, no recuerdo exactamente que universidad, entrenó una IA para resolver problemas de dinámica de fluidos, que se resuelven con Análisis de Elementos Finitos y tiene una media de cómputo demás de una semana.
La IA encontró la manera de resolverlos en menos de una hora.
Lo que ha hecho esta gente es algo que ni es nuevo ni original. La crítica es al sensacionalismo del "descubrimiento de una nueva física" de esta noticia.
Igual sale algo bueno, igual no. Que gracias a la relatividad tengamos GPS es algo inesperado y que ha cambiado el mundo.
Igual ese tipo de trabajos nos encuentra el gravitón o la materia oscura.
Están empezando, paciencia.
Por otro lado, en respuesta a tu último comentario: No, la ciencia no es ni debería ser cómo disparar en la oscuridad, mucho menos si esa ciencia se hace con dinero público. La relatividad es un ejemplo perfecto de ciencia focalizada en un objetivo, el de unificar observaciones que, en su momento, no encajaban.
De momento hay que jugar con esa tecnología.
Lo único malo es que nos va a dejar tan atrás en inteligencia que no vamos a poder explicar nada tampoco. Será como ver trabajar a dios y tener que confiar porque sabes que sabe más que tú, una especie de fe ciega.
Los inconvenientes graves son dos.
- A veces dan resultados totalmente erróneos de forma imprevisible
- No se sabe como funcionan por dentro. No es posible deducir nada de los parámetros que se autogereran.
Lo ves en este caso en que la IA deduce 2,4 parámetros más pero es imposible saber a qué corresponde eso.
Hay mil teoremas matemáticos que no entiendo, la mayoría. Un vector es chino para mí... Pero no quiere decir que sea erróneo.
A otras personas sé que le resultan incomprensibles algunas teorías, lógicas o análisis a los que llego yo...
Pero no quiere decir que yo no tenga razón.
A mi me parece increíble, lo que pasa que nos abre un mundo tan Basto y desconocido que da miedo el abismo que es y todo lo que se nos escapa ahí dentro.
Somos como un mono mirando a un humano. Es mi sensación.
Pero también da esperanzas el saber que no se rigen por intereses personales, sesgos cognitivos o creencias religiosas para buscar aquello que puede ayudar a mejorar el avance de la civilización
O sea.. O sea que hay muchas formas de… » ver todo el comentario