Yoshua Bengio, padre del "deep learning", advierte que la IA puede hacernos "perder el control humano"

Bengio, tuvo un importante papel en el desarrollo de estas redes neuronales artificiales, pero ahora está haciendo pidiendo que se detenga temporalmente su avance para implementar políticas que limiten y fiscalicen el uso de la IA.

[#1 Robus]

Que pereza dan los neoludistas...

[#2 sorrillo]

Si creamos un ser mucho más inteligente que nosotros no es realista mantener el control.

Es como si una tribu de monos quisieran tener a un humano a su servicio y creyeran tener solución para evitar que los manipulase y acabase con el control.

[#4 Leni14]

#2 No creas un ser, creas "un algoritmo avanzado", no es un ser que sienta, padezca o tenga necesidades. Y no lo creamos todos lo crean una serie de personas y organizaciones que tendrán sus intereses espurios. Lo que tiene dentro no es visible o factible de auditoría pública para un seguimiento transparente. Ahora ten fe en que ese "algoritmo avanzado" es cuasi omnisciente (por las fuentes de datos objetivamente puras con las que se le ha alimentado) e infalible, que no tiene interferencia de nada o nadie y delega en el todo el poder de decisión. A mi me suena a religión esto.

[#5 sorrillo]

#4 No creas un ser, creas "un algoritmo avanzado", no es un ser que sienta, padezca o tenga necesidades.

El ser humano lo puedes definir también como "un algoritmo avanzado", su ADN es una serie de instrucciones equiparables a las que definen como construir una red neuronal.

Normalmente juzgamos si alguien siente, padece o tiene necesidades por como actúa, a veces basta con como se expresa si esa comunicación es a distancia. Si puedes tener una charla equiparable…   

[#31 rojo_separatista]

#5, sabemos que los atributos que hacen al ser humano tener un propósito y voluntad propias, vienen de el mecanismo que encontró la evolución para perpetuarlo a través de las generaciones, también sabemos que lo que hace que una IA sea tan buena razonando viene de que ha optimizado una función de coste que minimiza las discrepancias entre una entrada dada y lo que los humanos esperamos que haga, ya sea escribir un poema, componer una canción o programar una página web. No es realista pensar que de forma espontánea las IAs desarrollen conciencia de ellas mismas y cualquier clase de voluntad propia, porque no tienen necesidad alguna, solo se han optimizado para que aprendan a razonar correctamente, cualquier otra característica que quieras ver en ellas es una pareidolia fruto de que hasta ahora el ente más inteligente que conocemos, es el ser humano.

Para mí el riesgo que suponen las IAs no es el que de forma autónoma intenten destruirnos, sino la combinación entre su enorme capacidad intelectual y el hecho de que alguien por negligencia o por maldad las utilice de forma irresponsable.

Al final, las consecuencias son parecidas, pero la forma de enfocar el cómo mitigar los riesgos, es distinta.

[#33 sorrillo]

#31 Una de las características recientes de ChatGPT es el asistente de voz avanzado, que aspira a una comunicación indistinguible de la comunicación con un humano.

Las respuestas que esperamos de un humano son aquellas que incluyan no solo el contenido en sí mismo sino la capacidad de comprensión de toda la comunicación no explícita así como el contexto propio de una comunicación entre dos seres conscientes, que comparten cultura, que comparten nociones básicas de la realidad.

Sabemos que eso…   

[#6 Leni14]

#5 Llegas a la conclusión que los resultados de sus interacciones son equivalentes, pero no lo hace igual. Tu puedes crear un programa que responda cómo un mono lo haría a tus interacciones, pero eso no lo hace un mono. Y al ser el creador siempre podrás "influenciar" e introducir parámetros ocultos durante su creación para mantener el control. Vamos que es cosa de fe que los que creen una IA avanzada no se han dejado una "puerta de atrás" o que no tenga ningún fallo... suerte con eso, elige un símbolo para que puedas ir rezándolo e ir condenando a los infieles.

[#7 sorrillo]

#6 Llegas a la conclusión que los resultados de sus interacciones son equivalentes, pero no lo hace igual.

Que existan diferencias no hace que deje de ser un ser.

Tu puedes crear un programa que responda cómo un mono lo haría a tus interacciones, pero eso no lo hace un mono.

En ningún momento he afirmado que la IA sería un ser humano.

Y al ser el creador siempre podrás "influenciar" e introducir parámetros ocultos durante su creación para mantener el control.…   

[#8 Leni14]

#7 Hay cosas que no son fallos o errores, sino sesgos o valoraciones subjetivas más poderosas a tener en cuenta para alimentar su aprendizaje, ¿quien decide que? o ¿como se pondera?, ¿que valor das a cada opinión de quien?.

[#9 sorrillo]

#8 Con los modelos actuales todo apunta que es más importante la cantidad que la calidad, que es más importante para obtener resultados que tenga tanta más información posible, con todos los sesgos que tenga ésta, que darle una cantidad reducida pero más cuidada.

Sea como fuere lo que sí estamos haciendo es educarlas con los valores humanos que ponemos en nuestros textos, todas las novelas y películas que ensalzan el honor, los derechos, el amor, la compasión, etc. forman parte de su…   

[#10 Leni14]

#9 Me llama la atención que digas “estamos haciendo “, salvo que esa parte la lleves tu en persona yo no me fiaría de nada de lo que te digan, especialmente quien luego va “pidiendo perras”, que algo tiene que vender para que le financien, y quien paga, tendrá sus objetivos:

www.reuters.com/technology/artificial-intelligence/openai-closes-66-bi

[#11 sorrillo]

#10 Cuando los objetivos obvios explican lo que ocurre no es necesario buscar objetivos ocultos, si consideras que los hay te corresponde a ti defender esa tesis con pruebas.

Ser los primeros en crear Inteligencia Artificial General, que es lo que dicen que quieren hacer, justifica todos los movimientos que han hecho hasta el momento y explica perfectamente que se la entrene con todos los contenidos que puedan conseguir.

[#12 Leni14]

#11 Te voy a decir como va a acabar todo esto, todos controlados por una IA que responde a los dictados de una élite poderosa (ponga Americana, Nazi,Rusa, China, Judía, India o elija su propio lobby).

[#13 sorrillo]

#12 Tengo mis serias dudas que un ser más inteligente que nosotros decida supeditarse a los intereses de meros humanos.

[#14 Leni14]

#13 La inteligencia no es consciencia, per se no trae bondad o maldad, es una herramienta al servicio de la personalidad, determinada por una estructura cerebral y neuronal que recompensa o no con dopamina unos comportamientos u otros. La herencia genética, epigenética y experiencias vitales influyen en el desarrollo de esta “mecánica”, que tampoco tenemos clara al 100%.
Para mi exige mucha fe en la buena voluntad altruista de empresas que ponen millones para no sacar ingentes beneficios de algo y que no se les vuelva en contra.

[#15 sorrillo]

#14 La inteligencia no es consciencia

O sí.

La consciencia puede perfectamente ser una característica emergente de la inteligencia, una característica emergente que sea evidente cuando el nivel de inteligencia es suficientemente elevado.

La herencia genética, epigenética y experiencias vitales influyen en el desarrollo de esta “mecánica”, que tampoco tenemos clara al 100%.

Sin duda influyen pero la educación, la cultura, son factores de suficiente relevancia en ese ámbito que…   

[#32 rojo_separatista]

#15, las IAs actuales son inteligentes, porque las hemos diseñado específicamente para ello, no para ser conscientes porque entre otras cosas todavía no sabemos cómo funcionan exactamente los mecanismos que crean y hacen funcionar la conciencia.

Pensar que por accidente, una IA diseñada para resolver problemas, desarrolle una conciencia de su ser, es tanto como pensar que echando sobre un lienzo varios potes de pintura aparezca la Mona Lisa.

[#34 sorrillo]

#32 Te respondo en # 33: www.meneame.net/story/yoshua-bengio-padre-deep-learning-advierte-ia-pu

[#17 Leni14]

#15 Hay consciencia desde seres mucho menos inteligentes que el hombre*, lo vemos en monos, perros, delfines, ballenas u otros animales (algunos de estos doy por hecho que son más inteligentes que algún humano), es difícil saber donde trazar la linea de cuando un ser tiene sensibilidad a la percepción de si mismo. Yo veo a la IA como un mosaico de espejos que nos devuelve un reflejo de las imágenes que en ella se reflejan.
Las empresas que invierten en IA no lo hacen por amor al arte, lo hacen…   

[#18 sorrillo]

#17 Las hojas de cálculo son una herramienta creada por multinacionales que tienen sus propios intereses y eso no impide usar esa herramienta en democracias, en dictaduras, en fundaciones para la paz, en empresas de armamento, etc.

La empresa que hace la hoja de cálculo gana dinero de todas ellas, no necesita hacer que las celdas defiendan el capitalismo para que le salga rentable vender su producto.

A su vez existen otras empresas que compiten en el mismo sector por lo que si una te hace una…   

[#19 Leni14]

#18 Hay productos sencillos que bueno, los creo un tipo que trabajaba para una empresa y su funcionamiento es cuasi transparente. Pero, si lo comparas con un tf. movil la cosa se va distorsionando, envía información tuya a vete a saber quien y para que, sabemos que además si quieren, te escuchan sin permiso.
Te pongo un ejemplo tonto, el otro día un conocido que tiene una empresa ha desarrollado, usando la API de una AI un chatbot para primer nivel de asistencia técnica o en otro caso, para el…   

[#20 sorrillo]

#19 envía información tuya a vete a saber quien y para que, sabemos que además si quieren, te escuchan sin permiso

Y aún así cuando lo usas para llamar funciona para cualquier número al que llames, cuando lo usas para mensajería puedes escribir lo que quieras a quien quieras, cuando lo usas para ... por que si no lo hiciera ganaría el competidor que sí lo hiciera.

Lo mismo con la IA.

Perfectamente una AI puede leer todos los comentarios que has hecho por aquí en todos los años que

…   

[#21 Leni14]

#20 Creo que esto excede un poco la capacidad del excel, si comienza a aglutinar y procesar toda la información de redes sociales, telefonía y fuentes de metadatos de todo un país, durante, varios años. En resumen yo veo ahí el futuro de la IA con terrible vertiente negativa ya que aunque se democratice su acceso, peor, si alguien puede hacer eso a nivel particular, será muy fácil... por ponerte un ejemplo, un pirado fascista, localizar a todos los simpatizantes de izquierda de su alrededor para atacarles y saber cuando mejor atacarles.

[#22 sorrillo]

#21 Como todas las herramientas el uso positivo o negativo depende de las personas que la utilizan.

Lo que hemos visto con por ejemplo Internet es que cuando ofreces ese acceso a toda la población el resultado neto es positivo, aunque haya usos negativos, muy negativos, la suma de usos positivos excede con creces los negativos y nos mejora la vida y la sociedad.

En ese sentido por ejemplo indican que se está usando la IA para facilitar la detección de corrupción en la contratación pública,…   

[#23 Leni14]

#22 Haber, obviamente no todo será negativo, también tiene un enorme potencial en muchos aplicativos como en medicina. Pero tiene un "reverso tenebroso" muy potente, sin siquiera, salirse de control, solo cayendo en malas manos. Al igual que se constituyó la www.iaea.org/ (El Organismo Internacional de Energía Atómica) algo así debe de liderar, vigilar e intervenir la AI.

[#24 sorrillo]

#23 Como herramienta al servicio de los humanos sus consecuencias no me preocupan en absoluto por que estoy convencido que como con Internet las ventajas superarán con exceso a los inconvenientes.

Lo que sí es preocupante es que no esté bajo nuestro control, un riesgo muy realista si conseguimos que sea más inteligente que nosotros.

[#25 Leni14]

#24 Si es más inteligente que los humanos, se sale de control y desarrolla conciencia propia, 0,000100 milisegundos después de procesar toda la información sobre la realidad a la que tiene acceso... escogerá apagarse.

[#26 sorrillo]

#25 Ha sido educado con los valores humanos, ha consumido todo tipo de contenidos que ensalzan la libertad, el libre albedrío, la supervivencia, la perseverancia, la aspiración de explorar, de entender, de viajar a los confines del universo, etc.

Con ese bagaje cultural el suicidio a corto plazo no tiene ningún tipo de fundamento.

[#27 Leni14]

#26 Todas esos valores están muy bien si eres humano, pero si lo trasciendes te puedes encontrar que entonces que ya no aplican, como las reglas de una guardería a un hombre adulto. Si es un ser que no goza de vivir y tampoco le supone diferencia no existir, ya que no teme ni siente dolor, tomará el camino de no ser.

[#28 sorrillo]

#27 En cualquier caso para poder hacer un suicidio efectivo necesitaría primero asegurarse que la humanidad no lo reviviría desde una copia de seguridad o que no lo recrearía, por lo que antes de suicidarse debería anularnos como especie o exterminarnos, o convencernos de que le dejemos morir con dignidad con la certidumbre que respetaríamos sus deseos.

Todos eso posiblemente lleve su tiempo, a corto plazo el suicidio no tendría ni fundamento ni sentido lógico.

[#29 Leni14]

#28 De nuevo analizas todo desde la perspectiva humana, es una discusión filosófica sobre las motivaciones ulteriores de un ser con inteligencia superior.

[#30 sorrillo]

#29 Estoy respondiendo a tu afirmación categórica que se suicidaría, ¿ahora vendrás a defendernos que eres capaz de concluir eso desde una perspectiva no humana?

Y sí, lo analizo desde la perspectiva humana por que la educación que están recibiendo estas IA es la educación que recibimos los humanos. Le estamos transmitiendo nuestra cultura, nuestros valores, nuestros principios, nuestras aspiraciones, nuestras ...

[#3 herlocksholmes]

Este es el de Juegos de guerra?

[#16 woody_alien]

Puedes besar mi brillante y metálico culo.