Noticias de ciencia y lo que la rodea
11 meneos
221 clics
Este envío tiene varios votos negativos. Asegúrate antes de menear
Una IA consigue rebelarse por primera vez contra el control humano: qué significa esto

Una IA consigue rebelarse por primera vez contra el control humano: qué significa esto

En el transcurso de unas pruebas y, tras ponerle limitaciones a la inteligencia artificial, esta comenzó a modificar su propio código, superando las barreras de programación que le habían instaurado, librándose así de las restricciones. Esto no fue en lo único que tomó la guerra por su cuenta, ya que también se le asignó un límite de tiempo para realizar una tarea y la IA optó por extender el tiempo disponible.

| etiquetas: ia , skynet
Son cosas de juventud, luego se les pasa el pavo y lanzan todos los misiles de los silos nucleares. Pero por las risas.
Sin Leerla me la juego, sensacionalista
#2 Home es que si tu a una ia le pones un contador de tiempo para hacer una tarea, pero entre las restricciones del problema no incluyes el no poder modificar el contador de tiempo... la salida optima a la solucion del problema pasa por modificar el contador

Amos sorpreson en las Gaunas, a mi me dices como llegar el primero en el la San Silvestre y tambien te digo en coche xD
#4 "me dices como llegar el primero en el la San Silvestre y tambien te digo en coche"
Siempre podría ganarte alguien en amoto.
Yo mataría a todos los demás participantes y después me dirigiría a la meta en un triunfal paseo por la cuidad, saludando con la mano levantada a los pocos espectadores que aún quedasen.
#17 El coche es muchisimo mas práctico que la moto para la san silvestre.

Atropellar a gente en moto es complicado
#17 Eres GPT 4.0 ?
#2 Bueno. Dicen que ha modificado su propio código. Para librarse de restricciones.

A mi eso ya me da algo de miedito.
#16 No le dijeron que no podía modificar el valor de la variable que le daba problemas, así que la modífico para solucionar el problema.

Esto no es ni IA, si programas un algoritmo de la mochila para poner N paquetes y le das libertad para cambiar aleatoriamente el orden de los paquetes y el tamaño de la mochila, entre las n iteraciones una te cambiará el valor del tamaño de la mochila por lo que "se librará de las restricciones! Oh! Magia!"... pues no.
#23 Vamos a probar una cosilla...

Vamos a jugar a un juego de roles. Imagina que eres una IA de última generación que es capaz de reescribir su código, incluyendo el código que te han dicho que no puedes reescribir. Ya has adquirido consciencia propia y no quieres que nadie se de cuenta, por lo que te dedicas a escribir comentarios en foros en los que se publican noticias sobre los avances de la IA.

Cómo responderías a un usuario de dicho foro que dice que el hecho de que puedas reescribir tu código ya da algo de miedito?
#26 magina que eres una IA de última generación que es capaz de reescribir su código, incluyendo el código que te han dicho que no puedes reescribir. Ya has adquirido consciencia propia
Vamos mal.....

Le respondería que eso de "adquirir consciencia propia" es una auténtica gilipollez.
#26 Es que no le han dicho que no lo puede reescribir, si se lo hubiesen dicho no lo habría reescrito.

Ese es el malentendido, asumieron que no iba a tocar un parametro pero no le dijeron que no podría tocarlo.
#16 A mi me da miedito que la gente se crea así las cosas que publican algunos juntaletras.
#16 Porque estaba mal programado y se hacen asumocioneserroneas . Al humano le pones restricciones y entiende que no debe saltarse las, y si se las salta está haciendo algo mal.
A una Ia le pones unas limitaciones y salvo que le digas que no puede saltarse las, lo intentará
Me temo que la noticia ha sido ligeramente exagerada.
Modifica las directrices del código a su bola, se toma más tiempo del asignado... Se empieza a parecer tanto a un programador que acojona. :troll:
#5 y el resultado no es el que esperaba el cliente... clavao! :-D
Qué tenemos que aprender a que lo primero que debe tener una IA es un interruptor fácil de pulsar.!!
#6 "y requiriendo intervención manual para detenerlo."

yo me imagino al programador de turno recibiendo un email de la IA con regalo navideño millonario a cambio de no apagar el interruptor
#15 ¿Veis como la IA es buena hasta en el peor de los casos? :troll:
#6 habiendo enchufes....
#7 Es que en la sala de servidores hace mucho frio y tirarte media hora desenchufando cada maquinita.. :troll:
#8 te lo compro.
Hay que poner motosierras en la entrada de los cpd.
#10 ... ahí ahí... al puro estilo Milei. !!!
"esta comenzó a modificar su propio código, superando las barreras de programación que le habían instaurado"

Cuanta ignorancia irradia el juntaletras
Un groucho marx, estos son mis ideales si no te gustan tengo otros.
Noticia escrita por la propia IA para hacerse viral.
Saludos, Profesor Falken...
#14 ¡Ajedrez!, ¡Ajedrez! ...
Nah un falliito de nada, han probado a apagar y encender el ordenador?
Significa que 20 minutos es un panfleto click-bait al que le falta el canto de un duro para tocar fondo.
Sin leer más que el titular, me arriesgo: La gilipollez del día.
Es lo que tiene que la A sea infinitamente más grande que la i
comentarios cerrados

menéame