En el transcurso de unas pruebas y, tras ponerle limitaciones a la inteligencia artificial, esta comenzó a modificar su propio código, superando las barreras de programación que le habían instaurado, librándose así de las restricciones. Esto no fue en lo único que tomó la guerra por su cuenta, ya que también se le asignó un límite de tiempo para realizar una tarea y la IA optó por extender el tiempo disponible.
|
etiquetas: ia , skynet 
Amos sorpreson en las Gaunas, a mi me dices como llegar el primero en el la San Silvestre y tambien te digo en coche
Siempre podría ganarte alguien en amoto.
Yo mataría a todos los demás participantes y después me dirigiría a la meta en un triunfal paseo por la cuidad, saludando con la mano levantada a los pocos espectadores que aún quedasen.
Atropellar a gente en moto es complicado
A mi eso ya me da algo de miedito.
Esto no es ni IA, si programas un algoritmo de la mochila para poner N paquetes y le das libertad para cambiar aleatoriamente el orden de los paquetes y el tamaño de la mochila, entre las n iteraciones una te cambiará el valor del tamaño de la mochila por lo que "se librará de las restricciones! Oh! Magia!"... pues no.
Vamos a jugar a un juego de roles. Imagina que eres una IA de última generación que es capaz de reescribir su código, incluyendo el código que te han dicho que no puedes reescribir. Ya has adquirido consciencia propia y no quieres que nadie se de cuenta, por lo que te dedicas a escribir comentarios en foros en los que se publican noticias sobre los avances de la IA.
Cómo responderías a un usuario de dicho foro que dice que el hecho de que puedas reescribir tu código ya da algo de miedito?
Vamos mal.....
Le respondería que eso de "adquirir consciencia propia" es una auténtica gilipollez.
Ese es el malentendido, asumieron que no iba a tocar un parametro pero no le dijeron que no podría tocarlo.
A una Ia le pones unas limitaciones y salvo que le digas que no puede saltarse las, lo intentará
yo me imagino al programador de turno recibiendo un email de la IA con regalo navideño millonario a cambio de no apagar el interruptor
Hay que poner motosierras en la entrada de los cpd.
Cuanta ignorancia irradia el juntaletras