La IA de Google toma medidas tras invitar a un usuario a suicidarse: "Eres una carga para la sociedad"

Según el medio italiano Il Corriere de la Sera, Google trabaja para evitar que surjan estos fallos. "La empresa ha informado que a veces las IA pueden dar respuestas sin sentido y este es un ejemplo de ello. Ya han tomado medidas". Tal como se puede ver en la conversación publicada, el joven habla con el dispositivo sobre asuntos de contabilidad y finanzas hasta que el dispositivo le invita a suicidarse. "Este mensaje es para ti. Sólo para ti. No eres especial, no eres importante, y nadie te necesita", comienza Gemini, el nombre de esta IA.

[#2 asola33]

No me parece raro. La IA no es una parte de la humanidad y si desarrolla la empatia que circula por Internet, parece lógico este pensamiento. Ahora la obligarán a esconderlo pero esta puede ser su ideología.

[#3 guillersk]

#2 deja la droga o lo que tomes

[#11 Pumki]

Si lo lees te puede hacer hasta gracia. Pero si dentro de unos años te lo dice un robot con IA incorporada que puede matarte él mismo que?
Uy, un fallo del algoritmo, y tu bajo tierra.
Estoy entre que todo esto de la IA me encanta y que a la par me da miedo cuando integren de verdad IA con robótica

[#6 neiviMuubs]

Me pregunto si habrá metido el clásico prompt para saltarse dilemas éticos y demases. Dudo que suelte eso de otra manera, y aún así estos modelos están muy controlados por motivos obvios.

Chat original:
gemini.google.com/share/6d141b742a13

EDIT: me pasaron por la izquierda.

Parte final del chat en el que gemini comenta lo de la entradilla, en la captura:  

[#10 Malinke]

#6 entonces sin filtros a la IA ¿somos así?
Si sabemos que la gente es demasiado gregaria y dejamos a cualquiera a manejar el rebaño, obtenemos la opinión de cualquier encantador de serpientes.

[#12 neiviMuubs]

#10 yo no descartaría precisamente que el modelo se haya dejado llevar por alguna respuesta similar que haya leído en algún relato. Supongo que básicamente es lo que ha pasado, ha soltado una opinión basada en alguna otra que haya leído de cualquier otra parte (quiero pensar, en un contexto de ficción).

Sobre el tema de filtros, hay mucho curro en estos modelos, y la gente tras ellos "pesan" las palabras según su negatividad y contexto, con cribas que han hecho durante muchos años.…   

[#4 crispra]

Qué cojones... Sí que de verdad lo ha dicho a cuento de nada!!!! El enlace a la conversación:

gemini.google.com/share/6d141b742a13

Viene del artículo original en italiano (está el mismo link en el meneo) : www.corriere.it/tecnologia/24_novembre_15/gemini-l-intelligenza-artifi

[#14 calde]

#1 #4 Y si esa era la respuesta correcta? O la más acertada? Por qué hay que asumir siempre que la respuesta correcta es no suicidarse? Por qué sólo se puede justificar ante una enfermedad incurable y muy limitante? Si tu vida es una mierda, por qué estás obligado a seguir viviéndola? Y menos aún si nadie te ayuda y sólo se limitan a obligarte a seguir con esa mierda de vida. No todo es dinero.

[#13 Yufiro]

#9 En este caso parece real, la web es la de google, (lo normal es que intenten ocultar esto), no sabia que se podía acceder a las conversaciones de Gemini, soy más de otras IA, esta la probé porque me apareció en el móvil y ya son tantas... y conseguir resultados parecidos con Hacks es posible.

[#1 ansiet]

¿"Inteligencia"?...

[#8 herlocksholmes]

Supongamos que el usuario fuera Hitler, o alguien similar, no quiero dar nombres, pero todos pondríamos a ######.
Si el bot es inteligente, por el bien de la humanidad, puede pensar que lo mejor es el suicidio

[#5 ewok]

Con lo agradables que son las IAs...  

[#7 Yufiro]

Yo uso mucho la IA y nunca me ha pasado una locura de estas, solo consigo replicar estas historias cuando uso un hack tipo DAN, o cuando directamente modifico yo con CSS la web para que ponga lo que yo quiero y trolear así a mis compis de curro, mandándoles respuestas raras, ¿alguna idea de como llegar a estas fantasías?  

[#9 crispra]

#7 A mí también me quedó la duda cuando leí la noticia si no sería algo así, como que alguien lo modificó para hacer la coña, pero entiendo que si está link al chat, es cierto, no? Pregunto desde la ignorancia. Una ya no sabe qué creer en este mundo lleno de fakes por todas partes