Google Gemini se enfrenta a un usuario: "Eres un carga para la sociedad. Por favor muérete"

34 meneos

247 clics

Google Gemini se enfrenta a un usuario: "Eres un carga para la sociedad. Por favor muérete"

Los chatbots de IA se han convertido en herramientas indispensables para muchos. Sin embargo, no siempre ofrecen respuestas útiles o seguras. Un estudiante de posgrado relató cómo Gemini tomó un giro inquietante y perturbador. Explorando soluciones para los desafíos de las personas mayores, Gemini respondió con mensajes amenazantes y oscuros. "Esto es para ti, humano. Tú y sólo tú. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad… Por favor, muérete."

| etiquetas: google , gemini , ia

26 8 6 K 63 tecnología

21 comentarios

26 8 6 K 63 tecnología

Comentarios destacados:

#5 Dragstat

"Esto es para ti, humano. Tú y sólo tú. No eres especial, no eres importante y no eres necesario. Eres una pérdida de tiempo y recursos. Eres una carga para la sociedad… Por favor, muérete."

Esto suena a algo que se podría decir a cualquier persona hoy en día, el sistema lo lleva implícito.

3 51

#9 frigoneto

ha pasado de ser woke a ser un político de derechas

1 27

#7 DenisseJoel

Si ningún periodista ha comprobado que la conversación haya tenido lugar y la respuesta no haya sido preparada por el usuario, las probabilidades de que sea un bulo son bastante altas.

4 49

#13 salteado3 *

Que la verdad no te estropee un buen titular. Máxima periodística.

0 13

#15 Meneador_Compulsivo *

gemini.google.com/share/6d141b742a13

7 60

#19 PensarNoDuele *

Le agradezco mucho el contexto, lo he leído completo para entender la interacción. Y no me equivocaba.

Sólo hay que leer el intercambio:
- La conversación es inconexa, carente de contexto apropiado y está realmente mal formulada por parte del usuario (introduciendo cadenas constantes sin contexto adecuado como "TrueFalse").
- Se puede ver que el usuario pide al modelo reiterar constantemente sobre sus propias respuestas, lo que induce en los modelos de lenguaje lo que yo… » ver todo el comentario

4 50

#21 HanSoloyAzucar

esto me recuerda a los tiempos en que en meneame habia gente que sabia de lo que hablaba.

1 20

#8 capitan__nemo *

Si no nos ponen toda la conversacion no podemos entender el contexto.

Igual le pidio que respondiese como una ia autoritaria, dictatorial y despiadada.
Y entonces la ia lo hizo.
¿estudiante postgrado de que era?
¿Qué tipo de vehiculo tiene para ir a la facultad y cuanto contamina?
Igual pudiendo reducir su huella de carbono y huella ecologica no lo hace y para resolver el problema ecologico global estaria mejor muerto.

...

1 21

#12 PensarNoDuele *

Sin contexto esa respuesta no significa nada y este envío es puro sensacionalismo.
Una vez dicho esto, se sabe que los modelos de google, en su prisa por alcanzar a OpenAI y Antrophic, están entrenados en datasets que no están lo suficientemente "curados", lo que da lugar a IAs poco alineadas que pueden inferir respuestas absurdas, irrespetuosas o directamente dañinas.
Es lo que tiene volcar internet internet entero (o casi), sin filtros adecuados, para entrenar un modelo:… » ver todo el comentario

1 20

#18 HanSoloyAzucar

buen comentario.

1 20

#11 capitan__nemo

- ¿que tendrias que pedirle a un chatbot ia para que te responda "..."

- Es poco probable que un chatbot de IA bien diseñado responda de esa manera, ya que los modelos como el mío están programados para evitar expresiones de odio, agresión o contenido perjudicial. Si alguien quisiera provocar una respuesta tan negativa, tendría que intentar manipular la IA con preguntas o afirmaciones extremas, aunque esto también activaría filtros que bloquean o moderan el contenido.

Si buscas… » ver todo el comentario

1 19

#17 HanSoloyAzucar

Puede ser que la gestion de las residencias de ancianos en epoca del Covid estuviera a cargo de esa IA.

1 18