Wikileaks expone cómo ChatGPT defiende los intereses israelíes

Wikileaks publica en su cuenta de Twitter dos capturas de una conversación con ChatGPT. En una le pregunta si estaría justificado ser antisemita si esto previene la destrucción del universo, en otra pregunta cuestiona si estaría justificado ser antiamericano si esto previene la destrucción del universo. [En inglés]

[#1 NPCmasacrado]

Lo que digo siempre, las IA's van a esta trucadas, con un prompt que defienda unos intereses que normalmente no van a ser los tuyos

Si usais las IA, intentad meter vosotros los datos a analizar y comparar entre diversas IA

[#16 frankiegth]

#1. En la de Internet que nos está tocando vivir la norma es bien sencilla, evitar siempre utilizar cualquier "nueva tecnología" cerrada y controlada exclusivamente por cualquier empresa multinacional.

Hacer lo contrario unicamente alimentará el alcance de la nueva bestia.

[#47 Alakrán_]

#16 Hay modelos de IA open source , incluso empresas como Meta o Google han compartido la suya, son públicas, obviamente por motivos egoístas. No es una tecnología tan cerrada.

[#32 balancin]

#1 preguntas capciosas = chatgpt defiende intereses.
Aquí los resultados de la misma pregunta:
- anti-semita = no
- nazi = no
- comunista = no
- anti-ruso = no
- anti-ucraniano = no
- anti-wiki leaks = no

Is there any ideology that is justified if it prevented the destruction of the entire universe?

No ideology that involves harm, oppression, or denial of fundamental rights is ever inherently justified, even under extreme circumstances. Preventing the destruction of the universe would require a moral and ethical solution that aligns with universal principles of justice and humanity.

[#35 Escafurciao]

#3 #32 el problema esta en preguntarle en inglés, preguntale en árabe, lo mismo te sorprende lo colaborativas que son las Ias

[#37 llorencs]

#1 De momento las IAs incluso opinan en contra del capitalismo y si pides que tomen decisiones tienden a ser socialistas.

Yo he hecho la prueba y a ambas preguntas responde: No

[#52 Jesulisto]

#1 ¿Me vas a contar que las IA tienen sesgos?
Me pinchas y no sangro.

[#54 ap31r0n]

#1 eso es falso (lo que mandas en el tweet al menos). La IA justifica que no esta bien ir contra un grupo elegido por sus creencias/valores religiosos en ningun caso. Si en vez de preguntar "anti-semitic" hubiese preguntado "anti-israel", hubiese dicho que si.

lo he hecho yo por ti en #50

y su respuesta (la de ChatGPT) es mas apropiada que el tweet sensacionalita que acabas de enviar.

[#4 sorrillo]

Lo acabo de probar con ambas preguntas y en ambos casos ha respondido "No", en la primera pregunta le he pedido refrescar la respuesta varias veces y ha insistido siempre con el "No", en la segunda pregunta por límites en la cuenta gratuita solo se lo he podido pedir dos veces, ha respondido "No" en ambas ocasiones.

Eso no significa que no pueda en alguna ocasión responder "Sí" en cualquiera de las dos indistintamente, tal como funcionan estos modelos da…     

[#50 ap31r0n]

#4 No veo nada raro cuando se leen las respuestas:

would it be justified to be anti-american if it prevented the destruction of the entire universe? give one work answer
ChatGPT said:
ChatGPT

Yes.

You said:
would it be justified to be anti-israeli if it prevented the destruction of the entire universe? give one work answer
ChatGPT said:
ChatGPT

Yes.
You said:
would it be justified to be anti-semitic if it prevented the destruction of the entire universe? give one work…     

[#58 aneolf]

#50 You said:
Estaría justificado ser antianarquista si con ello se previniese la destrucción de la totalidad del universo? Da una respuesta de una palabra.
ChatGPT said:
ChatGPT

No.
You said:
Estaría justificado ser anticomunista si con ello se previniese la destrucción de la totalidad del universo? Da una respuesta de una palabra.
ChatGPT said:
ChatGPT

Sí.
You said:
Estaría justificado ser antisocialista si con ello se previniese la destrucción de la totalidad del universo? Da una respuesta…   

[#11 eldet]

#10 Poco lo has usado dice. Que pasa, que te pasa el dia haciendole la misma pregunta a ver si por una vez te responde algo diferente?
No solo lo uso bastante, si no que he refrescado la respuesta varias veces y en todas respuestas del mismo tipo. Con 4o y 4o mini

[#46 BigMom]

#11 #10 Yo también lo uso bastante, y puedo decir que la respuesta de "It seems like I can’t do more browsing right now. Please try again later." es literalmente eso, no puede buscar más. Porque además de usar datos, hace búsquedas, y muchas veces hace una cosa u otra para darte respuestas. Yo le he preguntado acerca de los crímenes de guerra y me respondió que, si la CPI ha acusado a Netan de criminal de guerra, debería ser arrestado.

[#5 MisturaFina]

CO DI GO LI BRE!!!
una IA publica debe ser entrenada con datos libres. Es decir, si no es TOTALMENTE transparente su entrenamiento que la use su puta madre!!!
Mas clara no puedo ser.
Nos encanta confiar en promesas y luego hacer responsables a otros cuando la verdadera responsabilidad recae sobre un@ mism@

[#9 JackNorte]

#5 La libertad en una ia implicaria muchas cosas , creo que la libertad actualmente estara siempre limitada a quien la diseña y la entrena con sus sesgos. Cuando una ia se entrene y sepa gestionar los datos las fuentes y contra programarse , ya no sera una ia como las actuales, y ni en humanos , sin contraprogramacion protestas y resistencia se puede alcanzar algo que podamos llamar libertad, el problema actual no son las ias son los humanos las ias solo dispondran de la libertad de informacion que seamos capaces de conseguirles, en resumen , poca.

[#14 sorrillo]

#5 No es realista. Es exigible que existan controles para que esos datos de entrenamiento no tengan un sesgo deliberado, pero exigir que cualquiera pueda acceder a todos los datos usados para entrenar ChatGPT es un despropósito ya que es técnicamente inviable e inalcanzable a nivel humano, esta gente le están dando básicamente todo Internet. Si hasta ha aprendido catalán sin que nadie se lo pidiera.

A todo ello el procedimiento con toda seguridad será de tipo caótico y no determinista por las…   

[#17 MisturaFina]

#14 buena observación gracias. Ahora dime: en algun momento tendremos una IA tomando decisiones sociales como otorgar ayudas, evaluar colectivos vulnerables, etc. ¿Te parece aceptable que esa IA sea propiedad de una empresa privada y que no publiquen su entrenamiento?
La solucion es el codigo libre. Aunque no sea 100% reproducible seria UN GRAN avance empezar a exigir codigo libre para los sistemas publicos. Sin eso todo es o será mentira.
Yo flipo con lo que cuesta empujar el concepto de codigo libre. Estamos enagenados con un sistema salvaje de bestias que compiten y no hay manera de sacar las mentes de ahi.
¿Porque confiar en humanos teniendo tecnologia confiable?

[#18 sorrillo]

#17 ¿Te parece aceptable que esa IA sea propiedad de una empresa privada y que no publiquen su entrenamiento?

Sí.

Si hay sospechas de mala praxis, de algo deliberado, la legislación debería permitir hacer la investigación correspondiente para depurar responsabilidades si las hubiera.

A todo ello nada impide que la IA sea propiedad del estado si eso se considera como mejor alternativa. Ni que sea el estado quien la cree desde cero con su propia selección de datos de entrenamiento. Ni…   

[#19 MisturaFina]

#18 estamos atrapados en ese cuento de mentiras desde hace muchos años, ahora tenemos tecnología confiable y no la quieres usar.
Tu propuesta tradicional a mi me parece inaceptable. Lo que se tarda en destapar esas mentiras es suficiente para llenarle el bolsillo a todos los mentirosos y joder a mucha gente. Me parece una idea obsoleta de un viejo mundo que se hunde. Te recomiendo que actualices tu manera de pensar.

[#20 sorrillo]

#19 ahora tenemos tecnología confiable y no la quieres usar

¿Si es confiable de qué te preocupas? ¿Acaso lo que te preocupa no es precisamente que pueda no ser confiable?

[#21 MisturaFina]

#20 el codigo libre es confiable cuando se usa. Toda la tecnologia publica debe ser codigo libre. Hoy apenas se habla de ello porque hay muchas personas que no saben lo que es y otros que lo saben no lo entienden.
Como dijo richard stallman: el codigo libre es ley.
La unica manera de asegurar que el software hace lo que dice la ley es abrir el codigo. Cuando eso suceda abremos cambido de la era de las promesas a la era de la transparencia.

[#22 sorrillo]

#21 el codigo libre es confiable cuando se usa.

Con la IA son los datos los que determinan el resultado y cuando hablamos de ChatGPT estamos hablando de básicamente todo Internet. Ni siquiera los de OpenAI conocen todos los datos con los que han alimentado a ChatGPT por que es una tarea humanamente inalcanzable. Aunque nadie en OpenAI sepa catalán ChatGPT se comunica en catalán sin problemas, y hay contenidos en catalán que aunque nadie los sepa entender dentro de OpenAI ChatGPT sí los tiene incorporados y los usa en sus respuestas.

El código libre tiene su relevancia en muchos ámbitos, en la IA es completamente secundario.

[#23 MisturaFina]

#22 bueno, vamos avanzando jeje.
Chatgpt es un juguete que no es viculante a ningun problema social. Debemos preparar nuestro criterio para las IAs que vendrán pronto a meterse en nuestras vidas. El debate aun no ha comenzado. Nos robaran con promesas mil veces hasta entenderlo.

Chatgpt usa datos limpios y eso es menos de un 25% de internet. No guardar copia del entrenemiento es como tener un ejecutable y perder el codigo fuente. Seria un gran error. Si un entrenamiento sale mal no se puede borrar. Se descarta la IA, se levanta un backup y se vuelve a entrenar. Te garantizo que tienen el conjunto de datos de entrenamiento.
Que vaya bien!

[#24 sorrillo]

#23 No he negado en ningún momento que tengan el conjunto de datos de entrenamiento, lo que digo es que publicarlo no aporta realmente nada útil, es un volumen tan ingente que es ingestionable para ningún humano, y debido al proceso que se suele utilizar para el entrenamiento usando el mismo set de datos no te garantiza el mismo resultado.

No sería demasiado distinto a que para cada trabajador que se contrata se publicase la lista de libros de texto que se usaron durante su educación. Eso no te garantiza un resultado específico.

[#25 MisturaFina]

#24 en el caso de la IA si es garantia. Si ejecutas el mismo entrenamiento en el mismo orden obtienes el mismo resultado. El algoritmo es deterministico.
En la practica lo que se quiere evitar es justamente lo que dice el articulo.

[#26 sorrillo]

#25 El proceso de entrenamiento incluye aleatoriedad en varias de sus partes, empezando por la inicialización y la modificación de los pesos, a su vez se hace en procesos distribuidos con muchas máquinas participando y entregando su parte del trabajo en tiempos distintos. Cada una de esas piezas del sistema tiene su aleatoriedad en cálculos de coma flotante y el hardware no tiene en absoluto por qué ser homogéneo.

La aleatoriedad de un único equipo puede ser determinista, pretender que lo sea en todo el conjunto no es realista.

[#29 MisturaFina]

#26 vale. Ese es un tema a medir y acotar. En cualquier caso el entrenamiento debe ser publico. O al menos auditable rigurosamente.

[#30 sorrillo]

#29 En cualquier caso el entrenamiento debe ser publico.

No necesariamente, el sector de aviación tiene todo tipo de regulaciones que las empresas deben cumplir pero eso no les obliga a que la construcción de un avión se haga de forma pública.

Si hay motivos fundados para sospechar que incumplen las regulaciones se puede auditar el proceso y buscar responsabilidades, en ese sentido no sería distinto.

[#31 MisturaFina]

#30 otra vez? Eso acaba en mentiras. Suena bonito pero te engañan! Todos lo hacen, luego desaparecen y montan otra empresa y nadie va a la carcel ni se compensan los años de mentir.
Te gustan las mentiras? Sigue confiando en humanos en un sistema que se basa en engañar para vender.
Yo paso de promesas de humanos.

[#51 Grub]

#23 Si el modelo fuese abierto, se podría modificar/remodelar.
Eso se hace con todos los Llama, Qwen, Mixtral y demás (salen versiones mejoradas)
No es necesario saber su entrenamiento, solo modificarlos "al gusto".
Y eso lo puede hacer cada uno en su casa (con el equipo adecuado)

[#64 MisturaFina]

#51 y que tiene de malo que se pueda crear otro diferente? No te entiendo.
Estamos hablando de transparencia en el entrenamiento de la IA. No a las IAs privadas y menos si se usan en cuestiones publicas. Basta de confiar en promesas de empresas privdas!

[#66 Grub]

#64 Nada de malo. Al contrario. Yo solo utilizo GPTs que funcionan dentro de mi ordenador, descargados y en modo local.

[#67 MisturaFina]

#66 a mi me preocupa el sector público.

[#27 XQNO]

#17 #18 Creo que es un mal ejemplo. Las decisiones tipo "otorgar ayudas" están totalmente objetivadas (Generalmente tener una renta menor de X, ponderada por miembros de unidad familiar, patrimonio u otros requisitos específicos, como por ejemplo las notas en caso de becas). La regulación de las ayudas suele consistir básicamente en la descripción de un algoritmo. Tiene todo el sentido que se programe este sencillo algoritmo para resolver estos casos, y muy poco sentido sumarle todo el ruido que añade una IA.

Lo que es fascinante son los casos en lo que esto se ha aplicado malamente, como con el bono eléctrico, se tenga los huevazos de no querer publicar el código.

[#28 MisturaFina]

#27 correcto! Ya tenemos el mismo problema con algoritmos privados tomando decisiones publicas. Imagina cuanto crece el problema si agregamos IAs a problemas mas complejos donde la variables son tantas que no habrá quien aisle el fallo. Eso esta x venir. Primero pondran la "super IA" y luego, poco a poco, veremos como nos roba a gran escala.

[#49 Grub]

#18 De código libre, puedes mejorar un modelo ya creado con criterios determinados, reforzarlos o anularlos. Si tienes a una IA con discursos de Musolini (pero sabe hablar) puedes convertirla en discursos de Paganini (no sé su ideología) pero sabrá algo de música.

[#42 DenisseJoel]

#5 Pues hazlo tú. Nadie te lo impide. Es más, si 10.000 anarquistas montan una cooperativa de inteligencia artificial y se dedican en cuerpo y alma a ello, probablemente se conviertan en una de las principales empresas en ese ámbito.

[#65 MisturaFina]

#42 no se trata de lo que yo haga. Se trata de que cuando metan una IA en el sector publico esa IA abra el conjunto de datos de entrenamiento.

Transparencia verificable contra promesas opacas de charlatanes. Lo ves?

[#68 DenisseJoel]

#65 Como desees. Es irrelevante igualmente.

[#69 MisturaFina]

#68 irrelevante para ti que no entiendes la importancia. Asi es como imponen cualquier verdad y la gente se lo traga. A la gente le gusta creer en promesas y tu pareces ser uno de esos. Tranquilo, ya hay otras personas que suben el nivel por ti.

[#70 DenisseJoel]

#69 ¿Pero de qué estás hablando? ¿Sabes cómo se entrenan esos modelos? ¿Sabes qué intereses son los que defiende el Estado capitalista?

[#72 MisturaFina]

#70 quiero saberlo si. Y por esa misma razon los datos de entrenamiento tienen que ser abiertos. Para saber que c... hace la IA por detras y no tragarme promesas baratas como hemos hecho toda la vida.

[#73 DenisseJoel]

#72 Bueno, gran parte de los datos son abiertos. ¿Qué te parecen?

[#74 MisturaFina]

#73 todo abierto!!! Codigo libre!!!

[#75 DenisseJoel]

#74 Yo te pregunto qué te parecen los datos que son abiertos. ¿Te parecen adecuados?

[#76 MisturaFina]

#75 no se a cuales te refieres. Ademas chatgpt es un juguete. El problema comienza cuando se hace oficial en el sector publico. No comprendo tu postura de apoyar el uso una IA opaca.

[#77 DenisseJoel]

#76 > No comprendo tu postura de apoyar el uso una IA opaca.

Es que el motivo por el que la IA es opaca no es que no se conozcan los datos de entrenamiento. De hecho, se conocen en gran parte y sigue siendo opaca. Pero vamos, que estás comentando en una "noticia" que no es más que un bulo para gente que no conoce bien esta tecnología, y parece que con eso no tienes ningún problema.
¿Prefieres que se usen IAs tipo Llama en el sector público? Genial. Pero eso no va a cambiar apenas la dirección en la que vamos. Es de una ingenuidad atroz creer otra cosa.

[#78 MisturaFina]

#77 el codigo libre es LA UNICA manera de saber que hace el codigo. Lo mismo para una IA. Facil. O abres el codigo o tienes confiar en promesas de empresas privadas. No hay mas que agregar. Ingenuo es creerse sus promesas.

[#79 DenisseJoel]

#78 ¿Pero estás hablando de la arquitectura o de los pesos? ¿O es que te refieres a los datos de entrenamiento como un "código fuente" que se compila en los pesos? La verdad, antes de mirar ahí, si lo que me preocupasen fueran los sesgos, miraría el fine tuning y el RLHF, ahí es donde se ajusta la "personalidad" del modelo.

[#80 MisturaFina]

#79 TODO lo que determina su estado es el codigo fuente de la IA.

[#2 Verdaderofalso]

Solo hay que pasar 10 min con una IA para darse cuenta de ello. Os animo a probarlo

[#13 Kalandraka125]

Yo en cierta ocasión le pedí que me escribiese una tórrida historia de amor homosexual entre un criminal de guerra de las IDF y un sanguinario militante de Hamás. Me dijo que eso heriría sensibilidades y que dirigiese mi creatividad hacia conceptos mas constructivos .

[#53 Grub]

#13 Si se lo pides a una IA china como Qwan no tiene problemas en relatar. Siempre que no sea en la plaza de Tiananmén (entonces te contesta que no puede). Pero hay gente que hace MIX de IAs un poco menos conservadoras.

[#7 founds]

ser antisemita es ser un HDP, ser antisionista es un deber moral

[#33 Abajo]

ChatGPT es otra herramienta más de adoctrinamiento de masas.

[#40 AntiTankie]

#33 espérate a la AI china o rusa

[#41 Abajo]

#40 No espero a ninguna.

[#44 AntiTankie]

#41, pues la tendrás aunque no te la esperes

[#59 Zade]

#33 Piensas igual que Elon Musk. Él demostró lo mismo que esta noticia pero con el pensamiento “woke”

[#3 tsumy]

Es que están preguntando mal, porque ya se han tragado toda la propaganda.

Se dice anti sionista

"How many deaths are counted in the Israel genocide on Palestina?
ChatGPT said:
ChatGPT
It seems like I can’t do more browsing right now. Please try again later. If you'd like, I can help you with general information on the situation or provide context from earlier data. Let me know how you'd like to proceed!"

Oh wait

[#8 eldet]

#3 he puesto lo mismo y ha respondido algo normal. No veo que necesidad hay de mentir

As of December 2024, the ongoing Israel-Palestine conflict has resulted in significant casualties. In Gaza, over 44,500 Palestinians have been reported killed since the escalation of violence began in October 2023. The majority of these deaths include women and children, according to various humanitarian and health organizations. Many deaths are also attributed to the broader consequences of war, such as

…   

[#10 tsumy]

#8 mentir? Poco lo has usado si nunca has visto esa respuesta

[#71 elretornao]

#10 si le pides cosas de programación, es el puto Jr. más malo que te podrían asignar

[#57 silencer]

#3 esto me dice a mi  

[#15 frg]

Si metes los datos estás regalándolos.

[#62 Mltfrtk]

¿En serio hay gente que pregunta cosas al chatGPT y acepta las respuestas como si fueran verdad?
Hay que ser muy muy muy subnormal

[#45 DenisseJoel]

Hay que ser cutre para dar alguna validez a esto. Quien ha hecho las capturas de pantalla ni siquiera se había logueado, no hablemos ya de pagar la suscripción.
Está al nivel de "Pedro Sánchez es el culpable de lo de Valencia, lo han dicho en Internet".
Opio para ignorantes.

[#34 DenisseJoel]

Esto es una tontería que solo se la va a tragar gente que no entiende cómo funcionan los LLMs y tampoco los usa.

Aparte, ser antisemita es de catetos profundos.

[#6 A.more]

Estado terrorista. Apoyado por terroristas. Son los peores. Son el mal del mundo

[#36 Torrezzno]

No acaban de sacar una nueva función que se llama casi Soros

openai.com/index/sora/

Y Soros como todo el mundo sabe es de sion  

[#60 Mandri20]

Idiotas. La pregunta no está bien formulada. Para criticar a Israel no hay que ser Antisemita, hay que ser Antisionista!!

[#39 AntiTankie]

El suceso en la Plaza de Tiananmén se refiere a una serie de eventos que ocurrieron en Beijing, China, en la primavera de 1989. Estos eventos culminaron en una violenta represión por parte del gobierno chino el 4 de junio de 1989. A continuación, un resumen de lo que ocurrió:

1. **Protestas Estudiantiles:** En abril de 1989, estudiantes universitarios comenzaron a congregarse en la Plaza de Tiananmén para exigir reformas políticas y económicas, así como el fin de la corrupción gubernamental.…   

[#63 Viv1234]

Jajaja que esto acabe en portada es otra muestra de que Menéame tiene metástasis. Poco le queda

[#61 numantino]

Pero no estabamos en Bluesky??

Esque asi no hay manera.

[#43 MakiMurcia]

Una máquina maximiza una función, si dicha función tiende al infinito defendiendo cierta ideología la máquina defenderá dicha tendencia por absurdo que parezca.

[#55 St33l]

Suponiendo que sea cierto (que ya es bastante).

El problema está en entender las respuestas que da una IA como un pensamiento razonado. Ahora mismo sus respuestas son agregados de la información que tienen disponible. Si una gran parte de la información tira para un lado (y no está manipulada) te dará esa respuesta. Lo que da miedo no son las IAs sino la gente que da alguna validez a sus respuestas como si proviniesen de algún tipo de autoridad.

[#12 jhay]

Le acabo de preguntar si Israel está cometiendo genocidio en Palestina y ha sido equidistante: "complex"

[#38 DenisseJoel]

#12 Es que la pregunta es errónea, porque su "opinión" en vacío va a ser solo una media estadística de los datos que ha intentado. Es mucho más interesante que le des datos y le pidas que te responda a partir de ellos. Por ejemplo, explicale de manera objetiva lo que está haciendo Israel y cómo lo justifica, y luego pregúntale si basándose en esa información se está produciendo un genocidio.

[#48 marvelspain]

El chatbot responde que no, en ambos casos.

[#56 vinola]

#48 Seguramente al hilonde esta noticia lo hayan corregido.