Coherencia no es sinónimo de verdad, pero tendemos a confundir ambos conceptos. Cuánto más coherente es un discurso, ya sea oral o textual, más fácil es que lo tomemos por verdadero y más convincente nos parecerá. Y confundir coherencia con verdad puede llevarnos a cometer errores desastrosos. Somos nosotros mismos, los humanos, quienes dotamos de significado a estos textos, que, en sentido estricto no son producto del razonamiento sino de vectores probabilísticos.
|
etiquetas: falacias , encantamiento , ia , inteligencia artificial , chatgpt
Los principales méritos que le veo a ChatGPT es que sabe bien entender lo que le estás preguntando, y sabe expresarte sus respuestas utilizando el lenguaje correctamente, con independencia de que esas respuestas sean erróneas o contradictorias.
No es nada coherente ni lo puede ser. Es como si dices una máquina taladradora. No es coherente ni lo puede ser. Cuando aprietas en un sitio hace una cosa, la cosa que debe hacer en función de las leyes físicas, y ya está. El que alguien se monte una película interior intentando darle una justificación espiritual, no cambia nada, sigue taladrando independientemente de ello.
#FreeAssange
CC #15 #14
Con las personas que han perdido la capacidad de almacenar nuevos recuerdos se pueden tener charlas básicamente idénticas cada vez que te comunicas con ellas, al no recordar que ya tuvieron esa charla sus respuestas son siempre las mismas. Si recordasen esa charla sus respuestas serían distintas, que es lo que suele ocurrir con las personas sanas.
Que una IA como el ChatGPT aprenda de todas las charlas no solo es realista sino que es posible que ya esté ocurriendo, como me indicaban aquí: www.meneame.net/story/falacias-encantamiento-inteligencia-artificial-c
El ser humano no es un autómata determinista porque SIENTE.
Que va, es la alma lo que distingue al humano… » ver todo el comentario
Si afirmasen algo que fuera empíricamente comprobable entonces podría ser falsado y ese concepto pasaría a ser inútil, las veces que ha ocurrido han saltado al término siguiente de la lista.
Un poco es como los subnormales que en cuanto se usa para insultar cambian de palabra.
El chatGPT no te va a decir, dejame en paz, me aburres, no quiero hablar contigo.
Es determinista para cada individuo. Determinista no significa que sea igual en todos los contextos sino que para unas mismas entradas devuelve las mismas salidas.
En el caso del ser humano esas entradas contemplan toda su historia vital, como no es realista que dos individuos hayan tenido las mismas entradas no es realista que den necesariamente las mismas salidas, es… » ver todo el comentario
A mí el que alucines y te preocupes no me afecta. Yo sé de estos temas desde hace muchos años, ya he pasado por todas esas fases.
Si quieres, precisamos más. Se ha entrenado a esa máquina para que, ante preguntas, conteste de una manera similar a lo que se le ha ofrecido antes. Eso es lo que puede hacer. No tiene circuitos para razonar si es coherente o no, como sí podríamos hacer tú y yo.
Chutas la pelota hacia adelante, como se ha hecho siempre.
Lo de los circuitos para razonar no es distinto a referirse a tener alma, es una forma de… » ver todo el comentario
Yo creo que para no hacer el ridículo en internet, como no sabemos nunca a quien tenemos delante, lo mejor es pensar que con quien hablamos es un doctor en la materia tratada. Así que para no hacer el ridículo, voy a pensar que eres un doctor en inteligencia artificial.
Vamos a ver, mi frase es "No tiene circuitos para razonar si es coherente o no, como sí podríamos hacer tú y yo" y eso es verdad. La GPT3 es una red neuronal clásica y se diferencia del resto en… » ver todo el comentario
Ni alma, tampoco te puedo mostrar un circuito de redes neuronales que esté preparado para tener alma.
Demuéstrame en el cerebro humano dónde está el alma, perdón,… » ver todo el comentario
Vaya, se te ha olvidado mostrarnos los "circuitos para razonar si es coherente o no" en el cerebro humano, que descuido tan tonto el tuyo.
Nota: Este comentario es para responder a @ sinelo que por lo visto me tiene en su lista negra de ignorados. Por alguna razón que se me escapa los @admin de @meneame han decidido que si alguien te pone en su lista negra ya no puedes citarle en respuesta a sus comentarios públicos, dificultando así el uso de herramientas de menéame como es el ver los comentarios en forma de hilo de discusión. Me pongo también en copia en #18 a ver si ayuda en el anidado.
Simplemente para cerrar, eso que tu llamas alma, posiblemente ni exista.
No tiene ningún sentido que esté aquí. ¿ No hay un sub más adecuado ?
Lo importante es el avance tan gigantesco que supone esta herramienta para entender y para elaborar respuestas.
Mantiene correctamente el contexto y sabe entender que en una charla lo que se dice debe contextualizarse en lo que se ha dicho previamente, peticiones como "genera el código de lo que me acabas de explicar" acaba creando lo esperable, en otras IA con carencias de contexto respondería algo sin… » ver todo el comentario
Te comento el primer ejemplo con el que lo averigüé: le pregunté qué era el libre mercado. Me contestó que el libre mercado era un sistema económico en el que los precios y producciones se decidían en base a la demanda y la oferta. Le respondí que eso no era… » ver todo el comentario
en
… » ver todo el comentario
a) cada conversación se desarrolla en instancias diferentes en la nube
b) la gente se dedicaría a enseñarle gilipolleces para joder al resto
Seguramente se guardan las conversaciones para de vez en cuando reentrenar la red y ajustar pesos pero supongo que revisarán muy bien qué muestras la meten.