Los bots tienen la misma probabilidad de caerse que todo lo demás en la nube. Uno comentó : "quién eliminó openai, tengo un código que debe escribirse". Otro comentó : "Algunos jóvenes sudan porque openai está caído y ya no pueden fingir".
|
etiquetas: chatgpt
Es un "fallo" de diseño
“ ChatGPT puede cometer errores. Considera verificar la información importante.”
www.newtral.es/alucinaciones-ia-fallos-inteligencia-artificial-confabu
Por eso ahora lo que se hace es usar Copilot, que busca en Internet la información para responder y la redacta a partir de ahí, mostrando las fuentes de sus respuestas y tú mismo puedes comprobar de dónde saca la información.
Si me dijeras dependencia total de Internet te lo compro, pero de ChatGPT ni por asomo.
Hace unos días empecé a experimentar con ChatGPT. Nada serio, solo jugar. Todo iba bien, como cabía esperar: un “sentido del humor” pésimo y unas respuestas políticamente correctas hasta llegar a contradecirse. Como un humano idiota, vamos.
Pero al segundo día se me ocurrió preguntarle si conocía el significado de una palabra secreta inventada por mí y que solo yo uso.
Pues bien, para mi sorpresa respondió que sí conocía esa… » ver todo el comentario
Las alucinaciones son un problema presente en las redes neuronales desde siempre y nadie sabe a qué es debido.
No tiene nada que ver con este caso, donde se ha recibido una respuesta perfectamente normal. Se pregunta por un significado y se da un significado. El que los datos proporcionados sean inventados es normal, estos trastos no hacen otra cosa. Es precisamente su función.
Una alucinación es una respuesta no relacionada con los datos de entrenamiento.
Ha hecho exactamente lo que decía su programa.
Ni razona, ni piensa ni tiene intencionalidades en sus respuestas
¿Por qué no reconoció desde un principio que desconocía esa palabra? ¿Por qué complicar las cosas?
Nada indispensable, pero ahorrar tiempo es el mejor dividendo a mí entender que te puede dar el dinero.
O para generar código repetitivo, o resúmenes de textos... etc
Date tu tiempo.