Actualidad y sociedad
10 meneos
42 clics
Apple retira su sistema automático de alertas tras divulgar noticias inventadas

Apple retira su sistema automático de alertas tras divulgar noticias inventadas

El servicio de la tecnológica basado en inteligencia artificial difundió titulares falsos con el logotipo de la BBC o de ‘The New York Times’

| etiquetas: apple , bulos , noticias inventadas , queja , bbc , the new york times
Pues claro. Los LLM hacen esto constantemente.

Estaba yo ayer haciendo una búsqueda sobre un tema legal. Le hice una pregunta complicada a Perplexity y me soltó una afirmación categórica sobre el tema. Este LLM te da los links a las páginas web de donde lo ha sacado. Resultó que esas páginas hablaban de otra cosa muy distinta y el LLM había redactado la respuesta a mi pregunta pegando texto de ahí. Era totalmente inaplicable y, como descubrí un ratito después, la afirmación que había dado era totalmente falsa y lo contrario era cierto.

Quién esté interesado en esto de la AI debe mirarse los videos que hay explicando comno funciona una red neuronal. Es que si no, no lo va a entender.
#1 si lo único que se necesita es comprender que aunque lo llamen IA no es inteligente ni razona, simplemente es un predictor de texto con esteroides, si lo usas con eso en mente pues le puedes sacar mucho jugo
#3 La red neuronal que se ha tragado todo el texto que existe, solamente puede predecir la palabra más probable que sigue a un texto dado. Ça c'est tout. Para producir un párrafo entero es preciso que "algo" vaya llamando al invento repetidamente. A ese software se le llama "el modelo". Hace muchas cosas más. Por ejemplo Perplexity tiene una colección de plantillas de respuesta y escoge una cada vez que recibe una pregunta. El texto que se genera es para rellenar la plantilla.
#1 en eeuu han habido muchos casos de IAs inventandose completamente los casos, para derecho no te puedes fiar de una.
La "I" en I.A. es puro marketing.
Nos están mintiendo continuamente por inteligencia artificial de todos los días todas las televisiones de todas las radios, yo hubiera dejado qué más da.
La IA generativa genera lo que genera, no debería llamarse inteligencia, Creatividad artificial, si acaso.
comentarios cerrados

menéame