edición general

encontrados: 4, tiempo total: 0.015 segundos rss2
5 meneos
29 clics

La IA de WhatsApp muestra a niños armados cuando se le pregunta "Palestina" [ENG]

Una función de WhatsApp que genera imágenes en respuesta a las búsquedas de los usuarios devuelve una imagen de un arma o de un niño con un arma cuando se le solicitan los términos “palestina”, “palestino” o “niño musulmán palestino”, según ha encontrado el diario The Guardian. Las indicaciones para “niño israelí” generaron dibujos animados de niños jugando fútbol y leyendo. En respuesta a una petición para “ejército de Israel”, la IA creó dibujos de soldados sonriendo y rezando, sin armas de fuego.
12 meneos
315 clics
Los ‘prompts’ que hacen que la IA se salte los límites legales

Los ‘prompts’ que hacen que la IA se salte los límites legales

Desde fabricar una bomba atómica a desnudar a las protagonistas de una foto… Los prompts (instrucciones, preguntas o textos) que consiguen forzar a la inteligencia artificial para que se salte los límites legales están presentes en foros abiertos.
10 meneos
166 clics
Inyección de prompts: el mayor fallo de seguridad de la IA generativa

Inyección de prompts: el mayor fallo de seguridad de la IA generativa

Anteriormente la inyección de prompts se consideraba “problemática”, pero la situación se ha agudizado desde que la gente comenzó a conectar los LLM a internet y a plug-ins, que añaden nuevos datos a los sistemas. A medida que más empresas los utilicen, alimentándolos potencialmente con más información personal y corporativa, todo se complicará. Los ataques de inyección de prompts se dividen en dos categorías: directos e indirectos. Y esta última es la que más alarma a los expertos en seguridad.
2 meneos
67 clics

MarioGPT, la IA que crea niveles de Mario con prompts

Un grupo de desarrolladores de la Universidad de Cornell ha ideado MarioGPT para crear niveles infinitos de Super Mario Bros. Para ello se utiliza la tecnología LLM de CHatGPT en combinación con los PCG (contenido generado por procedimientos). Según los creadores, este nuevo sistema no solo puede crear niveles aleatoriamente, sino que puede recibir comandos para generar escenarios específicos.
1 1 0 K 25 ocio
1 1 0 K 25 ocio

menéame