Anteriormente la inyección de prompts se consideraba “problemática”, pero la situación se ha agudizado desde que la gente comenzó a conectar los LLM a internet y a plug-ins, que añaden nuevos datos a los sistemas. A medida que más empresas los utilicen, alimentándolos potencialmente con más información personal y corporativa, todo se complicará. Los ataques de inyección de prompts se dividen en dos categorías: directos e indirectos. Y esta última es la que más alarma a los expertos en seguridad.

Científicos de Google y la Universidad de Stanford han creado una ciudad virtual habitada por agentes generativos entrenados por ChatGPT. Este proyecto se ha inspirado en simuladores como Los Sims y estos avatares han sido introducidos para que hagan conclusiones sobre sí mismos, otros avatares y su ciudad al recoger información que almacenan en su memoria. Lo curioso de este experimento es que estos agentes han mostrado un comportamiento muy humano con planes coordinados, conversaciones plenas e incluso reuniones de amigos en bares.

La incógnita era clara: ¿realmente puede una IA programar? (...) Precisamente esa capacidad y esas mejoras planteadas en GPT-4 nos han hecho preguntarnos si este modelo cambia aún más las cosas para los programadores. Y para responder a esa pregunta hemos querido preguntar a dos expertos en este ámbito, que nos han dado su opinión sobre estas plataformas, su alcance y, por supuesto, su futuro.

BLOOM está entrenado para generar texto un total de 59 idiomas: 46 de ellos naturales (incluyendo español, catalán y vasco) y 13 de ellos de programación. Pero, ojo: que BLOOM esté sometido a una licencia libre no significa que su uso tenga que ser necesariamente gratuito.…de modo que Hugging Face podría estar cobrando por el uso de BLOOM si quisiera (por ahora, sólo te pide que te registres en su web). Sin embargo, su licencia evita que esta compañía tenga el monopolio del modelo...

No es la primera vez que hablamos sobre arte generado por inteligencias artificiales, y definitivamente no será la última. Sin embargo, debemos reconocer que la interacción de los usuarios con esta tecnología es cada vez más sencilla, dando lugar a desarrollos en verdad impresionantes. Uno de los mejores ejemplos en la Web es Wombo.art: Lo único que pide a cambio es una frase, una idea o un personaje… y sus resultados son espectaculares. Enlace directo: app.wombo.art/

En Genbeta largo y tendido hemos hablado sobre los avances en inteligencia artificial que han permitido desarrollar cosas como las GAN, esas redes neuronales capaces de crear rostros de personas que no existen, rostros que en muchos casos podemos ver y usar para lo que nos plazca.

Ayer estaba leyendo una noticia que dice una cosa en el primer párrafo y la contraria en el siguiente. Pensaba que había entendido algo mal… Hasta que llegué al final y vi una coletilla que decía «Este contenido se produjo parcialmente con la ayuda de herramientas de IA…» Y entonces lo entendí todo. Así que me hizo gracia encontrar al cabo de un rato First Came ‘Spam.’ Now, With A.I., We’ve Got ‘Slop’. En él hablan de slop como un término que se está popularizando en inglés para referirse a los contenidos de calidad pésima producidos por IA.

Un estudio de International Monetary Fund (IMF) señala que “A diferencia de las anteriores oleadas de automatización, que tuvieron más impacto en trabajadores de cualificación media, el riesgo de desplazamiento por la IA se extenderá ahora a los trabajadores altamente cualificados y con los salarios más altos”.

Más de 170 imágenes e información personal de niños de Brasil han sido extraídas de un conjunto de datos de código abierto sin su conocimiento o consentimiento, y empleadas para entrenar la inteligencia artificial (IA), señala un nuevo informe de Human Rights Watch publicado el lunes.De acuerdo con este, las imágenes se obtuvieron de contenidos publicados en fechas tan recientes como 2023 y tan lejanas como mediados de los noventa, mucho antes de que cualquier usuario de internet pudiera prever que su material se utilizaría para entrenar la IA.

Qwen2 pulveriza al modelo de lenguaje de Meta según los benchmarks publicados por la comunidad que mantiene el modelo

Dos sentencias sobre agresiones sexuales a menores gitanas usan subjetividades estereotipadas y racistas, como la falsa normalidad de los matrimonios de niñas de 12 años

Tres veces más fuertes que los actuales imanes superconductores basados en hierro, este desarrollo podría hacer que las máquinas de resonancia magnética sean más pequeñas y más baratas que nunca. También se pueden utilizar en la próxima generación de transporte, incluido el sistema ferroviario SCMaglev en Japón. dx.doi.org/10.1038/s41427-024-00549-5

La popular red social china Kuaishou ha lanzado Kling, un innovador modelo de generación de video que promete transformar la manera en que creamos y compartimos contenido audiovisual. Esta avanzada tecnología permite generar videos de hasta 2 minutos de duración en Full HD, simplemente a partir de texto, marcando un hito en la integración de inteligencia artificial y creación multimedia.

Mientras que entrenar modelos de IA consume 6.000 veces más que una ciudad europea, los bioprocesadores prometen ahorros drásticos en el gasto energético. La empresa de tecnología suiza Final Spark ha lanzado con éxito Neuroplatform, la primera plataforma de bioprocesamiento del mundo donde los organoides del cerebro humano (versiones miniaturizadas de órganos cultivadas en laboratorio) realizan tareas computacionales en lugar de chips de silicio. Final Spark ha hecho posible trabajar con estos variados componentes a través de una configuración

Una y otra vez, destacados científicos, tecnólogos y filósofos han hecho conjeturas espectacularmente terribles sobre la dirección de la innovación. Ni siquiera Einstein fue inmune, al afirmar: "No hay el menor indicio de que la energía nuclear vaya a obtenerse nunca", sólo diez años antes de que Enrico Fermi terminara la construcción del primer reactor de fisión en Chicago. Poco después, el consenso pasó al temor de un holocausto nuclear inminente.

LlamaFS es un gestor de archivos autoorganizado. Renombra y organiza automáticamente tus archivos basándose en su contenido y en convenciones bien conocidas (por ejemplo, la hora). Soporta muchos tipos de archivos, e incluso imágenes (a través de Moondream) y audio (a través de Whisper). LlamaFS se ejecuta en dos "modos": como trabajo por lotes (modo batch) y como demonio interactivo (modo watch). En el modo por lotes, puede enviar un directorio a LlamaFS, y éste le devolverá una estructura de archivos sugerida y organizará sus archivos.

Como ya sabéis, Carlos Santana Vega a.k.a. "DotCSV", el famoso divulgador tecnológico que habla de IA, será el cabeza de cartel en la nueva edición de OpenExpo Europe 2024: "The Power of GenAI" , donde yo le haré de telonero. Pero antes del evento, mis queridos compañeros Pablo González y Philipe Lardy, estuvieron un ratito con él para hacerle una entrevista, que tienes aquí.

Ignacio Hernández, fundador de Savana: “La IA va a entrar en el sistema sanitario porque lo que hay falla mucho” El neurólogo, dueño de la startup sanitaria, opina que hay que cambiar la forma en la que se gestionan los datos y apunta que la crisis generalizada de los sistemas de salud forzará el uso de la inteligencia artificial

LeCun, jefe científico de IA en Meta, no está de acuerdo con el catastrofismo de Musk... que considera hipócrita teniendo en cuenta que éste está ampliando la plantilla de su propia empresa de IA

El 25 de mayo Prime Video estrenó tres series coreanas, con su audio original en coreano y subtítulos en múltiples idiomas, además de doblaje en español. La sorpresa de los suscriptores fue toparse con un doblaje compuesto por voces robóticas y sin ningún sentimiento, claramente generadas por IA. Por supuesto, tampoco hay créditos de doblaje que revele los "nombres" encargados de estos proyectos.

En los últimos meses, la inteligencia artificial (IA) no ha hecho más que aumentar la proliferación de estafas contra los usuarios. Esta vez, son las grandes empresas tecnológicas las que deciden unirse en una coalición para combatir el fraude online y los engaños financieros. Match Group, Meta y Coinbase acaban de formar Tech Against Scams, una alianza cuyo objetivo es “actuar contra las herramientas utilizadas por los estafadores, educar y proteger a los consumidores, y desarticular las estafas financieras de rápida evolución”.

El miércoles, 97 trabajadores de África que realizan tareas de entrenamiento de la IA o de moderación de contenidos online para empresas como Meta y OpenAI publicaron una carta pública al presidente Biden, exigiendo que las compañías tecnológicas de Estados Unidos dejen de “abusar y explotar sistemáticamente a los trabajadores africanos”.

De los creadores de "Sí, hubo soldados nazis negros en la Alemania de Hitler", hoy nos llega una nueva entrega de divertidas (pero inaceptables) alucinaciones de inteligencia artificial: los resultados con IA del buscador Google están arrojando hechos curiosos y completamente falsos, entre los que llama la atención el descubrimiento de que los perros han jugado alguna vez en la liga profesional de baloncesto de Estados Unidos, o la recomendación de añadir pegamento a una pizza.

El otro día escuché por enésima vez una de las más famosas historias de quejas intergeneracionales de personas mayores viendo cómo los jóvenes «pierden los valores», en concreto la del famoso texto sumerio (que a veces es griego, egipcio o similar) que muestra que las brechas entre generaciones han existido desde siempre. Así que decidí tirar por lo rápido y ver qué me decían las IAs.