Meta ha presentado Llama 3, un gran modelo de lenguaje de próxima generación que llama “el LLM de código abierto más capaz hasta el momento” (un descaro?). La compañía ha lanzado dos versiones, Llama 3 8B y Llama 3 70B, respectivamente, con 8 y 70 mil millones de parámetros. Según la empresa, los nuevos modelos de IA son significativamente superiores a los modelos correspondientes de la generación anterior y se encuentran entre los mejores modelos de IA generativa disponibles actualmente.

Mente oficialmente volada: Grabé una captura de pantalla de una tarea (buscar un apartamento en Zillow). Gemini fue capaz de generar código Selenium para replicar esa tarea, y describió todo lo que hice paso a paso. Incluso captó que mi umbral estaba fijado en $3K, aunque no lo seleccioné explícitamente.

Se trata de una introducción de una hora de duración a los modelos de grandes lenguajes: el componente técnico básico de sistemas como ChatGPT, Claude y Bard. Qué son, hacia dónde se dirigen, comparaciones y analogías con los sistemas operativos actuales y algunos de los retos relacionados con la seguridad de este nuevo paradigma informático. Actualizado a noviembre de 2023 (¡este campo se mueve rápido!).

Recientes investigaciones de un grupo de científicos de la Universidad de Carolina del Norte en Chapel Hill han arrojado luz sobre un asunto particularmente delicado en el ámbito de la inteligencia artificial (IA): la dificultad de eliminar datos confidenciales de los grandes modelos de lenguaje (LLM), tales como ChatGPT de OpenAI y Bard de Google. Los LLM son herramientas de IA extremadamente sofisticadas, preentrenadas con vastas cantidades de datos para luego ser afinadas y generar respuestas coherentes a las entradas que reciben.

Mistral 7B. Aunque el modelo, que consta de 7.000 millones de parámetros, es aclamado por su precisión y eficiencia, también ha generado controversia por sus respuestas no moderadas. Mistral 7B es descrito por la empresa como un modelo más preciso que otros con el doble de su tamaño. Sin embargo, lo que ha generado más polémica es la falta de moderación o «censura» del contenido que puede generar. De hecho, el modelo puede proporcionar información sobre cómo fabricar una bomba, entre otras respuestas peligrosas.

LAION es una organización sin ánimo de lucro que tiene como objetivo fomentar la adopción responsable de la inteligencia artificial (IA) a través de una red abierta. Se dedica a proporcionar conjuntos de datos, herramientas y modelos de aprendizaje automático para impulsar la investigación y la educación en este campo. Su enfoque se centra en la reutilización de recursos existentes para promover un uso eficiente y respetuoso con el medio ambiente.

Google actualizó su política de privacidad para indicar que puede usar datos disponibles públicamente para ayudar a entrenar sus modelos de IA. El gigante tecnológico cambió la redacción de su política durante el fin de semana y cambió los "modelos de IA" por "modelos de lenguaje". También declaró que podría usar información disponible públicamente para crear no solo funciones, sino productos completos como "Google Translate, Bard y capacidades de inteligencia artificial en la nube". Al actualizar su política, está informando a las personas...

La AI Village de DEF CON de este año ha invitado a los hackers a presentarse, sumergirse y encontrar errores y sesgos en los grandes modelos de lenguaje (LLM) creados por OpenAI, Google, Anthropic y otros. El evento colaborativo, que los organizadores de AI Village describen como "el mayor ejercicio de red teaming jamás realizado para cualquier grupo de modelos de IA", acogerá a "miles" de personas, incluidos "cientos de estudiantes de instituciones y comunidades ignoradas", que tendrán la tarea de encontrar fallos en los LLM (...)

Cuando la IA puede imitar cadenas de palabras humanas mediante "computación sin sentido", ¿qué dice eso sobre las cadenas de palabras humanas?. Los mejores modelos de lenguaje generativo como ChatGPT-4 aún nos sorprenden con lo que pueden y no pueden hacer. Y eso es por una razón aparentemente simple: una IA todavía no "entiende" lo que está haciendo. Ni siquiera puede “saber” lo que queremos de él; solo desciende a cualquier función de recompensa que se le dé.

Cada vez preocupa más el posible uso indebido de los modelos de aprendizaje automático molecular con fines nocivos. En concreto, la aplicación de doble uso de modelos de predicción de citotoxicidad18 para crear nuevos venenos o el empleo de AlphaFold2 para desarrollar nuevas armas biológicas ha hecho saltar las alarmas. En el centro de estas preocupaciones se encuentra el posible uso indebido de grandes modelos lingüísticos y la experimentación automatizada con fines de doble uso o de otro tipo. En concreto, abordamos dos cuestiones críticas.

[...] Un solo estafador, con su portatil en cualquier parte del mundo, puede ahora ejecutar cientos o miles de estafas en paralelo, día y noche, con blancos en todo el mundo, en cualquier idioma posible. Los chatbots no necesitan dormir y se adaptarán a sus objetivos continuamente. Y nuevos mecanismos, desde los Plugins de ChatGPT a LangChain, harán posible la unión de IAs con miles de APIs de servicios en la nube y herramientas open source, haciendo posible que las IAs interactúen con internet como hacen los humanos

ChatGPT de OpenAI tomó al mundo por sorpresa, acumulando rápidamente más de 100 millones de usuarios activos solo en enero. Esta es la aplicación más rápida que haya crecido hasta este tamaño, con los dos registros anteriores siendo TikTok a los 9 meses e Instagram a los 2,5 años. La pregunta principal en la mente de todos es cuán disruptivos serán los LLM para la búsqueda. Microsoft sacudió al mundo esta semana con su anuncio de Bing, incorporando la tecnología de OpenAI en la búsqueda.

de conocimiento científico (ENG) Galactica puede almacenar, combinar y razonar sobre contenido científico, dice el equipo de investigación. En puntos de referencia como el MMLU matemático, supera con creces a los modelos de lenguaje más grandes como Chinchilla (41,3 % a 35,7 %) o PaLM 540B (20,4 % a 8,8 %). Para las pruebas de conocimientos técnicos, como las ecuaciones de LaTeX, Galactica supera a GPT-3 en un 68,2 % frente a un 49,0 %. Galactica también logra nuevos récords (77,6% y 52,9%) en responder preguntas técnicas de biología