Durante el Foro de Seguridad de Aspen, se presentó la Coalición para una IA Segura (CoSAI). La creación de CoSAI surge de la necesidad urgente de unificar y estandarizar las prácticas de seguridad en IA. Actualmente, proteger estos sistemas es una tarea dispersa, con desarrolladores enfrentando una variedad de directrices y estándares inconsistentes, lo que complica la evaluación y mitigación de riesgos específicos de la IA, incluso para organizaciones experimentadas.

Un pirata informático violó los sistemas de mensajería interna de OpenAI a principios del año pasado, robando detalles de cómo funcionan las tecnologías de OpenAI a los empleados. Aunque el pirata informático no accedió a los sistemas que albergan tecnologías clave de inteligencia artificial, el incidente generó importantes preocupaciones de seguridad dentro de la empresa. Además, incluso planteó preocupaciones sobre la seguridad nacional de EE. UU., informa el New York Times.

Si bien se trata de un ataque que requiere de ciertos elementos sofisticados para su ejecución, nunca está de más tener presente hasta qué punto pueden acabar expuestos nuestros datos. Cabe señalar que esta técnica, según los investigadores, no solo funciona con ChatGPT, sino también con otros bots de inteligencia artificial como Copilot que envían los tokens de manera secuencial. Gemini de Google no está alcanzado, precisamente, porque tiene una arquitectura diferente.

Destaca que el 43 % de los ciberataques son a pymes. El 43 % de los ciberataques a nivel mundial se dirigen a pymes, un problema que es especialmente «gordo» en el caso de países como España, donde gran parte del tejido productivo está formado por pequeñas y medianas empresas, advierte en una entrevista la directiva de Google y experta en ciberseguridad Cristina Pitarch. Se estima que España sufre cerca de 30.000 ciberataques al año, con las pymes como eslabón más débil, pues son el objetivo de siete de cada diez de estos ataques. Los ciberdeli

Qué fantástica es esa tecnología que hace que todo sea más cómodo, ¿no? El reconocimiento facial es un buen ejemplo, y en Estados Unidos ya han comenzado a usarlo en aeropuertos que usan este sistema para evitar tener que ir mostrando la tarjeta de embarque o el documento de identidad. O quizás no, porque el departamento de aduanas de Estados Unidos ha confirmado que se ha producido una brecha de seguridad que ha permitido que sean robadas decenas de miles de caras que habían sido registradas hasta el momento.

Un pequeño grupo de investigadores belgas de la Universidad de Lovaina ha desarrollado un método para engañar a las cámaras que trabajan con inteligencia artificial. Como resultado de la técnica empleada una persona es capaz de pasar frente a uno de estos dispositivos sin ser detectado. El truco se basa en una debilidad en los esquemas de Redes Neuronales Convolucionales, que son conjuntos de neuronas artificiales que imitan la corteza visual primaria del cerebro biológico.

"Dependiendo del tipo de tecnología que se esté utilizando, se puede intentar sortear el reconocimiento facial de muchas formas diferentes". Simplificando bastante, podría decirse que las técnicas para sortear este tipo de vigilancia se clasifican en dos categorías: ocultamiento y confusión.

De acuerdo a los datos del Ministerio de Desarrollo de la Mujer y el Niño en la India, entre 2012 y 2017 desaparecieron más de 240.000 niños. Con el objetivo de tratar de resolver el asunto de los niños extraviados, y el preocupante aumento de las cifras, el Ministerio creó una base de datos en línea a nivel nacional conocida como TrackChild. Con un un lote inicial de 45.000 fotografías de niños extraviados, y en sólo cuatro días lograron identificar a 2.930 niños que se encontraban en diversos sitios del país.

Nvidia ha registrado el mayor desplome en capitalización bursátil de la historia por parte de una compañía en un solo día. Le está ocurriendo de todo y los inversores se llevan las manos a la cabeza

La inteligencia artificial es extremadamente cara de entrenar y ejecutar, requiere muchos datos, energía y capacidad de computación. Es decir, mucho capital. La barrera de entrada está muy alta

Las técnicas de SQL Injection fueron descubiertas en 1998. El 25 de Diciembre de 1998 el investigador rfp (rain.forest.puppy) publicaba el famoso ezine en el que hablaba de cómo se podía saltar la seguridad de una aplicación web que validaba usuarios contra una tabla en una base de datos usando consultas SQL con cadenas de texto concatenadas. Acababa de nacer el fallo de seguridad que más impacto ha tenido en la historia de la seguridad web desde que nació la Web.

Nuevos avances en chips ahora permiten acelerar x20 la inferencia de la IA. Cerebras presenta su nuevo procesador con velocidades de vértigo. Al mismo tiempo la empresa Magic presenta su nuevo modelo LTM con ventana de contexto de 100M de TOKENS!

Los precios de los tokens se han desplomado, ya que la oferta de modelos de IA competentes ha aumentado sustancialmente, afectando a las empresas que siguen intentando construir el mejor modelo de IA y ganar dinero directamente con ello. Un ejemplo es la startup Inflection AI, que invirtió montones de tiempo y dinero en desarrollar su propio modelo de vanguardia que no consiguió destacar entre la multitud. El problema es que el coste de desarrollar el próximo modelo todopoderoso está por las nubes y probablemente vaya en aumento.

Ricardo Darín: “Estamos preocupados, pero disimulamos; estamos actuando como si no nos llegara. Son esas cosas que se ven venir desde lejos, y en términos comerciales lo que se persigue es prescindir de contratos en algún momento. El futuro se nos viene encima sin que podamos evitarlo”

Expertos como Andrej Karpathy predicen que este boom de la IA en la programación marcará el fin de la forma de trabajar actual, abriendo la puerta a un futuro donde escribir código será tan fácil como presionar "Tab".

En los 15 años transcurridos entre 1907 y 1922, los caballos pasaron de proporcionar el 95% de todas las millas recorridas en vehículos privados en las carreteras estadounidenses a menos del 20%. Ahora estamos en la cúspide de una nueva disrupción: el trabajo físico realizado por robots con forma humanoide. Excepto que esta vez somos los caballos.

Una empresa especializada en el desarrollo de robots humanoides ofrecía a una persona la posibilidad de ceder de por vida los derechos de su rostro y su voz para ser utilizados en los robots de la compañía, a cambio de una compensación cercana a los 180.000 euros.

Mientras el resto del mundo todavía debate qué podría significar la inteligencia artificial para los empleos, los ciudadanos de Filipinas ya están viviendo en la nueva realidad. El mismo impulso implacable para reducir los costos laborales que hizo que los puestos administrativos se enviaran al archipiélago en primer lugar ahora está comenzando a traspasar algunas de sus tareas a los bots.

Una empresa sueca de servicios financieros especializada en pagos directos, opciones de pago después de la entrega y planes de pago a plazos se está preparando para reducir su fuerza laboral en casi un 50 por ciento a medida que la automatización de la inteligencia artificial se vuelve más frecuente.

La exploración de la bioacústica, que combina biología y acústica, demuestra el uso cada vez mayor de la IA para extraer información importante de los sonidos humanos.

El Congreso de California aprobó la ley SB 1047 (Ley de Innovación Segura y Protegida para Modelos de IA de Frontera), con normas de seguridad claras y predecibles para desarrolladores grandes y poderosos. Varias empresas, académicos y políticos la acusan de restrictiva y freno al avance del sector. El gobernador Newsom tiene hasta el 30 de septiembre para ratificarla o vetarla. Algoritmos cuyo entrenamiento cueste más de 100 mill. $ deberán tener un “botón de apagado de emergencia” para desactivarlo si su funcionamiento se sale de control.

Recientemente, la empresa tecnológica Perceptive, con sede en Boston y respaldada por el doctor Edward Zuckerberg, padre del fundador de Facebook, ha realizado el primer procedimiento dental completamente automatizado del mundo. Este avance en inteligencia artificial, aplicado a la medicina, promete mejorar la precisión y eficiencia de los tratamientos dentales. El procedimiento inicial tuvo lugar en Barranquilla, Colombia, donde un robot realizó un corte dental de manera independiente, registrando el evento en video.

RAND Corporation entrevistó a 65 científicos de datos e ingenieros. Identificó 5 causas principales de la tasa de fracaso del 80%. La primera y más común: no entienden o comunican mal el problema que hay que resolver y lo que la IA puede hacer. Falta de datos necesarios para entrenar la IA. Centrarse en usar la última y mejor versión de la IA. Falta de infraestructura para gestionar datos y desplegar modelos de IA completos. Aplicar la IA a problemas que demasiado difíciles. [ Informe: www.rand.org/pubs/research_reports/RRA2680-1.html ]

El nuevo sistema operativo de Kylinsoft, OpenKylin 2.0, no solo promete transformar la informática personal, sino que también está diseñado para reducir la dependencia tecnológica de China. Los sistemas operativos han funcionado como el corazón de cualquier ordenador, gestionando recursos de hardware y ofreciendo una plataforma para aplicaciones. Con el tiempo, estas plataformas han mejorado en términos de rendimiento, seguridad e interfaces de usuario. Sin embargo, la integración de la inteligencia artificial en un sistema operativo....

Desde Nueva York hasta Hawai, se pueden ver robots de seguridad equipados con un conjunto de sensores patrullando por los perímetros de algunas comunidades residenciales y edificios de apartamentos. Los robots de seguridad se están convirtiendo rápidamente en un complemento viable de los guardias de seguridad humanos, lo que suscita preocupación por los problemas de privacidad y la posible pérdida de puestos de trabajo en el sector de la seguridad. Los críticos también cuestionan su eficacia para proteger a los ciudadanos.