Google, IBM, Intel, Microsoft, NVIDIA crean coalición para una IA segura, CoSAI ¿En qué consiste?

Durante el Foro de Seguridad de Aspen, se presentó la Coalición para una IA Segura (CoSAI). La creación de CoSAI surge de la necesidad urgente de unificar y estandarizar las prácticas de seguridad en IA. Actualmente, proteger estos sistemas es una tarea dispersa, con desarrolladores enfrentando una variedad de directrices y estándares inconsistentes, lo que complica la evaluación y mitigación de riesgos específicos de la IA, incluso para organizaciones experimentadas.

[#6 zelt]

#3 Mirate la regulación de IA que está impulsando la UE y ahí tienes unas cuantas ideas, como limitar con que pueden y con que no entrenar a la IA, que normas deben cumplir para evitar riesgos o limitar el uso de información e identificación biométrica de la gente mediante el uso de IA.

[#7 Waskachu]

#6 vale ahora voy y me lo miro.

[#8 Mustela]

#6 A lo que habría que destacar también los inconvenientes o nulas garantías que hemos tenido los ciudadanos en materia de transferencias internacionales de datos, como lo que sucedió tanto con el Puerto Seguro ("Safe Harbour"), con el Escudo de Privacidad ("Privacy Shield") y por lo que seguramente termine sucediendo con el actual Marco de Privacidad de Datos ("Data Privacy Framework").

Prácticamente se ha normalizado la transferencia de…   

[#2 zelt]

En otro engan̈o de las empresas donde quieren aparentar una "autorregulación" para retrasar todo lo posible la intervención de los gobiernos mientras hacen lo que les da la gana.

[#3 Waskachu]

#2 ¿cómo intervienes esto siendo un gobierno? ¿Qué riesgos ves y qué medidas propones?

[#5 Mustela]

#3 Lo primero es que dejen de engañar a la gente de una vez. Los gobiernos de todo el mundo ya empiezan mal porque debería utilizar software de licencia pública, visible por todos sus ciudadanos, y no de código privativo. Luego, las compañías tienen la libertad de inventar lo que sea mientras no pongan en riesgo la salud de las personas ni se acabe por dominar el mercado por posición dominante, algo sobre algunas de las cuales forman parte de ese futuro "ecosistema" tienen cierta experiencia.

[#4 Mustela]

Al loro con los conceptos que el artículo menciona:

"se enfoca en fomentar un entorno colaborativo donde se comparten metodologías, marcos estandarizados y herramientas de código abierto para mejorar la seguridad de la IA"

Que se compartan herramientas de código abierto no equivale a que el resultado quede abierto.

"Entre los principales patrocinadores se encuentran grandes nombres como Google, IBM, Intel, Microsoft, NVIDIA y PayPal, junto con Amazon, Anthropic,

…   

[#1 Jesúsc]

Cómo para fiarse de esta gentuza.