Los algoritmos en las empresas son, según Yolanda Díaz, «uno de los mayores desafíos del presente» dentro del ámbito de la contratación y la Inteligencia Artificial. Los algoritmos para la contratación o evaluación cuentan con sesgos «machistas, racistas o LGTBIfóbicos» y para combatirlos, la vicepresidenta segunda del Gobierno ha viajado a Estados Unidos.

Una investigación de The Markup encontró disparidades raciales en el sistema de admisión de LA para personas sin hogar

Si creemos en una democracia deliberativa, en la que deben poder escucharse las voces que tienen algo que decir sobre los temas públicos, si asumimos que tanto nosotros como particulares como el gobierno y los partidos, tenemos un interés en conocer lo que se opina desde distintos lados, así como obtener información de diversas fuentes, entonces debe preocuparnos lo que está sucediendo. Hemos cedido el control del discurso público a oscuras fórmulas matemáticas y criterios económicos.

El uso sin transparencia, supervisión, ni rendición de cuentas de un algoritmo discriminatorio en Países Bajos provocó que 26 mil familias inocentes fueran acusadas de fraude a los programas de beneficios sociales de este país. Los daños financieros y sociales a las familias acusadas sin fundamento de fraude fueron mayúsculos, obligándolas a pagar miles o decenas de miles de euros en multas, sin la posibilidad de acceder a esquemas de financiamiento y llevándolas a la bancarrota.

El Gobierno ha puesto el foco sobre los algoritmos. A raíz de una propuesta de Más País, se ha pactado la creación de una Agencia Española de Supervisión de la Inteligencia Artificial. Una entidad que tendrá como objetivo controlar los algoritmos de las redes sociales y supervisar su aplicación. Esta agencia será un organismo estatal con patrimonio propio y autonomía en su gestión, según concreta la enmienda acordada. Para ello se destinarán 5 millones de euros en los próximos Presupuestos Generales.

Regularía la aplicación de los algoritmos al trabajo, conocer si discriminan o saber cómo afectan las redes sociales a la salud mental

La Comisión Europea prepara nuevas leyes sobre Inteligencia Artificial. Una coalición de organizaciones de derechos digitales y humanos, liderada por European Digital Rights (EDRi), advierte de los numerosos peligros de la vigilancia masiva biométrica para nuestra libertad y dignidad. La coalición Reclaim Your Face exige que se prohíba el uso de la vigilancia masiva biométrica, lanzando una Iniciativa Ciudadana Europea. Toda la información: reclaimyourface.eu/