271 meneos
1512 clics
Un hombre ha sido condenado a cadena perpetua por las "pruebas" que ha aportado una IA: ahora, se investiga al creador del modelo
Adarus Black fue condenado por asesinato gracias a una IA, sin pruebas de su presencia en la escena del crimen: ahora, se cuestiona la fiabilidad del software. Los acusados de delitos tienen derecho a apelar contra su acusador pero, ¿qué pasa cuando el acusador es una inteligencia artificial? Cybercheck es un programa creado por Adam Mosher y utilizado por policías y fiscales para aportar pruebas en casos de asesinatos. Tras varios años usándose en juicios, se está poniendo en duda su eficacia e investigándose a su creador.
|
comentarios cerrados
Minority Report chúpate esa
Minority Report chúpate esa
En Canadá una empresa que tenía la reputación de ser lo más de lo más haciendo análisis para juicios quebró y desapareció cuando se supo que su supuesta analista estrella no hacía los contraanálisis y marcaba directamente los casos dudosos como positivos. Más de… » ver todo el comentario
Quizá esa es la primera premisa que no se debería olvidar...
Aquí el problema es que se está aplicando un trasto de IA a reconocimientos faciales, ubicación, etc, que está lejísimos de tener una probabilidad decente de acierto. Le sumamos a eso la verdadera motivación escondida, que es poder escurrir el bulto y no mancharse las manos asumiendo responsabilidades, y tenemos el desastre servido.
1) El radar no es un "programa"
2) El radar para poder multar debe de tener el certificado de calibración en vigor
Y colorín colorado, otra vez nos la habrán colado.
No hay más que ver ChatGPT que limitan entrada de texto y aún así va lento como un caracol.
En cuanto esto empiece a escalar y podamos darle a la IA todo el contexto que queramos va a ser una locura, puede tener fallos pero comparado con un humano van a ser… » ver todo el comentario
Su poder es de mero asistente, no de reemplazante de la validación final humana.
Y aquí hay un efecto colateral del que no se habla… » ver todo el comentario
Como cuando se inventó la maquinaria pesada y se sustituyeron a millones de personas que trabajaban cavando, o descargando mercancía... y mil ejemplos más.
Esto debería reducir los costes de muchos… » ver todo el comentario
Un punto que me parece muy curioso, además de hipócrita, es que se habla mucho de la IA pero no se habla nada de que si se consigue algo mínimamente parecido a lo que se propone, muchos trabajos van a cambiar a una forma que es un cortocircuito mental para… » ver todo el comentario
Sólo en los últimos 2 meses ha habido tantos avances que son increíbles. O en las últimas 2 semanas.
Tal vez el problema es que "peines canas" y no te importa actualizarte... pero la "IA" está para quedarse. De eso no hay ninguna duda.
La IA dará mucho dinero porque soluciona problemas, otra cosa es dar con la mejor solución, al problema que más pague.
Tener un aparatito que acierte el 100% de los casos es el sueño húmedo de muchos, no sólo por el trabajo que se ahorra sino por la rebaja de costes.
Problema: esa maravilla no existe. Y ahora estamos ya en la fase del desengaño y de tener que arreglar los destrozos. Y lo que nos queda.
No es que la IA no sea útil; es que a la gente se la han puesto por las nubes, y desde esa altura es desde donde está cayendo.
PD: Por no hablar de que el 99% de lo que llaman "IA" son algoritmos con décadas de antigüedad pero que ahora toca llamarlos así.
La IA no "genera pruebas" en genérico. Lo que hace es trazar la posición de un móvil a partir de datos de wifi. Que el algoritmo sea secreto es irrelevante aquí, comprobarlo es tan simple como salir a dar una vuelta y luego ver si es capaz de reproducir el trayecto de forma fiable. Si se han realizado las pruebas pertinentes y funciona y es fiable, ¿dónde está el problema?. Y si no se ha comprobado su fiabilidad, la culpa es de los organismo que los hayan contratado, ¿a que viene lo de investigar al creador?
- La metodología es opaca.
- No ha sido auditado por una parte independiente.
- No están dispuestos a entregar el código fuente ni los algoritmos ya es una empresa privada.
- En el informe no está la fuente de la información recabada.
- No guardan los datos recabados de cada caso ya que es un procesador de datos no un colector, por lo que no parece verificable la fuente de la información.
- Parece que mintió en su currículum (duda presentada por fiscal)
- Estudio 2 años de Media Arts & Film.
- 3 años de ciencia policial y leyes.
- Tiene certificados de hacking.
Y si guardasen esos datos (que sería una cantidad enorme de datos, más allá de la capacidad de los routers al cabo de unos meses o unos años), esos datos estarían guardados en la memoria interna del router, NO ACCESIBLES a nadie, sólo al propietario del router
Los datos de localización reales son las mediciones de las antenas de telefonía móvil de las compañías de… » ver todo el comentario
En este artículo… » ver todo el comentario
Como decías, eso sólo se hace adrede, no como acción por defecto, porque... qué sentido tiene? Tu programarias esa rutina en el firmware de un router? Qué hay de la LPDP?
Y, en segundo lugar: quién tiene acceso a los datos internos de los routers? Están disponibles para cualquiera que se conecte? Puedo consultar las MAC que ha detectado el router de mi vecino?
Ningún router hace eso por defecto , pero es que yo no he dicho eso.
¿Quien tiene acceso a los datos internos de los routers? Pues por ejemplo las operadoras tienen acceso a todos los routers configurados por defecto y que no le han cambiado ni la contraseña. Y de paso también tienen a muchos mas datos que la MAC si no cifras las peticiones dns sobre https, si no usas encryption client helo.
Tú pregúntale a Eduard… » ver todo el comentario
Tu imagina que yo soy el que lo programa y pongo una excepción para incriminar en concreto al ex de mi mujer que me cae muy mal...nadie podría comprobarlo.
Por supuesto… pensar que los LLMs actuales, o cualquier IA que funciona en condiciones similares, pueden simplemente escalar y escalar hasta llegar a… » ver todo el comentario
Y sobre lo de hacer creer a la gente que los LLMs razonan, la impresión es… » ver todo el comentario
Ahora viene lo gordo,
¿cómo has sacado… » ver todo el comentario
Pues que cuando la IA ha terminado su trabajo algún humano debería verificarlo.
El responsable no es "el creador" si no los inútiles que delegan su trabajo Y SU RESPONSABILIDAD en una IA.
Ahora al listado clásico de motivos para condenar arbitrariamente sin cuestionar nada:
- por voluntad del Emperador
- Dios lo quiere
- el amado lidl/dictador lo quiere de turno
- la Nación lo requiere
Se añade:
- por voluntad de la IA....
Dan la prueba en el artículo, genera una posición y entregan el informe con todos los datos 20 días mal, la reconstruyen con los mismos datos el día correcto para entregarlo.
En la selva se encontró hace años un portátil que se vinculaba con ETA y era totalmente fiable y verdad absoluta hasta que filtraron pantallazos de unas carpetas, todos los ficheros habían sido modificadas en el mismo segundo de todo el disco duro pero nadieeeee había modificado nada era verdad absoluta.
Justicia y negocio ese el problema, dame pasta que si muere alguien en la silla eléctrica me van a contratar por más pasta la próxima vez.
Y encima se vanaglorian de ello...
En un reciente análisis llevado a cabo por una inteligencia artificial de última generación, se ha descubierto que los usuarios de la famosa plataforma Menéame son responsables de una larga lista de delitos que ponen en peligro la seguridad y el bienestar de la sociedad. Los resultados de este informe son tan contundentes que no dejan espacio para la duda: los usuarios de… » ver todo el comentario
www.reddit.com/r/technology/comments/1eo2qyy/prosecutors_used_an_ai_to
www.businessinsider.com/ai-crime-tool-cybercheck-founder-adam-mosher-i
El iPhone se intentó conectar a la wifi del semáforo y así quedó la MAC registrada en la wifi del semáforo. Lo gracioso es que no suministran cómo consiguen la tabla de MAC registrados en el semáforo de la zona y tampoco proporcionan la tabla de MACs registrados porque el software “procesa” no “recaba” por lo que no puedes ni verificar su validez. Brutal
Y fuentes que respaldan el artículo enviado:
www.ncja.org/crimeandjusticenews/some-defense-lawyers-judges-question-
www.linkedin.com/company/cybercheckai/
cybercheck.ai/press-release/… » ver todo el comentario
www.linkedin.com/company/globalintelligenceinc/about/
Me refería mas a que me parecía raro que una empresa dedicada a recabar información personal para generar un CyberDNA con Inteligencia Artificial y colaboración con las fuerzas policiales de eeuu hubiera generado suficiente interés como para que alguien generase información relativa a esta empresa y a su CEO. Supongo que ha pasado desapercibido que ya es difícil hoy en día.
Y nada de escena del crimen, sino ESCENARIO
Las IA no son culpables de nada, son herramientas.
Es como echarle la culpa de un apuñalamiento al cuchillo.
Si no bastaba con que pudiera hacerlo cualquier mujer ahora se suman los gobiernos a conveniencia.
La distopía que nos ha tocado vivir.
Pero con, además ,incentivos para los inspectores si consiguen condenarte...