43 meneos
285 clics
![Los plugins de ChatGPT son una pesadilla para la seguridad [ENG]](cache/39/e9/media_thumb-link-3795373.jpeg?1679800206)
Los plugins de ChatGPT son una pesadilla para la seguridad [ENG]
Demostramos las consecuencias potencialmente brutales de dar a LLMs como ChatGPT interfaces para otras aplicaciones. Proponemos vectores y técnicas de ataque recién habilitados y proporcionamos demostraciones de cada uno de ellos en este repositorio: Control remoto de LLMs de chat. Filtración de datos de usuario. Compromiso persistente a través de sesiones. Inyecciones de propagación a otros LLM. Compromiso de LLMs con pequeñas cargas útiles multietapa. Ingeniería social automatizada...
|
Click para ver los comentarios