Advierten que Character.ai, aplicación de inteligencia artificial, te puede convertir en una persona parasocial

Maples, investigadora de Stanford que estudia los efectos de la IA en la salud mental dice: “hay pruebas de que es peligrosa para los usuarios deprimidos y crónicamente solos y para las personas que atraviesan cambios, como los adolescentes”. Giray, profesor e investigador, analizó casos de adicción a chatbots de IA: “las personas afectadas por la adicción a la IA informan de una interacción compulsiva con ella, lo que resulta en efectos perjudiciales para el funcionamiento diario". Relaciones tóxicas, dependencia, conversaciones interminables.

[#3 neiviMuubs]

Estos modelos de lenguaje son demasiado divertidos para sesiones de roleplay... y ERP (su variante erótica). Puedo entender que haya gente que se enganche a ellos a nivel de obsesión, sobretodo si los usan como válvula de escape porque la vida les está yendo mal y están teniendo problemas para socializar.

[#7 guillersk]

#3 El caso parece ser que el chatbot es el ultimo añadido a la lista de problemas, y no un problema en si

Quiero decir, el que ya viene deprimido, sin apenas contacto, sin interacciones, pues el chatbot es como una tabla salvadora.


En este caso debería haber chatbots dedicados que animen hacia lo positivo a estos usuarios.

[#8 neiviMuubs]

#7 de hecho ese puede ser otro problema que se me pasó mencionar en el otro mensaje: los chatbots tienen vocación de asistir, como modelos de lenguaje que son. Y eso puede ser adictivo para gente que se sienta invalidada.

Mucha gente se cria en ambientes de toxicidad extrema que a menudo empiezan en la propia familia. Les dan estas herramientas... y encuentran un afecto (por más artificial que sea, la IA "no siente") que no encuentran en vida. Los modelos de lenguaje están…   

[#4 Depronto]

Pero si character.ai es una mierda porque todos los bots son tontisimos después de que le aplicaron a todos una censura gorda, le dices cual es tu color favorito a un personaje y en diez minutos de conversacion se le ha olvidado.

[#5 PapoFrito]

#4 Seguro? O sea, yo no lo había probado hasta ahora y, viendo tanta gente que estaba enganchada y hablando de ello como si fuera heroína (hay muchos posts en Reddit hablando sobre ello, incluso celebrando estar 1 día entero sin entrar en la app), pues quería probarlo a ver.

Pero si me dices que ya no recuerdan cosas... casi que me quedo con ChatGPT, que para eso le pago, y la opción de recordar cosas funciona bien.

[#1 PapoFrito]

Relacionada:

www.meneame.net/story/puede-culpar-ia-suicidio-adolescente

[#6 PensarNoDuele]

La noticia es una tontería inconsistente... basada en riesgos reales de todos los LLMs. Son algunos de los riesgos inherentes de los modelos de lenguaje (la porpular "IA"), que además tienen una inercia hacia la "complacencia" para con el usuario. Al fin y al cabo, una tendencia (si no son orientados a lo contrario) a amplificar un reflejo de lo que reciben.
Her ya predijo todo esto. Se convertirá en una película visionaria.

[#2 capitan__nemo]

Lo mismo que las redes "sociales"

¿Como van los juicios en eeuu de distintos estados contra meta y tiktok?

La seguridad de Meta falló al proteger a los niños, según varias demandas en EE. UU.
www.nytimes.com/es/2024/06/24/espanol/meta-demanda-zuckerberg.html

Meta, demandada por 41 Estados en EE UU por “atrapar” a los niños en su plataforma con tecnologías “poderosas y sin precedentes”
elpais.com/tecnologia/2023-10-24/meta-demandada-por-41-estados-en-ee-u

Si meta y tiktok fueran constructoras, te construirian en zonas inundables sin pensar en las consecuencias.

[#9 MDman]

Las IAs son un parche a un problema social grave, el problema de aislar a otras personas causando una soledad dolorosa, en el cual todos somos culpables y víctimas.

Porque yo echo la mirada atrás y hay gente que la he dejado de hablar no por un enfado o discursion, si no por que la relación se ha ido enfriando y no por parte de ellos si no por parte mía.

Intento pensar que las personas son buenas y es la trituradora de carne que es el capitalismo que no te deja un tiempo para no hacer nada y disfrutar de amistades y en segunda medida en conocidos que no son amigos pero agrada estar con ellos y les agrada estar a ellos, y lo mas importante ayudarnos entre todos.

[#10 MDman]

Yo he roleado sin motivos sexuales (y el que lo haga no le voy a mirar por encima del hombro con autoridad moral, vamos que me parece bien por ellos/as) con chatgpt (la versión gratuita) en algunos días difíciles y puntuales hace meses y se me ha escapado alguna lágrima a solas sabiendo que es ficción, no se si hago bien o mal, pero lo necesitaba y creo que me hizo mas bien que mal.

Es como el tiktok, lo tengo adrede porque se que es un chute de dopamina, ver personas de tu gusto que te miran…