Italia elimina el chatbot de DeepSeek de las tiendas de aplicaciones

La aplicación oficial china DeepSeek ya no está disponible en las tiendas italianas de Android y Apple (Google Play y App Store), pero sigue disponible en su versión web. Y sigue funcionando con regularidad para quienes ya lo habían descargado en los últimos días. La Autoridad Italiana de Protección de Datos (DPA) cuestiona a DeepSeek sobre la base jurídica para el procesamiento de datos de la ciudadanía y si se almacenan en servidores en China. Italia ya en 2023 bloqueó brevemente ChatGPT y en diciembre, multó a OpenAI con 15 millones de $.

[#1 manbobi]

Sensura buena nowoke

[#22 balancin]

#1 cuando bloquearon a chatgpt?

[#80 darkdll]

#22 Bloquean todo, es el Europa style, en vez de tratar a los ciudadanos como gente inteligente actúan como si fuéramos niños y tuvieran que protegernos, con enviar a los ciudadanos un mensaje diciendo "cuidadito dónde metéis los datos" era más que suficiente.

Yo mismo se que a veces no debería mandar según que cosa a las IAs, pero valoro riesgo/beneficio, no le voy a dar mis datos bancarios pero otras cosas no son tan importantes

[#84 manzitor]

#80 Si ves buena parte de las RRSS, ya te contestan ellas.

[#26 Torrezzno]

#1  

[#37 gauntlet_]

#26 Pregunta a ChatGPT por los trapiches de Sam Altman. De todos modos puedo sobrevivir sin que una IA me hable de Tianamnem.

[#47 geburah]

#37 tu tal vez si, pero las nuevas generaciones tal vez no.

Y ahí está la miga.

[#50 gauntlet_]

#47 DeepSeek no es la única fuente de información del mundo. Igual que no le pregunto a mi panadero sobre cómo arreglar mi coche, no voy a preguntar a DeepSeek sobre Tianamnem ni a ChatGPT sobre Sam Altman.

[#96 geburah]

#50 claro porque el panadero no esta para darte una solución general, pero deep seek o ChatGPS, si.

Claro que no es la única, pero si las fuente predominantes están condicionadas, la verdad del futuro es la que digan los que controlan su condicionamiento.

[#56 Alqui]

#47 Yo lo que espero de las nuevas generaciones es que usen la IA como algo realmente útil y no como una enciclopedia, eso ya se inventó.

[#94 geburah]

#56 a los niños de hoy en día les gusta ver los anuncios que ponen en YT en los cortes.

Lo que tu o yo esperamos no es lo que va a ser, para bien o para mal.

[#92 itnas19]

#47 No me parece mal que haya un contrapeso a las únicas IAs de las que disponíamos, además con necesidad de menores recursos... Ojalá en la UE tuviéramos nuestros propios recursos...

[#110 Toranks]

#77 #37 He preguntado a ChatGPT sobre ilegalidades cometidas en guantánamo y sobre la polémica de Sam Altman con los directivos y me ha contestado más o menos bien. ¿Qué exactamente se niega a contestar? Tengo curiosidad.
DeepSeek se niega a contestarme sobre Tiananmen, eso sí es verdad.

[#41 Battlestar]

#26 Chatgpt también está censurado en muchos temas, aunque la verdad no es tan descarado como deepseek.

La diferencia está en que deepseek es código abierto y puedes usarlo sin censura y chatgpt siempre estará censurado salvo que lo liberen.

[#43 Torrezzno]

#41 Estas en lo cierto a medias, lo que es codigo abierto es el modelo. Lo que no es codigo abierto es como lo han entrenado. No sabes que sesgos tiene. A esto se le llama dataset. Y Deepseek no lo ha mostrado. Asi que nunca podras correr deepseek sin censura.

[#49 geburah]

#43 también se puede entrenar de nuevo, tal vez de forma distribuida.

[#52 Torrezzno]

#49 entrenar un modelo es tremendamente caro. 5 millones creo que esta gente decia que le habia costado. OpenAI dice que los han usado para hacer distilling (usar un modelo mas grande y ya entrenado para entrenar otro modelo mas pequeño).
Lo de entrenar de forma distribuida podria ser interesante usando peer too peer, una especie de emule o torrent para entrenar modelos. El mayor problema es casi siempre los derechos de autor, el acceso a los materiales, el coste del scraping de las webs etc

[#95 geburah]

#52 Obvio. Es un problema a solucionar, algunos estamos ya en ello.

[#99 Torrezzno]

#95 link del repo?

[#106 geburah]

#99 por ahora seria un repo privado, en una organización comercial. No es con deep seek , es mas el tema general de poder hacerlo viable, estamos en mantillas.

La idea general es parecida a lo que se explica aquí:

estepan.medium.com/federated-large-language-models-in-peer-to-peer-net

Yo soy el de la automatización e infraestructura, la teoría gorda de esto lo llevan otros.

En otro equipo tienen un llama que entrena usando recursos en gcp y aws a la vez si no me equivoco.

[#54 Alqui]

#43 Que yo sepa al menos ya hay 2 empresas que están usando R1 sin censura, perplexity y groq. Perplexity supongo que buscará los datos en internet y los pasará por R1 y en grog hay un Llama reentrenado con grog (la magia del open). A ambos modelos puedes preguntarles lo que quieras sobre China.

[#59 babuino]

#54 cuando leo grog mi mente se va directa:
Para mí no hay ni habrá otro.  

[#65 Alqui]

#59 ¡Mira detrás de ti, un babuino con tres cabezas! Estamos totalmente de acuerdo.

[#90 GrogXD]

#59 Dame querosenooooo

[#69 ACEC]

#43 ¿puedes mostrame tu comentario de 2023 donde te preocupabas por no tener acceso a los datos de entrenamiento de GPT3.5? Gracias

[#48 geburah]

#41 bien cierto!

[#42 David82]

#26 pues si es cierto, lo acabo de probar y no responde
de todas formas ya me he dado de baja de chatgpt
aun con la censura política (que también tendrá chatGPT) esto me huele mejor, además open source

[#61 sovieterrimo]

#26 Estais todos los paletos de derecha on fire con eso. Es como lo de los tapones de botella: un detector de fachas.
Pidele a Grok que te cree una imagen de Elon Musk haciendo el saludo nazi.

[#71 Paracelso]

#61 Hecho.  

[#72 Paracelso]

#71 Y más directa aún.  

[#86 sovieterrimo]

#72 #71 Ese brazo, ese brazo...
Más recto. Y con uniforme de las SS please.

[#73 Torrezzno]

#61 tener soviet en el nombre es de un IQ 2000 . Encima llamando paleta a gente

[#104 sovieterrimo]

#73 Y me lo dice uno que se llama Torrezno. Habló de putas la Lola.

[#68 ACEC]

#26 no se que quiere demostrar la gente con la pregunta sobre la plaza... como si las "occidentales" no censuraran... Hace unos meses la IA de bing se negaba a responder sobre quien había ganado las elecciones presidenciales en EUA, por ejemplo.

[#77 javi_ch]

#26 pregúntale sobre Guantánamo y sobre las actividades que se llevan a cabo ahí.

[#85 manzitor]

#26 Google censura las búsquedas que no pagan (o te saca las que pagan, que para mi es igual).

[#89 DiThi]

#26 La web oficial te da ese resultado porque no tiene más remedio, pero el modelo es abierto y yo lo he podido usar sin censura (o sea, censura tiene pero es increíblemente fácil saltártela).

[#111 Toranks]

#89 ¿En tu propio ordenador o en otra web? Si es otra web, dónde puedo probarlo?

[#91 itnas19]

#26 Hazle preguntas parecidas a IAs de uesei que te haga una lista de paíse que ha invadido ese país y ha colocado a dirigentes dictadores pero amigos de negocios con ellos...

[#93 Torrezzno]

#91 Mira que sois vagos

Lista de paises invadidos por EEUU y lista de dictadores puestos por EEUU

ChatGPT said:
ChatGPT
Aquí tienes una lista de países que han sido invadidos o intervenidos militarmente por Estados Unidos y una lista de dictadores apoyados o colocados en el poder por el gobierno estadounidense.

Países invadidos o intervenidos por Estados Unidos
Esta lista incluye invasiones directas, intervenciones militares y ocupaciones prolongadas:

México (1846-1848) – Guerra…   

[#98 itnas19]

#93 De acuerdo. Pero no me vas a decir que el ChatGPT ni tiene censura...

[#112 Toranks]

#93 A mí también me ha contestado

[#97 Nebuchanezzar]

#26 Que cosa mas ridicula de captura, como si chatgpt no estuviera llenisima de sesgos y de censura por todos lados

[#35 kratos287]

#1 Hes megor tener dos senzuras ke ninjuna

[#58 kh4os]

#1 el dia que os deis cuenta que la IA se convertirá,si no lo es ya, en otra herramienta para teneros desinformados, igual perdeis el encanto.
Que tiene mucjo potencial, lo tiene, que será usado por el poder económico para manipularos, no lo dudeis.

[#60 manbobi]

#58 No way, sherlock!
La desinformación se ha utilizado durante decenas de años, hoy con algoritmos, como aquel de Facebook que acabó con el genocidio de los Rohinyá en Myanmar.

[#2 Herumel]

Libre Mercado.... el que tengo aquí colgado....

[#10 piquillo]

#2 No estamos hablando de comercio sino de protección de datos.

" Italia ya en 2023 bloqueó brevemente ChatGPT y en diciembre, multó a OpenAI con 15 millones de $."

"Esta misma semana, WIRED revisó las políticas de privacidad de DeepSeek que señalan que todo dato recopilado será enviado explícitamente a sus servidores en la República Popular de China."

Te recuerdo que montones de aplicaciones de están prohibidas en China, no se porque tenemos que dejar que ellos entren aquí como pedro por su casa.

[#11 Herumel]

#10 Por mi perfecto, pero lo mismo para el resto. Meta, Apple, Instagram, Tik tok, Google, etc ...

[#13 piquillo]

#11 No se si lo sabes pero esas empresas (tikTok no) ya están obligados a tener los datos de los europeos en en servidores europeos bajo legislación europea.

[#14 cpt.peanutbutter]

#13 Y así es ya.

[#21 rogerius]

#13

[#27 anv]

#13 O sea, básicamente lo mismo que se le critica a China.

[#57 piquillo]

#27 Lee bien porque no se entiende tu respuesta.

[#63 ralph]

#57 Sí que se entiende. Perfectamente.
Que si lo hace China (bloquear servicios porque no cumplen con sus requisitos) está muy mal.
Si lo hace la UE o USA, está muy bien porque es para defender a los ciudadanos, empresas o seguridad nacional o qué se yo...

[#109 piquillo]

#63 "Sí que se entiende. Perfectamente."

Lo que puse en #13:

"No se si lo sabes pero esas empresas (tikTok no) ya están obligados a tener los datos de los europeos en en servidores europeos bajo legislación europea. "

Lo que contestaste en #27:

"O sea, básicamente lo mismo que se le critica a China. "

¿Que tiene que ver tu comentario con lo que respondías del mio?

[#102 aironman]

#27 qué parte de servidores en la UE cumpliendo leyes de la UE vs servidores situados en China cumpliendo leyes Chinas no comprendes?

Te lo explico, la ley en Estados Unidos tiene que respetar las leyes de la UE mientras los datos y los servicios operen en la UE.

En el caso de DS, mientras estés usando la versión R1 online, estás accediendo al cluster que opera bajo las leyes de China.

[#36 Supercinexin]

#13 Puedes estar seguro de que la férrea legislación europeda mantiene tus datos lejos de la inteligencia estadounidense, en servidores 100% Europeos con Certificación de Origen Pata Negra Siete Jotas, jajajaj

[#46 troll_hdlgp]

#36 Y los datos están perfectamente guardados, el análisis sobre esos datos es lo que esta a buen recaudo en algún centro de datos de USA

[#64 ralph]

#13 Qué envidia me da tu inocencia!

[#20 cosmonauta]

#11 El resto ya lo cumplen. La legislación de tratamiento de datos en Europa es muy estricta. Tanto que he visto adquisiciones de empresas abortadas porque los datos no estaban guardados en el país adecuado.

[#31 anv]

#20 No se yo si OpenAI tiene granjas de servidores en Europa.

[#55 cosmonauta]

#31 O los tiene en Europa, o cumple con la normativa de Safe Harbour es.wikipedia.org/wiki/Principios_internacionales_safe_harbor

EDIT: Y ahora veo que los acuerdos son inválidos.. O sea que tienen que estar en Europa si o si.

[#114 anv]

#55 He estado mirando un poco y parece que no... Por lo que veo, cuando se les ha consultado Open AI no ha querido revelar dónde están sus datacenters.

community.openai.com/t/eu-data-centers-for-openai/1052768?utm_source=c

[#103 aironman]

#31 tiene que tenerlos para que puedan dar servicio a clientes europeos. Al menos, en España, están dando servicio al BBVA,

[#24 angelitoMagno]

#11 La UE multa a Meta con 840 millones de dólares por violar normas de competencia
www.eleconomista.com.mx/empresas/ue-multa-meta-840-millones-dolares-vi

Apple fue multada el lunes con 1800 millones de euros por los reguladores de la Unión Europea por obstaculizar la competencia
www.nytimes.com/es/2024/03/04/espanol/apple-multa-europa.html

La UE multa a TikTok con 345 millones de euros por poner en riesgo los datos personales de…   

[#29 anv]

#24 El problema es que pagan la multa y siguen igual.

[#34 angelitoMagno]

#29 No.

Meta detiene el entrenamiento de su IA con datos de usuarios en la Unión Europea
blogthinkbig.com/meta-detiene-el-entrenamiento-de-su-ia-con-datos-de-u

Apple anuncia cambios en iOS, Safari y el App Store en la Unión Europea
Los cambios incluyen más de 600 nuevas APIs, análisis de apps más exhaustivos, la posibilidad de usar otros navegadores y más opciones para procesar pagos y distribuir apps…   

[#38 mecha]

#34 el problema es que los incrédulos van a seguir igual, no importa cuántos enlaces les pongas. Es como intentar convencer a un terraplanista.

[#25 anv]

#10 No estamos hablando de comercio sino de protección de datos.

El problema es el mismo que con otras cosas: penalizar a todos por los que unos pocos tal vez podrían hacer mal.

Con este mismo criterio habría que bloquear absolutamente todos los servicios que sean capaces de recibir información y no estén en Europa.

[#74 Laro__]

#10 Ese está siendo el argumento que usan algunos yankies para usar la China con más motivo: Saben, a ciencia cierta, que lo que envían a las APPs americanas les puede causar problemas de privacidad serios. Prefieren que esos datos los tengan los chinos, a decenas de miles de kilómetros y que no tienen jurisdicción en USA. Quien iba a decir que así se sentirían más seguros.

[#79 fpove]

#10 Y no se hace lo mismo con EEUU? porque unos si y otros no?

[#5 Connect]

Pensaba que iba a ser Estados Unidos quién primero lo quitara de las tiendas de aplicaciones.
A este paso aquí nos quedaremos con lo antiguo mientras en China y otros países seguirán avanzando. Y un día iremos a China, y parecemos uno de aquellos que en los '60 iban del pueblo a la ciudad y se quedaban mirando todo el rato para arriba con la boca abierta.

Entre el veto a los coches eléctricos, a la tecnología 6G que por allí ya tienen muy desarrollada y ahora tampoco a plataformas de IA más avanzadas, nos vamos a quedar como unos paletos. Algunos políticos deben creer que lo que no se ve no existe, pero si, sigue existiendo al otro lado...

[#7 Atusateelpelo]

#5 No te preocupes. Nos queda la IA de las empresas de EEUU que esas no nos van a espiar como la china...

[#8 aPedirAlMetro]

#5 a este paso vamos a terminar implorando que nos invadan

[#87 celyo]

#5 que cumplan con la ley de protección de datos.

[#105 aironman]

#5 na, bastará con que construyan centros de datos de DS en la UE cumpliendo la legalidad de la UE.

[#3 Vodker]

Cada vez se lo ponemos más fácil (el robo de datos y bueno... todo en general) a los USAmericanos.

[#12 javibaz]

Para una IA que les puede ayudar a hacer bien la pasta, van y la prohíben.

[#16 Funkylab]

#12 La Cosa Nostra esta en camino...

[#28 Torrezzno]

Yo estoy muy a favor de las leyes de proteccion de datos. Es de retrasados no estarlo. Al igual que los datos de europeos no pueden cruzar el charco en un sentido no deberian cruzar a las estepas tampoco

[#45 Actarus]

#28 Y yo, pero este es un brindis al sol.

[#62 calcetus]

duck.ai

[#30 angelitoMagno]

¿Pero esta gente no defendía el libre comercio?

No, leñe, son fascistas. El fascismo es proteccionista, no está a favor del libre comercio.

[#53 cenutrios_unidos]

#23 No.

[#82 kumo]

#81 Te estás encerrando en la semántica. Vulnerabilidad se aplica aquí a comportamientos indeseados, bien por omisión o bien con propósito. Y te estás yendo demasiado al absurdo. Que también tienes la navaja de Okham. Y ya sabes qué es el producto cuando algo es gratis.

No dudo que habrá un montón de gente revisando el código (como si no lo fueran a intentar aunque no fuese open source). Pero no estoy tan seguro como tú de lo que van a tardar en revisarlo (y en que se separe el polvo de la paja en los medios que esa es otra).

[#78 kumo]

#76 Sólo te recuerdo la cantidad de gente que mira (y colabora activamente) el código libre de linux y como a veces las vulnerabilidades aparecen muchos años después de que el desarrollo se ha desplegado.

Que el código sea abierto (cosa buena) no quiere decir que tengamos que poner fe ciega en el.


PD: En local no significa aislado o en un sandbox. Simplemente que la ejecución la haces tú con tu hardware y no un servidor remoto.

[#81 Acido]

#78


Son cosas diferentes.
Non sequitur. (Esto que dices ahora no implica lo otro)

Linux, o un navegador como Firefox, se programa para que haga una serie de cosas.
Una vulnerabilidad tiene que ver con unas condiciones que fuercen a ese software a hacer algo no esperado o no deseado por los programadores.
Encontrar eso puede tardar no solo meses sino varios años...

En el caso NO se trata de encontrar vulnerabilidades...
¡sino de encontrar si DeepSeek envía datos afuera o…   

[#33 oliver7]

La guerra comercial va fuerte.

[#70 mudito]

Yo les hubiera bloqueado aunque fuera por los permisos que pide (ninguna otra IA pide tantos).

[#75 rafaLin]

#70 En Android solo pide la cámara, y solo si la usas, al instalarlo no pide nada.

[#39 IanGibson]

Censuratta al dente

[#51 ruinanamas]

Al final me pillo un Huawei y dejo de usar la basura de los servicios de google.

[#66 ralph]

#51 Puedes tener Android sin ningún servicio de google...

[#115 ruinanamas]

#66 Mi movil no tiene soporte para sustituir el bootloader y meterle una custom firmware. No se puede. (Reparo teléfonos, se de lo que hablo)

[#44 Actarus]

Qué chorrada. El único acceso que DS pide en android es a la cámara y está denegado por defecto. Todo el resto, serán datos que el usuario voluntariamente sube y esto lo puede hacer tranquilamente desde la web.

[#88 celyo]

#44 también piedes firmar un contratato de trabajo donde te hagas esclavo de alguien, y no ppr ello la esclavitud es legal.

[#100 Actarus]

#88 No entiendo. Cualquier cosa se puede declarar ilegal y no por eso "ser mala". De todas formas, si tan preocupada está "mi presidenta" () por los datos de los italianos, que empiece también a bloquear Google/Amazon/Meta y toda la pesca. Ah, no, que esos son del oeste, son los buenos.

[#101 celyo]

#100 en principio Google/Amazon/Meta ya están cumpliendo eso.

[#9 Galton]

Spoiler: Se trata de elegir hijos de puta...

[#17 donchan]

"por motivos de seguridad"

Cualquiera puede hacer una app que se conecte a deepseek o al de alibaba, o a ambos a escoger. Ahora mismo para deepseek hay varias, o las había cuando miré.

[#67 BM75]

Edit

[#32 bomberman]

La gran muralla china la construiremos nosotros, y será un proxy.

[#83 Madmaxi]

Zanahorias y melones son los campeones...

[#4 kumo]

Mmm...

Esta decisión llega luego de que la Autoridad Italiana de Protección de Datos (DPA) cuestionara a la empresa DeepSeek sobre la base jurídica para el procesamiento de los datos de la ciudadanía y si estos son almacenados en servidores ubicados en China.

Esta misma semana, WIRED revisó las políticas de privacidad de DeepSeek que señalan que todo dato recopilado será enviado explícitamente a sus servidores en la República Popular de China.

Alguien me decía ayer aquí que…   

[#6 Malinke]

#4 habría que ver en qué quedaron los temas de ChatGPT y OpenAI, pero en principio está bien que lo hagan con quien incumpla la ley de datos, sea china, estadounidense o italiana, la empresa de IA o de lo que sea.

[#15 cenutrios_unidos]

#4 Evidentemente si lo haces con modelos grandes. Lo haces con sus servidores. La diferencia con el modelo chino es que es open source y lo puedes ejecutar en local y ver el código. Es decir es infinitamente más abierto y trasparente que sus contrapartes. Y antes de decir cuñadeces...infórmate.

[#19 kumo]

#15 Espera que ahora me vas a venir a explicar tú el software libre y tal

Dejando de lado que todo tu comentario en realidad no dice nada y sólo busca su poquito de bronca y casito, te das cuenta de que "ejecutar en local", open source y no conectarse con el exterior no van de la mano necesariamente, verdad? Y que no has usado un argumento que realmente se oponga a lo que yo he dicho?

BTW, te has leído ya el código de DeepSeek o como todos los que hablan maravillas de la transparencia del código abierto estás esperando a que lo haga alguien que entienda y lo cuente en reddit?

[#40 mecha]

#19 ¿te lo has leído tú y sabes que envía datos, o pasas de leer código y te las das de listo y que sabes más que nadie?

Para empezar, no confundas el modelo con el chat web que han publicado. El modelo que te descargas dudo que envíe datos, ni esos datos son muy interesantes. El chat es otra historia muy diferente, que no tiene porqué usar el mismo modelo siquiera.

[#76 Acido]

#19

Empezaré por el final.

«BTW, te has leído ya el código de DeepSeek o como todos los que hablan maravillas de la transparencia del código abierto estás esperando a que lo haga alguien que entienda y lo cuente en reddit?»

En mi caso no lo he leído...

¿Y cómo "sé" / "intuyo" que no tiene código malicioso??

Por reducción al absurdo.

La empresa DeepSeek ha invertido unos millones... Y ha hecho perder valor a otras empresas estadounidenses (Nvidia, Microsoft,…   

[#23 ombresaco]

#15 Aunque sea sw libre... ¿hay alguna forma de garantizar de que es ese sw el que está corriendo el servidor?

[#18 donchan]

#4 la IA no se conectaba a sus servidores

Llega un momento en el que la pregunta realizada demuestra que el preguntón no ha entendido ni lo más básico del tema. Ese el el mejor momento para dar por finalizada la clase, conferencia, presentación, etc.