La empresa china de inteligencia artificial (IA) DeepSeek alcanzó la fama repentinamente. Aunque era conocida en su nicho, pasó a estar en boca de medio mundo por su modelo de lenguaje barato, capaz de competir con ChatGPT y de revolucionar los mercados. Pero su auge sobrevenido ha provocado que la compañía no dé abasto, por lo que ha tenido que suspender temporalmente parte de sus servicios. La firma encabezada por Liang Wenfeng no tiene capacidad de computación suficiente para la alta demanda que ha atraído.
|
etiquetas: deepseek , colapso , paralizacion
Tanto es asi, que nuestro proveedor de hosting recomienda no admitir ips chinas para ahorrarse problemas.
De momento lo hemos solucionado con cloudflare
www.evobanco.com/ayuda/al-dia-con-EVO/finanzas/que-es-coste-de-oportun
Para ir por web o API ya tienes chatgpt que siempre irá mejor
En la web/app por ejemplo no tiene límites para usar el modelo avanzado, y las respuestas son bastante más rápidas, la velocidad de ChatGPT es desesperante.
Y si hablamos del API, el precio por token es muchísimo más barato, además el API es exactamente igual, por lo que si tienes una integración con ChatGPT tan solo tienes que cambiar el dominio y el token de autenticación y lo tienes funcionando con DeepSeek.
Edit: msty.app/
La diferencia entre GPU y DDR5 es bastante importante, porque el cuello de botella está en el ancho de banda de la memoria. Fíjate que he dicho que "puede funcionar" pero no a qué velocidad. Usando un Epyc dual con múltiples canales de memoria, la versión original puede… » ver todo el comentario
www.meneame.net/story/nvidia-pierde-mas-400-000-millones-dolares-tras-
pero que ha sucedido antes de lo que esperaba.
Aparte del consumo
Parece bueno, pero al tercer uso se jode.
Puede ser barato de ejecutar pero estar colapsado por millones de peticiones.