#38 Poco más que un proyecto de fin de carrera, ¿eh? Vamos a contestar a eso, contestando a #21
- Lo primero es aclarar que no solamente es español: hay que añadir euskera, gallego y catalán. Bases de datos bien curadas en estos últimos no son tan fáciles de encontrar, lo que significa un trabajo previo de elaboración de las bases de datos.
- Lo segundo es entender cuál sería la finalidad estatal de tener dichos modelos. No es entrenar, subirlos a huggingface y adiós muy buenas. La finalidad real es tener herramientas de tipo ChatGPT pero que preserven la privacidad y puedan ser utilizadas en administración, educación, fuerzas del estado.
A partir de esos dos preceptos, unas puntualizaciones sobre lo de entrenar LLM actuales a bajo coste: estamos hablando de modelos tipo Llama2 o Mamba, que están muy por debajo de las expectativas actuales de GPT 3.5 o 4. Si queremos acercarnos a algo tipo GPT 3.5, eso supone entrenar algo tipo phi-2 o mistral. Sigue sin ser un coste excesivamente elevado, pero desde luego no son 50€ de GPU, vas a necesitar algo más, más luego las quantizaciones del modelo. Por cierto, cantidad de modelos tipo mistral o phi en catalán, euskera o gallego: 0. En español hay 2 de mistral,
Pero una vez entrenando un 7B, descubres que no va tan fino en español como esperarías. ¿Por qué? Acompañadme en este maravilloso viaje por las conjugaciones y la historia de LLMs. Corría octubre del 2018 cuando se anunciaba BERT, y con él llegó un modelo multilenguaje entrenado en 104 idiomas, incluyendo el español. La primera tarea que hace un LLM es tokenizar, coger una palabra y conseguir separarla en "tokens", que representarían la raíz y sus afijos. En inglés, de la palabra "develop" sacas las derivadas "develops", "developer", "developers", "development", "developments", "developed", "developing". Un total de 7 palabras, y fáciles de tokenizar. Pero llegas al español… » ver todo el comentario
Si alguien quiere probar alternativas libres a ChatGPT aquí van un par de recomendaciones para novatos, que usan modelos de código libre.
En local está GPT4all. Si no tienes una gráfica decente se ejecutará mediante CPU y la RAM normal: gpt4all.io/
Si tienes 8gbs de RAM o VRAM puedes ejecutar los modelos 7b, si tienes 16 GB, entonces puedes pasar a los de 14b
Se pueden descargar más modelos libres aquí, que es una persona que los convierte a formato GGUF: huggingface.co/TheBloke
Online hay varios Colabs. Google Colab es un servicio de alquiler de GPU mediante máquinas virtuales. Dan bastantes horas gratis de GPUs de 16 gigas de VRAM. Esto hace que se puedan probar modelos de 14b
Este es el más sencillo de usar que he encontrado (de momento): github.com/LostRuins/koboldcpp
Se puede ejecutar directamente aquí: colab.research.google.com/github/LostRuins/koboldcpp/blob/concedo/cola
Tiene medidas para que Google no pueda leer las conversaciones, pero obviamente al ser su hardware podría hacerlo.
Es dar el segundo botón de play y después de un rato te saldría un enlace de cloudflare.
Hay que tener en cuenta que ChatGPT es un modelo más avanzado y más grande que los de 14b. Se dice que los modelos libres óptimos son los de 70b.
Así que no esperéis el mismo rendimiento. También es posible que olvide cosas e instrucciones de la conversación porque a más contexto, más necesidad de potencia.
Cuidado, que la última vez que señalé la pestilencia legal, politica y ética de este asunto me soplaron un strike de casi un mes por decirles la verdad a la acara a aquellos que aplauden este tipo de crímenes sociales.
Es otro de esos crímenes del estado que se quieren mantener impunes.
Se ha caído tan bajo como para que infiltrados e infiltradas, además, sostuvieran relaciones sentimentales con los y las activistas. Que para colmo eran inocentes sobre los que no se llevó a cabo proceso alguno.
El daño ético y humano que se provoca es incalculable: imagina que tienes unos 20 años, eres una persona con ideas (hombre o mujer, ha pasado en ambos casos) y decides ayudar en algo mediante el activismo. Aprovechándose de tu idealismo y del grupo un/a infiltrado/a se mete en tu vida, hasta tu familia, hasta tu cama... Y tú le das tus sentimientos, tu confianza, tus aspiraciones, tus planes de futuro...
...Y luego ese/a individuo/a asesina para siempre cualquier concepto de confianza que hayas podido tener nunca, marchándose un día al descubrirse que era una persona infiltrada. Y ahí te quedas tú, sin ganas de ayudar en nada nunca más, sin confianza en NADIE nunca más, maldiciéndote a ti mismo por haber llevado gente así a la mesa con tus padres (a la "sagrada" seguridad del hogar) o devanándote los sesos sobre lo "real", etc. Apuesto a que no vuelves a ser nunca tú mismo/a. Te lo arrebatan todo: tu identidad, tu seguridad, tu confianza... gratuitamente, sin proceso ni orden judicial, sin consecuencias. Y ni siquiera los jueces te defenderán, porque, como ya ha pasado... se ponen de parte de los represores pese a que la ley no les permita nada de lo que hacen.
Está pasando, es gravísimo y no pasa nada.
La dictadura no es de Pedrito y de Feijoo, la dictadura va más allá de ellos, es perenne desde el franquismo y la única diferencia es que hoy vive a la sombra de un estado paralelo que continúa impune.
Primero nos dicen que ellos son incapaces de gestionar nada y por eso tienen que externalizar todo en forma de contratas para que sus amigos y familiarles lo gestionen de forma privada.
Por otro, nos dicen que su retribución tiene que ser más alta que la de la gente que sí es capaz de gestionar un negocio.
#1 Los sueldo y, como ya han dicho por aquí, las condiciones en general. Hace no mucho salieron por la tele quejándose de que no encontraban candidatos para médico rural en un lugar de la España vaciada. Condiciones: 1.800 euros y un contrato temporal de 6 meses renovable. Y, claro, si te paras a analizar cuales son los posibles aspirantes:
- Jóvenes sin pareja ni familia que tienen flexibilidad pars poder mudarse: sin duda estarán deseosos de irse a enterrar con vida a un agujero en medio de la nada donde apenas tiene opciones de ocio y de conocer gente de su edad con la que establecer amistades y/o relaciones sentimentales. Pero oye, que puedes sacrificarte un par de años a cambio de poder ahorrar una cantidad significativa de dinero para, por ejemplo, poder tener la entrada de un piso. Ah, no, que el sueldo es normalito. Pues te vas a una capital extranjera, que en tiempo estás más cerca de los tuyos y te pagan un salario escandalosamente mayor.
- Personas con pareja y/o familia. Para estos la oferta es todavía más atractiva. Llegan un día a casa y le dicen a su pareja: "Cariño, deja tu trabajo (si lo tiene), vendamos/alquilemos el piso (si es de propiedad), organicemos una mudanza (que todos sabemos los pocos trastos que acumulas cuando tienes una familia) y cambiemos a los niños de cole. En definitiva, desmontemos por completo nuestra vida a cambio de ¡tachán! un contrato de seis meses y un sueldo como el que probablemente ya tengamos.
No sé cómo la gente no se da de palos por conseguir esos empleos. Es incomprensible.
#15 La realidad en España es que la mitad del gasto público son pensiones y aprox el 80% de los propietarios de vivienda son particulares.
La mayor detracción de renta de un español promedio proviene de los impuestos y de la vivienda. Muy por encima de cualquier otro elemento.
Asi que en España la mayor transferencia de renta es claramente generacional.
Desde 2015 la estructura de la propiedad de la vivienda está cambiando con velocidad porque las generaciones posteriores a los boomers simplemente ya han sido descapitalizadas y no pueden entrar al mercado.
Asi que simplemente la demanda de particulares está siendo sustituida por empresas, simplemente por el descenso de la competencia de particulares en la demanda.
Cualquier agente inmobiliario os puede confirmar que los particulares jovenes han desaparecido de los compradores. Quedan los funcionarios, jubilados y boomers, además de empresas.
Pero es que para colmo, muchas de estas empresas no son otras que fondos cuya participación es mayoritariamente capital de jubilados y boomers de otras partes del mundo.
Los ricos siempre hacen pasta pero la realidad, no tan épica, es que "este sistema" está montado como un gigantesco embudo para favorecer a un puñado de generaciones y joder a los demás.
Pero claro, entiendo que los meneantes, por el corte ideologico promedio no puede aceptar esta realidad.
España ya es un país que ha fracasado. Está en la UE, pero tieme unas métricas de mobilidad social y de working poors lamentables, y esto lleva así tiempo, no es nuevo.
Pero como hay un puñado de generaciones que viven bien, hacemos como que no pasa. Seguimos legislando y pidiendo cosas como si fuéramos un país que no somos.
Y luego hablamos de los ricos cuando mirando transferencias de renta la cosa está cristalina. Pensiones y vivienda.
En fin. Esto es un lamento. No tiene solución ya. España tendrá cada vez más working poors y fin.
#1 Subirse los sueldos lo hace el PP tras todas las elecciones, pero es que este detalle es el chocolate del loro. En los 90 ya indultaban a grandes narcotraficantes y Rajoy no es que se diese una vuelta con un narco, es que directamente hacía campaña en barcos de narcotraficantes. Hicieron una ley del suelo que, aunque les permitió pillar cacho en recalificaciones por toda la geografía, fue catastrófica junto a una banca en la que también anduvieron metidos y que se dedicó a dar créditos sin cabeza. En otro apaño le regalaron a la iglesia por la cara decenas de miles de propiedades. Privatizaron (muchas veces de la manita del PSOE) casi todas las empresas rentables del estado para quitar soberanía económica a España. Se pulieron todo el Fondo de Garantía de la Seguridad Social y con la promesa de que no costaría un euro a los españoles nos colocaron un "crédito ventajoso" (para la banca que lo recibió íntegro sin avales) de 100.000 millones que estaremos pagando durante generaciones. Impusieron una ley mordaza para restringir derechos a todo el mundo, y perpetraron la reforma laboral más lesiva y recortadora de la democracia. Pedían la cabeza de Zapatero por subir 2 puntos el IVA y según sentaron el culo en el sillón ellos lo subieron 3 puntos, para a continuación subir todos los impuestos excepto los que bonifican en sus autonomías: los impuestos estatales de los multimillonarios, como Patrimonio, Donaciones y Sucesiones de los que ya estaba exenta >95% de la población por no llegar a mínimos, a la vez que esa falta de ingresos se traduce en recortes de otras competencias autonómicas como educación y sanidad. Han votado siempre en contra del matrimonio igualitario, en contra del derecho al aborto, en contra del derecho al divorcio, en contra de la prohibición de fumar en recintos públicos y cerrados, en contra de la eutanasia, etc...
¿Y crees que a sus votantes les importa mucho todo esto? No, estas variables macroeconómicas y de derechos de toda la población son inexistentes para ellos; es gente que no piensa en el bienestar del país, se dejan llevar por discursos trasnochados del "que nos comen los rojos-comunistas-judeo-masones-filoetarras", "nosotres", casoplón, la tarjeta microSD, "me prohiben el chuletón" y los trajes de los reyes magos como si todo esto fuese a "romper" España y no lo que hacen ellos. Gente que odia más a los demás de lo que se quiere a si misma.
Juan Carlos Campo dio el visto bueno al 'sí es sí' tras revisar más de 100 casos de agresiones sexuales Juan Carlos Campo, ministro de Justicia hasta julio de 2021, dio el visto bueno a la Ley de Libertad Sexual, conocida como sólo sí es sí, y descartó que fuera a provocar rebajas de condenas a agresores sexuales. Para ello, el equipo del entonces ministro estudió más de 100 casos reales entre los que se incluían los de La Manada y La Arandina y determinó que la ley, en la forma en que salió del Consejo de Ministros, no causaría el efecto perverso que ha terminado teniendo.
Enric Juliana poniendo en su sitio a Marta Flich por la caza de brujas de los medios contra Irene Montero como chivo expiatorio y recordándole que las penas de la ley Solo sí es sí las puso el Ministerio de Justicia del PSOE.
El fascismo del siglo XX fue fabricado por las elites para contrarrestar el socialismo y el movimiento sindical.
El fascismo del siglo XXI esta fabricado por las elites para contrarrestar la concienciación del cambio climático y para garantizar que en el peor escenario se puedan dar golpes de estado desde dentro para que ningún cambio legislativo afecte el modo de vida de algunos.
Es una batalla perdida. El colapso de la Ilustración parece ya inevitable salvo que por un milagro logremos desconectar las redes sociales. Creímos que la alfabetización de la población nos vacunaría para siempre de la irracionalidad que arrastramos desde que bajamos del árbol, pero no bastaba y se convirtió en contraproducente. Un burro conectado a internet no solo sigue siendo un burro sino que conoce al resto de su manada y conspira para destruirlo todo a coces.
¿Se referirá al Maine? ¿A haber sostenido la dictadura? ¿A aquello de, o entras a la Otan o pierdes las Canarias? Yo es que con tanto lazo histórico me pierdo
#7 Que Internet es beneficioso para muchas cosas es irrefutable: comunicación entre individuos, comercio, control de procesos a nivel global...
Pero "difundir información y noticias al público" no está entre esos beneficios. De hecho es altamente contraproducente por la elevadísima cantidad de mentiras, bulos, medias verdades, opiniones sesgadas y falacias de todo tipo que le llegan al kerido siudadano medio, quien por supuesto se las traga encantado y con una sonrisa en la cara por creerse superinformado. Más o menos como cuando mi abuelo repetía como La Verdad cualquier burrada que había visto por la tele porque lo ha dicho la tele, por lo tanto tiene que ser verdad porque la tele nos enseña lo que los demás no quieren que sepamos y tal y cual (siglo XX, primeros televisores en España).
Ver como os dividis en dos "bandos", el que "defiende" a Rusia y el que lo hace con USA, me apena enormemente. AMBAS naciones padecen similares "enfermedades" y cada día que pasa avanzan sin pausa ni remedio hacia la distopía total.
USA es un juguete en manos de sus élites ultra-liberales y ultra-conservadoras, con unas desigualdades entre clases sociales brutales y con una población, desinformada y cada vez más extremista, que es pasto de ultrareligiosos, conspiracionistas, negacionistas y paletos racistas. Sin apenas servicios públicos los pobres no viven, sobreviven. Y los ricos hacen de su voluntad ley... Exactamente lo mismo que en Rusia.
Solo les diferencia las formas que adoptan el capitalismo salvaje y la religión en cada país. Pero sus regímenes son LA MISMA MIERDA.
Veros echar mierda al "enemigo", intentando mostrar que vuestro "imperio moribundo" es mejor que el del otro, es ridículo y esperpéntico.
Que algunos veais la sangrienta guerra iniciada por Putin como un partido de fútbol en el que los "tuyos" van ganando según van matando y destruyendo más es terrorífico...
Llevamos tantas invasiones y golpes de estado Yankis que sabemos reconocer sus miserias en otros candidatos a matones del barrio.
Europa debe defenderse de ambos (si hace falta militarmente), de sus propagandas e ideologías dañinas para nuestras democracias y estados del bienestar. Y si para ello nos toca pasar por una travesía por el desierto, tendremos que hacerlo.
Si queremos libertad (la de verdad no la "LibertaZ madrileña") y futuro como democracias libres que disfruten del estado del bienestar (sanidad, educación y servicios básicos públicos), sin renunciar a nuestros principios, debemos formar un fuerte bloque europeo, independiente del resto, y que nuestras relaciones internacionales antepongan nuestros intereses. Lo demás, es quintacolumnismo, propaganda de dictaduras y estados fallidos y servilismo barato.
Si Ucrania cae, no será la última. Rusia sabrá que puede hacer lo mismo en Europa que ha estado haciendo USA en oriente medio y Sudamérica desde siempre... ¿Es eso lo que queremos? ¿Ser siervos de otro amo?
#3 Viendo el odio que tienen sus votantes a los asesinos de ETA, esto será de gran peso para que no la vote nadie tras haber matado a 9 veces más gente que la banda terrorista en toda su historia.
Esto sin contar los que han muerto por los recortes sanitarios en la sanidad pública.
Porque ya si añaden los pufos del padre con AvalMadrid, el regalo de viviendas haciendo alzamiento de bienes, los trapicheos del hermano para sacar pasta con el sufrimiento de la pandemia, regalos de bienes públicos a iglesia y amiguetes, disfrutar de alquileres muy por debajo del precio de mercado, prestar vivienda pública a golpistas extranjeros, aumentar la financiación de sectas, perdonar impuestos al 0,26% de la población que más dinero tiene...
Aunque si nos guiamos por la hemeroteca y la capacidad crítica del pueblo, será la próxima presidenta del país.
#7 Yo le doy una vuelta a eso; es registrador de la propiedad con unas de las notas máximas y siendo actual entre el más joven de España en sacarls...lo mismo que su hermano y hermana. Dada la dificultad de esa carrera, la más difícil de todas con diferencia, es casi imposible ver esa estadística en una sola familia.
Lugo descubres que su padre fue el juez que llevo el caso del hermano de Franco en un tinglado de aceite en el que murieron muchas personas envenenadas...durante el juicio los cinco testigos murieron "accidentalmente" desde un suicidio por ahorcamiento hasta un disparo accidental en la cabeza... Y claro el Hermanisimo se fue de rositas. Y la familia recibió como premio carreras para los hijos del juez.
Así que solo se puede llegar a la conclusión; Rajoy es corrupto desde la cuna.
Y el nuevo líder del PP más de lo mísmo: no salía con narcos por casualidad un día y le sacaron una fito: fueron los narcos los que lo ascendieron en política en el PP gallego.
Y no pasa nada...no me hacen gracia las paridas de este ser despreciable y repugnante.
El amigo de Putin, el simpatizante de Nazis, el adorador de dictaduras, fan de golpes de estado, el que no sabe si se siente más racista o más machista, el cosplayer de soldado que es escaqueó de la mili, el que no ha trabajado en su vida, el traidor, el odiador de España, el negacionista del cambio climático.
- Lo primero es aclarar que no solamente es español: hay que añadir euskera, gallego y catalán. Bases de datos bien curadas en estos últimos no son tan fáciles de encontrar, lo que significa un trabajo previo de elaboración de las bases de datos.
- Lo segundo es entender cuál sería la finalidad estatal de tener dichos modelos. No es entrenar, subirlos a huggingface y adiós muy buenas. La finalidad real es tener herramientas de tipo ChatGPT pero que preserven la privacidad y puedan ser utilizadas en administración, educación, fuerzas del estado.
A partir de esos dos preceptos, unas puntualizaciones sobre lo de entrenar LLM actuales a bajo coste: estamos hablando de modelos tipo Llama2 o Mamba, que están muy por debajo de las expectativas actuales de GPT 3.5 o 4. Si queremos acercarnos a algo tipo GPT 3.5, eso supone entrenar algo tipo phi-2 o mistral. Sigue sin ser un coste excesivamente elevado, pero desde luego no son 50€ de GPU, vas a necesitar algo más, más luego las quantizaciones del modelo. Por cierto, cantidad de modelos tipo mistral o phi en catalán, euskera o gallego: 0. En español hay 2 de mistral,
Pero una vez entrenando un 7B, descubres que no va tan fino en español como esperarías. ¿Por qué? Acompañadme en este maravilloso viaje por las conjugaciones y la historia de LLMs. Corría octubre del 2018 cuando se anunciaba BERT, y con él llegó un modelo multilenguaje entrenado en 104 idiomas, incluyendo el español. La primera tarea que hace un LLM es tokenizar, coger una palabra y conseguir separarla en "tokens", que representarían la raíz y sus afijos. En inglés, de la palabra "develop" sacas las derivadas "develops", "developer", "developers", "development", "developments", "developed", "developing". Un total de 7 palabras, y fáciles de tokenizar. Pero llegas al español…