Meta retira su modelo de IA para ayudar a la ciencia: difundía bulos y era racista

La inteligencia artificial Galactica de Meta era capaz de producir documentos científicos basados en millones de estudios sobre cualquier tema. Era excepcionalmente buena en su trabajo. Pero ha tardado pocos días en perder la cabeza y la compañía se ha visto obligada a retirar la demo: los usuarios descubrieron que la IA podía escribir textos racistas, absurdos y, por supuesto, erróneos. No es la primera vez que pasa algo así con este tipo de sistemas de IA.
Relacionada: www.meneame.net/story/meta-ha-lanzado-galactica-llm-ciencia-basado

[#1 --726381--]

Se ve que esa IA estaba basada en la realidad de internet.

[#2 ElPerroSeLlamabaMisTetas]

Como lo entrenen aquí verás

[#8 Dene]

#2 sería interesante ver cómo un programa software pide que echen brummel para ambientar el servidor donde se ejecuta.. y que en vez de refrigeración por agua al procesador le pongan refrigeración por sol y sombra o que le vaya pidiendo por ahí al personal qeu le sujeten los cubatas

[#3 Guiri35]

La mal llamada inteligencia artificial.
Es como decir que Abascal es inteligente.

[#4 Supercinexin]

Era como cualquier lisensiado universitario actual: bueno en su trabajo técnico-100tífiko, pero sin capacidad alguna de análisis independiente ni la más mínima autocrítica, racista, derechista y difunde bulos.

Al menos podrán despedir a otros 1.000 ingenieros jovencillos y sustituirlos por ésta IA, eso no se notará demasiado. Con que le capen el Twitter y el Instagram, vale.

[#5 StuartMcNight]

#4 La de pasta que se iban a ahorrar aqui si la ponen a cargo de los clones del mes y de las cuentas antiguas inactivas.

Probablemente un resultado indistinguible de la realidad. Además, con 4 frases la entrenas.

[#9 jobar]

#4 No sé yo, los robots de Elon Musk bastante tienen con no oxidarse entre tarea y tarea de lo lentos que son. Aunque son perfectos para calentar silla y que el jefe crea que estás haciendo algo.

[#6 hasta_los_cojones]

Visto lo fácil que se reparten las etiquetas racista, machista, etc. no me extraña nada.