Por qué exempleados de OpenAI alertan del peligro de la inteligencia artificial a pesar del riesgo de perder sus millones

Un grupo de ex empleados y trabajadores anónimos de OpenAI han publicado una carta para advertir de cómo la empresa prioriza los incentivos comerciales por encima de los peligros de desarrollar sistemas de IA cada vez más avanzados. Los firmantes lamentan la cultura interna de secretismo y de cómo la empresa les obliga a firmar contratos donde no pueden criticar a OpenAI tras su salida si no quieren perder su dinero. En la carta, firmada por cinco ex empleados y seis trabajadores “anónimos” de OpenAI, piden que la empresa retire esos contratos

[#2 chavi]

Todo el mundo habla de "los peligros" pero nadie es capaz de enumerar ninguno.

[#8 rojo_separatista]

#7, si componer una canción que nadie a escrito, dibujar un paisaje que nadie ha dibujado, escribir un poema que nadie ha escrito, no es crear, me pregunto qué lo es realmente y sobretodo como puedes distinguir entre crear y regurgitar mediante un experimento objetivo y validable empíricamente.

[#13 rojo_separatista]

#12, inteligencia avanzada sigue siendo algo distinto a algo con conciencia.

[#9 rojo_separatista]

#6, cuando se tiene fe en algo, no hace falta razonar o argumentar y tú tienes fe en la excepcionalidad de la inteligencia humana.

[#10 azad]

#9 Yo no tengo "fe". Yo observo los hechos. Los humanos (y todo otro animal) se mueven de acuerdo con sus instintos. Los instintos son un conjunto de instrucciones grandes y complicadas. Una máquina no tiene nada de eso. Tampoco ninguna forma de deducirlos ni desarrollarlos.

Por lo tanto nunca (nunca) los van a tener.

Así pues, cuando en SciFi se dice que la máquina "adquiere consciencia", lo que significa eso es que de golpe empieza a comportarse de acuerdo con los instintos humanos. Eso es totalmente imposible.

[#11 rojo_separatista]

#10, no he hablado de conciencia en ningún momento sino de inteligencia, y no eres el único que parece que mezcla estos conceptos todo el rato.

Si una IA es capaz de pintar un cuadro nuevo, me importa poco si el mecanismo por el que lo ha logrado es mediante la interacción entre neuronas biológicas o mediante una simulación de estas interacciones basada en una multiplicación de matrices. El resultado final es indistinguible y eso es lo relevante cuando hablamos de IAs.

[#12 azad]

#11 Yo me refiero al "peligro" de una inteligencia avanzada, como dice el título de la notícia.

[#1 vviccio]

La energía atómica: guerra nuclear
El desarrollo de nuevos compuestos químicos: moléculas eternas
El desarrollo económico: la amenaza climática y contaminación
La IA: también tendrá su reverso oscuro que será de difícil solución.

[#4 mariopg]

lo que es peligroso es los hijos de puta que va a tener detrás (el dinero)

[#3 azad]

Todo esto de que una máquina va a adquirir las capacidades humanas es una estupidez. Tal cosa no sucederá nunca por muy capaces que sean esas máquinas.

[#5 rojo_separatista]

#3, claro que no, si movemos la portería cada vez que una IA, juega al ajedrez, dibuja, compone, escribe, dialoga o programa mejor que la mayoría de los seres humanos y decimos que esto no es realmente una capacidad humana, jamás igualará las capacidades humanas.

[#6 azad]

#5 No. No lo has entendido.

[#7 la_gusa]

#5 si hablamos de GenAI lo que hace es regurgitar conociniento pasado de forma más o menos coherente con muchas salidas de tiesto, crear no crea una mierda. Otras técnicas de IA son muy buenas reconociendo patrones, pero cada modelo es algo diseñado por un humano