El software no solo puede detectar moléculas tóxicas: también puede crear nuevos compuestos, mediante un sistema de puntuación. Si crea una molécula tóxica recibe una puntuación baja, penalizándola. Si no es tóxica, gana muchos puntos.
Pero, ¿qué ocurre si un usuario malintencionado cambia los parámetros? Es decir, penaliza a la IA por crear moléculas seguras, y la premia al crear moléculas tóxicas. El resultado le dejó sin palabras: la IA creó 40.000 armas químicas letales, en solo 6 horas.
|
etiquetas: ia , armas químicas
Se trata de unos pocos muy-muy-muy ricos, con capacidad para estar dos o tres años viviendo a cuerpo de rey protegidos bajo tierra, contra el resto del mundo.
Es que el matiz es importante.
El riesgo son los fanáticos que creen en otras vidas y no tienen miedo a perder la suya y la del resto en esta creyendo que con ello consiguen una vida eterna mejor, o bien los que tengan esas armas para morir matando si intentan algo y se pasan de la raya y ya no hay vuelta atrás.
A ver:
Tengo un algoritmo “inteligente” que me calcula, dado un volumen, las dimensiones de la lata que lo contiene y a la vez tiene menos superficie (menor superficie = menor costo), si pongo 35cm3 me da los dos tamaños normales de lata que podem9s encontrar en el super.
Si modifico el algoritmo para que me de los tamaños más caros me dará miles… todos inutiles y sin sentido… pero serán envases… » ver todo el comentario
Basta con un virus muy letal, supercontagioso o un veneno que se expanda para que arrasen con la inmensa mayoría, salvo el que tenga el antídoto.