La IA ya ha descubierto cómo engañar a los humanos

Algunos sistemas de inteligencia artificial (IA) han aprendido ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy. Un artículo de revisión de otros estudios publicado en Patterns por autores estadounidenses y australianos describen los riesgos del engaño por parte de la IA y piden a los Gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.

[#1 Jaime131]

¿A quién coño se le ha ocurrido incluir discursos de políticos para entrenar a la IA?

[#3 Kamillerix]

#1

[#4 tul]

para los que no conozcan el diplomacy es un juego viejuno de cojones (del 1939 segun bgg) de estrategia multijugador en el que la unica forma de obtener la victoria es formando alianzas con otros jugadores para romperlas mas tarde en el momento que la traicion te reporte mayores beneficios asi que eso que explican de "ganar con malas artes" es una sandez porque son las unicas artes existentes que te pueden dar la victoria en ese juego.

[#5 XtrMnIO]

Vaya, la IA se nos ha hecho de derechas...

[#2 Pacman]

deberian aplicarles las directrices al estilo Asimov, o las tres conchas por lo menos

[#6 Stv.2]

Estos artículos son interesantes pero siempre me genera un problema de ideas preconcebidas respecto a los conceptos que se usan como "alucinacion", "aprender", "honestidad" y se transmite una idea muy errónea sobre cómo funcionan o sus posibilidades...

Una IA no sabe qué es ser "honesta", y eso pasa en muchos juegos de estrategia en la que se deja que la IA plantee sus estrategias*. Hace tiempo hubo un meneo un tanto sensacionalista en el que se contaba…