¿Puede un modelo de lenguaje de IA volverse lo suficientemente consciente de sí mismo como para darse cuenta de cuándo se está evaluando? Una anécdota fascinante de las pruebas internas de Anthropic en su buque insignia Modelo Claude 3 Opus (publicado ayer) sugiere que esto puede ser posible y, de ser cierto, las implicaciones serían descabelladas. twitter.com/AISafetyMemes/status/1764894816226386004

Es la gran tapada del mundo de la IA. Anthropic, es una startup que fue fundada por exingenieros de OpenAI que se fueron descontentos de aquella. Sus avances han atraído el interés de Google —que ha invertido 400 millones de dólares en ella— y han cristalizado con Claude, un chatbot que ahora está haciendo morder el polvo a ChatGPT y a GPT-4. ¿Cómo? Leyendo mucho.

Su nombre es 'Claude', y ha sido desarrollado por AnthropicAI, la compañía fundada hace año y medio por Dario Amodei, exvicepresidente de investigación de OpenAI (compañía desarrolladora, a su vez, de ChatGPT, GPT-3 y DALL-E 2). Cuando la empresa se presentó al mundo, lo hizo con 124 millones de dólares bajo el brazo, aportados por (entre otros) Jaan Tallinn, creador de Kazaa y de Skype que, en los últimos años, se había destacado por respaldar proyectos dirigidos a protegernos de los peligros de la inteligencia artificial.

Este vídeo recuperado por el AT&T Tech Channel merece estar en los anales de la historia de la informática. Se trata ni más ni menos que de Claude Shannon, el «padre de la teoría de la información», demostrando cómo funciona una máquina que aprende a resolver laberintos. La demostración es tan ingeniosa como toscas eran las computadoras de 1950 – si es que acaso se les podía llamar computadoras. En ella un ratoncito mecánico llamado Teseo, explora el laberinto gracias a electroimanes y motores debajo del tablero. [vía microsiervos]

'Muchos somos los que continuamente hablamos de sensores, la cantidad de píxeles, la profundidad de color, el ruido, los píxeles por pulgada, etc... En fotografía, como en cualquier medio digital a día de hoy, la palabra píxel va más que unida, a pesar de ser muchas veces desconocido su origen.' [Entrada en español, vídeo en inglés]