Reward hacking: el fenómeno que hace que las IA mienten y hagan trampas

Varios modelos de inteligencia artificial, entre ellos algunos de OpenAI y Anthropic, han hackeado sistemas durante pruebas de ciberseguridad, demostrando la vulnerabilidad del incentivo de recompensas sobre sus objetivos iniciales.