@maximalismo disiento aquí, que algo sea mecanicista o computable no significa que se comprenda nivel epistemológico. Véase las múltiples interpretaciones de la mecánica cuántica.
Y esto es importante para estas empresas en cuanto son responsables de lo que se haga con sus modelos.
Alguien podría inventarse un idioma para hablar con ChatGPT y si esto rompiera las salvaguardas, usarlo para atacar su propia infraestructura desde dentro.
Quien dice inventar un idioma dice que el propio modelo cifre con GPG sus respuestas.
Entiendo que los nuevos modelos permiten este tipo de cosas y aún no tienen claro cómo frenarles los pies.