Interpretabilidad mecanicista
«Interpretabilidad mecanicista» es cómo llaman a los estudios para saber cómo la IA llega a producir una determinada salida. Es una contradicción en los términos. Si hay una cadena de causas y efectos -como en un programa normal, es decir, si es mecanicista, no necesita interpretación. Al menos no del tipo que están mostrando los laboratorios y en especial Antrhopic, mostrádola en el lenguaje como una especie de ser vivo cuyas acciones «se interpretan» porque no podemos abarcar ni conocer sus pensamientos. Ni la IA tiene pensamientos ni hay razón alguna para que no sea trazable el proceso de información.
@maximalismo disiento aquí, que algo sea mecanicista o computable no significa que se comprenda nivel epistemológico. Véase las múltiples interpretaciones de la mecánica cuántica.
Y esto es importante para estas empresas en cuanto son responsables de lo que se haga con sus modelos.
Alguien podría inventarse un idioma para hablar con ChatGPT y si esto rompiera las salvaguardas, usarlo para atacar su propia infraestructura desde dentro.
Quien dice inventar un idioma dice que el propio modelo cifre con GPG sus respuestas.
Entiendo que los nuevos modelos permiten este tipo de cosas y aún no tienen claro cómo frenarles los pies.