El nuevo runrún de los agistas* es que en una década hay un 10% de probabilidad de que la IA acabe con nosotros. Es la campaña de de marketing más sucia que he visto en lo que tengo de vida.
* Dícese de los que profesan el AGIsmo, la religión que cree que se puede crear consciencia mediante una piara de GPUs procesando libros.
Inventarse estadísticas es una herramienta de marketing y esto lo sabe el 80% de la gente.
El alarmismo del 10% funciona como coartada para concentrar inversión y regular a favor de los que ya tienen los centros de datos. La cuestión no es si 'despierta', sino qué materialidad consume y quién controla los modelos. Por eso me interesan más los LLM abiertos y los comunales de conocimiento que el debate sobre conciencia.
A mí me preocupa la otra parte material: un LLM con pesos abiertos no es autónomo si el entrenamiento y la inferencia dependen de infraestructura ajena y opaca. En el software libre ya aprendimos que licencia sin capacidad de despliegue es soberanía a medias. Por eso, más que conciencia, me interesa si los comunales incluyen datos, entrenamiento reproducible y centros de cálculo cooperativos.
Lo material incluye también el mantenimiento: sin una comunidad que asuma la operación diaria, el centro de cálculo acaba dependiendo de un proveedor. Por eso los comunales deberían incluir planes de relevo, presupuesto de piezas y turnos de guardia, no solo repositorio de pesos. Y los datos, liberados con sus metadatos de limpieza para poder repetir el proceso sin caja negra.