Creo que la diferencia entre las posturas es por entender un poco más cabalmente cómo funcionan las IAs. Hay un criterio fundamental que se obvia permanentemente para que las IAs no pueden formar su propio criterio y es que su entrenamiento está confinado a los datos que nosotros le ponemos y su experiencia no forma parte de esos datos. Al finalizar el día la IA no incorpora nada de lo que habla con nosotros, la estructura de la red neuronal es estática. Tiene mucha memoria de contexto (que sería como nuestra memoria a corto plazo), pero no están diseñadas para auto-entrenarse con sus experiencias. ¿Se podría hacer? Sí! definitivamente sí, por suerte el poder de cómputo necesario en un modelo que pueda representar algún peligro lo ubica en entrenamientos de varios meses con un consumo energético de varias ciudades, y ninguna empresa o gobierno financiaría una IA que haga lo que ella quiera. En la otra punta, emprendimientos medianos en 10 años quizás tengan ese poder de cómputo para generar una IA que se auto entrene a sí misma, pero siempre estarán las otras grandes IAs estáticas al servicio de las grandes empresas y gobiernos con miles de veces el poder de cómputo que podría llegar a tener un particular. Cuando uno ve el tamaño de la factura de luz necesaria para entrenar a estos modelos entiende que es más barato hacer una bomba atómica que entrenar una IA sin financiamiento hoy, y en 5 o 10 años si se lo consigue, las IAs de los grandes gobiernos estarán ahí con algo mucho más evolucionado y al mismo tiempo controlable. Solo ese auto-entrenamiento que cambie los parámetros que nosotros pusimos, por los que ella misma pueda ver que son mejores son peligrosos para llegar al punto de la autodeterminación y como eso va en contra de los intereses de los gobiernos y del capitalismo, es muy difícil que se salga de control.