Sabemos cómo se construye y se entrena, pero todavía no comprendemos por completo cómo llega a una respuesta específica.
Ahora sumemos algo: que la propia IA ayude a desarrollar la próxima generación de IA.
Una caja negra ayudando a construir otra más potente.
La automejora puede acelerar las capacidades de estos sistemas más rápido que nuestra capacidad de entenderlos y controlarlos. Esa es una de las preocupaciones detrás de los recientes llamados a moderar el ritmo de desarrollo.
• Dario Amodei (Claude) propone desacelerar el avance de los modelos más potentes para ganar tiempo en investigación de seguridad y evaluaciones independientes.
• Sam Altman (ChatGPT) respaldó la incorporación de evaluadores externos.
• Elon Musk (Grok) manifestó su apoyo a Amodei.
No anunciaron una paralización de sus empresas. Pero varios de los principales líderes de la IA en Estados Unidos están hablando de parar la pelota.
¿Y China qué dice?
El gobierno chino cuestionó el planteo de Amodei y rechazó lo que considera alarmismo y confrontación. Su respuesta no incluyó un compromiso de desacelerar.
Entonces aparece otra pregunta: ¿alcanza con restringirle el acceso a los chips más avanzados?
Empresas estadounidenses como NVIDIA diseñan esos procesadores. Una parte clave de su fabricación depende de TSMC, una empresa taiwanesa con gran capacidad de producción en Taiwán: una isla que se gobierna de forma autónoma y que China reclama como propia.
La discusión sobre seguridad de la IA también atraviesa una disputa por tecnología, poder y territorio.
Si unos quieren levantar el pie y otros siguen acelerando, ¿quién marca el ritmo?
La moneda está en el aire. Esperemos que caiga del lado correcto.
