Anthropic, una de las compañías más influyentes en el sector de la inteligencia artificial, ha defendido la idea de reducir la velocidad en el desarrollo de la IA para beneficio global. En un comunicado reciente, sus fundadores destacan la importancia de contar con la opción de frenar temporalmente los avances en IA puntera para que la sociedad y la investigación en seguridad tecnológica puedan mantenerse al día.
Según Jack Clark y Marina Favaro, cofundadores de Anthropic, alcanzar un acuerdo para una pausa real en el desarrollo tendría que ser tan riguroso como los tratados nucleares, requiriendo la colaboración de todos los laboratorios líderes en IA y el respaldo de responsables políticos a nivel mundial. Aun así, advierten del riesgo de incumplimientos debido a «la facilidad para ocultar procesos de entrenamiento y las altas recompensas para quienes sigan avanzando en secreto». Además, señalan la necesidad de definir claramente los mecanismos y responsables para activar y levantar esa pausa.
Anthropic, que la semana pasada inició un proceso confidencial para salir a bolsa con una valoración estimada de 965.000 millones de dólares, se ha posicionado con frecuencia como la alternativa más preocupada por la seguridad en comparación con OpenAI, empresa de la que surgieron varios de sus fundadores. Este llamamiento a ralentizar puede interpretarse también como una estrategia de marketing para atraer inversores y clientes frente a la competencia.
Esta propuesta llega en un contexto de creciente regulación: el presidente estadounidense Donald Trump ha firmado recientemente una orden ejecutiva para crear un centro de ciberseguridad enfocado en IA, coordinando esfuerzos entre la industria y los operadores de infraestructuras críticas. También existen críticas públicas hacia la expansión rápida de centros de datos.
En un análisis interno, Anthropic subraya que el papel humano en el desarrollo de modelos de IA está disminuyendo rápidamente. Actualmente, la inteligencia artificial genera más del 80% del código integrado en su plataforma, frente a cifras inferiores al 10% antes de febrero de 2025. Estas mejoras aceleradas permiten que los sistemas completen tareas complejas en menos tiempo: si en marzo de 2024 un modelo completaba tareas que requerían cuatro minutos humanos, ahora puede abordar labores equivalentes a doce horas de trabajo humano.
Los autores reconocen que podrían aparecer nuevos obstáculos que ralenticen el progreso, citando la Ley de Amdahl para explicar cómo las mejoras en una parte del sistema pueden causar cuellos de botella en otras. Por ejemplo, la revisión humana de código es actualmente un punto crítico que limita la velocidad.
También admiten que la IA aún falla al tomar decisiones de «gusto» o juicio sin indicaciones humanas, lo que limita su capacidad para conducir el desarrollo de la inteligencia artificial de forma autónoma. Sin embargo, si la tendencia actual se mantiene, la velocidad de avance dependerá fundamentalmente de la potencia computacional disponible, con humanos dedicados principalmente a supervisar y validar los sistemas en expansión.
