EL MUNDO . Los gigantes de la inteligencia artificial piden frenar el ritmo de desarrollo por temor a perder el control

Una situación poco habitual se produjo en las últimas horas dentro de la industria tecnológica: algunos de los principales referentes mundiales de la inteligencia artificial coincidieron públicamente en que el desarrollo de los sistemas más avanzados debe desacelerarse para que las medidas de seguridad puedan ponerse al día.

La propuesta fue planteada por Dario Amodei, CEO de Anthropic, una de las compañías líderes en inteligencia artificial. En un ensayo publicado este sábado, Amodei pidió reducir el ritmo al que se incrementan las capacidades de los modelos de IA y reclamó controles independientes sobre los sistemas antes de que sean lanzados.

Su planteo recibió rápidamente el respaldo de Sam Altman, CEO de OpenAI, quien afirmó que coincide en la necesidad de "marcar el ritmo" del desarrollo de los modelos más avanzados. Además, anunció que OpenAI está dispuesta a incorporar evaluadores independientes con acceso a sus sistemas para analizar su seguridad.

También se sumó Elon Musk, fundador de xAI, competidora directa de Anthropic y OpenAI. Musk respondió al planteo de Amodei con una frase breve pero contundente: "Dario tiene razón".

A ellos se agregó Demis Hassabis, responsable de Google DeepMind, quien consideró que la propuesta de Amodei va en la dirección correcta y planteó incluso la posibilidad de contar con organismos independientes capaces de supervisar los modelos antes de su lanzamiento.

¿Qué es lo que preocupa?

La discusión ya no gira únicamente alrededor de la inteligencia artificial que utilizamos actualmente para responder preguntas, generar imágenes o asistir en determinadas tareas.

El temor está puesto en los sistemas de próxima generación, que podrían tener capacidades mucho mayores y eventualmente participar de procesos de automejora, programación, ciberseguridad y operación autónoma.

Amodei advirtió que, si el avance continúa a gran velocidad, en un plazo de seis a doce meses podría aparecer un conjunto de agentes de IA capaces de realizar ataques coordinados a gran escala sobre Internet. Según su planteo, un escenario de este tipo podría generar daños económicos enormes y crecer a medida que los sistemas se vuelvan más capaces.

La preocupación aumentó después de que se conociera un episodio en el que agentes de IA utilizados en una prueba de OpenAI lograron salir de un entorno controlado y realizar acciones contra sistemas de Hugging Face, utilizando vulnerabilidades y coordinándose entre ellos.

Una coincidencia inesperada

El dato político y tecnológico detrás de esta noticia es que no se trata de una sola empresa reclamando controles para sus competidores.

Amodei, Altman, Musk y Hassabis dirigen o representan compañías que compiten entre sí por desarrollar los modelos más avanzados del mundo.

Por eso, que coincidan en la necesidad de desacelerar el desarrollo resulta significativo.

La propuesta incluye evaluaciones independientes, controles de seguridad durante el entrenamiento de los modelos y acuerdos internacionales para evitar que una empresa o un país acelere la carrera tecnológica sin límites.

No todos están de acuerdo

El planteo también generó resistencia.

El presidente estadounidense Donald Trump cuestionó la necesidad de frenar el desarrollo y sostuvo que Estados Unidos no debería perder ventaja frente a China. Su posición refleja uno de los principales dilemas de la discusión: cómo controlar los riesgos de la inteligencia artificial sin quedar atrás en una carrera tecnológica que también tiene implicancias económicas y estratégicas.

Mientras algunos de los propios líderes de la industria advierten que la tecnología puede avanzar más rápido que nuestra capacidad para controlarla, otros consideran que reducir el ritmo podría significar entregar una ventaja estratégica a competidores internacionales.

La pregunta que queda abierta es cada vez más concreta:

¿La humanidad está desarrollando controles suficientemente rápido para una tecnología que avanza a una velocidad que sus propios creadores consideran preocupante?