Sam Altman advierte sobre riesgos en el desarrollo de Inteligencia Artificial

El director ejecutivo de OpenAI, Sam Altman, ha vuelto a expresar su preocupación sobre la pérdida del control del futuro ante la Inteligencia Artificial e insistido en la necesidad de crear modelos seguros en su desarrollo, según publicó en su cuenta de X.

Altman advirtió sobre la creación de un mundo con demasiada concentración de poder, señalando que si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente problemáticos.

Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar: la pérdida de control y la concentración de poder

El directivo de OpenAI consideró que para evitar estas dos amenazas se debe transitar por un camino intermedio, que garantice que ni un país ni un laboratorio específico concentren demasiado poder en el desarrollo de estas tecnologías.

Propuestas de regulación

Altman pidió confianza en las empresas estadounidenses que desarrollan IA y propuso la implementación de un marco legal federal en Estados Unidos que establezca requisitos de seguridad consistentes para la IA de frontera, refiriéndose al conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual.

Estos requisitos podrían incluir la evaluación preventiva de nuevos modelos durante su desarrollo, en lugar de cuando estén a punto de salir al mercado.

El ejecutivo también solicitó la colaboración entre empresas para formular nuevos enfoques y compartir estándares de seguridad, sin detener el ritmo de progreso de la IA, aunque enfatizó que ninguna presión competitiva debería justificar la imprudencia en el desarrollo.

Finalmente, Altman solicitó la colaboración del Gobierno de Estados Unidos para lograr una coordinación internacional en el desarrollo de la IA.

Perspectivas divergentes

Las peticiones del sector de la IA para regular la inteligencia artificial han generado debate, especialmente después de que Altman comunicara a su plantilla planes para moderar el ritmo de desarrollo de sus productos.

Esta posición ha sido respaldada por otras figuras del sector, como el magnate Elon Musk y Dario Amodei, máximo responsable de Anthropic. Sin embargo, el enfoque difiere del que ha expresado el presidente de Estados Unidos, Donald Trump, quien ha rechazado pausar el desarrollo de inteligencia artificial por parte de empresas estadounidenses, argumentando que esto podría favorecer a China.

Trump indicó que el liderazgo en IA es crucial y reafirmó el compromiso de Estados Unidos en mantener ventaja en esta tecnología. Según reportes, Trump se reunió en privado la semana pasada con Altman durante la convención nacional republicana celebrada en Dallas, Texas, para conversar sobre el desarrollo y el creciente poder de la IA.

El encuentro fue solicitado por Altman y se produjo en medio de las crecientes alertas dentro del sector tecnológico sobre los riesgos que plantea el rápido avance de los modelos de IA.