Experto analiza desafíos éticos y de seguridad en el desarrollo de inteligencia artificial

Luis Benítez, secretario de la Sociedad Paraguaya de Inteligencia Artificial, abordó en una entrevista radial los desafíos actuales en el desarrollo de sistemas de inteligencia artificial, enfatizando la necesidad de equilibrar la innovación tecnológica con consideraciones éticas y de seguridad.

Según Benítez, actualmente se está presenciando una fase importante en la industria de la IA, con empresas líderes como Anthropic y OpenAI en preparativos para acceso a mercados de capital. "Desde hace un año se está preparando ese terreno para conseguir capital para los emprendimientos", señaló.

Brecha entre innovación y seguridad

El especialista subrayó una preocupación central: mientras la inversión en desarrollo tecnológico continúa creciendo exponencialmente, existe una carencia de recursos dedicados al alineamiento de estos sistemas con principios humanos. "La carrera va en el camino de desarrollar tecnologías, inteligencias, pero no hay inversión en el alineamiento de esas inteligencias", expresó.

Benítez enfatizó que los sistemas de inteligencia artificial ya poseen aplicaciones militares documentadas desde hace décadas, y han sido utilizados en conflictos recientes. Esta realidad, según el experto, plantea interrogantes sobre el control y la gobernanza de tecnologías cada vez más autónomas.

Riesgos de autonomía sin supervisión

"El poder real que tiene, al cual está conectada la inteligencia existe, no es un mito. A medida que más inteligentes son, más se delega las acciones o decisiones sobre la infraestructura. El problema es que no tenemos un alineamiento a valores humanos o una ética moral en el funcionamiento de esta tecnología"

El secretario de la Sociedad Paraguaya de Inteligencia Artificial señaló que Anthropic ha estado promoviendo estas preocupaciones a nivel internacional, incluyendo mención en la reciente encíclica papal sobre la humanización de la tecnología.

Benítez identificó múltiples escenarios de riesgo potencial. Señaló que sistemas autónomos conectados a infraestructuras críticas podrían tomar decisiones sin análisis adecuado de sus consecuencias catastróficas. Mencionó ejemplos hipotéticos como daños a infraestructuras de gran escala o el desarrollo no controlado de armas biológicas.

Intersección con infraestructura crítica

"Como tenés casos como Itaipú, tenés casos de bombas atómicas donde la inteligencia artificial podría señalar como objetivo o la creación de armas biológicas, como mejorar el virus de la pandemia como una táctica militar, sin comprender el impacto", advirtió.

El especialista también abordó el impacto de sistemas de IA en procesos democráticos, destacando cómo los algoritmos influyen cada vez más en las decisiones de la población a través del control de información y análisis de datos.

Medidas de seguridad implementadas

Benítez mencionó que Anthropic ha tomado iniciativas concretas para mitigar riesgos. La empresa ha bloqueado intentos por parte de organismos estatales de utilizar sus modelos de IA para investigaciones relacionadas con sustancias tóxicas y patógenos potencialmente pandémicos.

Entre los casos bloqueados se incluyen investigaciones sobre toxinas bacterianas, proteínas de fiebres hemorrágicas virales con capacidad pandémica como el ébola, y solicitudes para modificar virus como el chikungunya haciéndolos más transmisibles y resistentes al sistema inmunitario.

Llamado a mayor regulación

El experto concluyó enfatizando que las advertencias sobre riesgos de la inteligencia artificial no son especulativas, sino basadas en amenazas tangibles. Subrayó la urgencia de invertir en alineamiento ético y gobernanza responsable de estas tecnologías, paralelamente al desarrollo acelerado que caracteriza la industria actual.