Zuckerberg defiende el desarrollo de la IA con mecanismos de mercado

Mark Zuckerberg, jefe de Meta, rechazó los crecientes llamados a suspender o ralentizar el desarrollo de inteligencia artificial, argumentando que los mecanismos de mercado y la amenaza de demandas judiciales constituyen los mejores contrapesos para esta tecnología.

La preocupación sobre la IA se ha incrementado recientemente debido a varios incidentes de seguridad y a la capacidad de los modelos de inteligencia artificial para mejorar por sí mismos, sin intervención humana.

Alineamiento como incentivo natural

Zuckerberg explicó que los usuarios no adoptarán sistemas que no estén alineados con sus intereses. "La gente no querrá utilizar agentes que no estén alineados con sus intereses y que no hagan lo que se les pide. Los laboratorios tienen, por tanto, un fuerte incentivo natural para hacer que sus modelos estén más alineados", escribió en X.

El término "alineamiento" se refiere a los esfuerzos para lograr que los modelos de IA se comporten conforme a los deseos de los usuarios. "Todo laboratorio que no se centre en el alineamiento se quedará atrás", agregó el ejecutivo.

Autorregulación vs. regulación formal

El debate sobre la inteligencia artificial se centra actualmente en la capacidad del sector para autorregularse. Empresas como OpenAI, Anthropic y Google estudian la creación de un organismo común para elaborar normas.

Sin embargo, Zuckerberg señaló que la amenaza de demandas judiciales ya obliga a los laboratorios a actuar de manera responsable. Como ejemplo citó la decisión de Meta de posponer varios meses el lanzamiento de su sistema Muse AI, dotado de agentes personalizados, para reforzar sus mecanismos de seguridad y protección.

Evaluaciones independientes

El ejecutivo manifestó su apoyo a evaluaciones independientes de los sistemas de IA, destacando que Meta Superintelligence Labs, la división de IA del grupo, ya recurre a expertos externos. Además, solicitó la creación de un "ecosistema más amplio y más diverso de evaluadores" en el sector.

Meta invertirá hasta 145.000 millones de dólares este año en sus infraestructuras de IA, buscando evitar regulaciones que limiten su desarrollo. A principios de agosto, Zuckerberg defendió que ninguna norma debería retrasar la salida de los modelos estadounidenses.