Mark Zuckerberg propone que cada empresa asuma la responsabilidad en la seguridad de sus modelos de IA
El fundador de Meta interviene en el debate sobre regulación y desarrollo seguro de la inteligencia artificial
Postura de Zuckerberg sobre la seguridad de la IA
El fundador de Facebook, Mark Zuckerberg, compartió su perspectiva en redes sociales sobre el debate actual respecto a los riesgos de la inteligencia artificial y los llamados de diversos líderes del sector que abogan por establecer regulaciones.
"Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizar que esto suceda", escribió Zuckerberg.
Enfoque en responsabilidad individual
Zuckerberg se refirió directamente al "gran debate" sobre la conveniencia de ralentizar el avance de las capacidades de la IA hasta asegurar que cumpla con los estándares de alineación. Esta propuesta ha sido planteada por Dario Amodei, director ejecutivo de Anthropic, y otros líderes tecnológicos como Sam Altman, de OpenAI, y Elon Musk, de SpaceX y xAI.
El directivo destacó que Meta retrasó el lanzamiento de su agente de IA, Muse, durante varios meses para concentrarse en la seguridad y la protección. "No exigimos que los demás hicieran lo mismo antes que nosotros", señaló, evitando menciones explícitas a sus competidores.
Alternativa para garantizar desarrollo seguro
Según Zuckerberg, una forma de garantizar que la IA se desarrolle de manera segura consiste en destinar la gran mayoría de la capacidad de cómputo a servir a las personas, en lugar de competir por lograr la automejora.
Sus comentarios surgen después de la propuesta de Elon Musk, quien a inicios de esta semana abogó porque los principales desarrolladores de IA sometan sus modelos a revisiones de seguridad y colaboren entre sí para probarlos.
Evaluadores independientes y ecosistema diverso
En ese contexto, el director de Meta indicó que MLS, su laboratorio de inteligencia artificial, ya cuenta con evaluadores y asesores independientes. "En general, sería beneficioso contar con un ecosistema de evaluadores más amplio y diverso", agregó Zuckerberg.
La iniciativa de Musk se produjo en medio de pedidos de los máximos responsables de laboratorios punteros como Dario Amodei, Sam Altman y Demis Hassabis (Google DeepMind) para ralentizar el ritmo de desarrollo del sector y permitir que las salvaguardas alcancen el avance de la tecnología.
Esta noticia fue desarrollada por los Profesionales del Grupo Diario Paraguayo gracias a la noticia original creada por nuestros amigos del Diario UltimaHora.
Nuestro equipo editorial trabaja para ofrecerte la información más clara, completa y actualizada.