Grabois se hizo eco de las advertencias por el riesgo de la IA y llamó a un “pacto tecnológico mundial”

El diputado de Unión por la Patria (UxP) y referente de Patria Grande, Juan Grabois, se hizo eco este miércoles de las advertencias de un exinvestigador de Anthropic sobre los riesgos de la IA y llamó a un “pacto tecnológico mundial” para frenar lo que llamó una “carrera a la muerte”.“Un capo técnico de Anthropic, la principal empresa de IA, dice que se va de la empresa porque el desarrollo irracional, demencial e ilimitado de la superinteligencia con automejora recursiva puede generar un cataclismo que destruya a la humanidad. Uno de los jefes máximos le da la razón públicamente, afirma que hay un 10% de posibilidades que esto suceda, que no saben bien lo que están haciendo... y sigue su vida como si nada”, reseño Grabois desde sus redes sociales. El posteo de Juan GraboisTras advertir que “esto no es joda”, el legislador expresó: “Hay que estudiarlo escrupulosamente, comprender lo que está pasando, generar los espacios para un pacto tecnológico mundial y frenar esta carrera a la muerte en la ventana de tiempo que todavía nos queda”. “Todos tenemos un montón de frentes abiertos en nuestra vida, nuestro trabajo, pero esto tiene que ser una prioridad. El Papa León dio en el clavo y tenemos que apoyarlo en su tarea”, añadió, en referencia a la encíclica Magnifica Humanitas.Grabois se refirió al caso de Jacob Coxon, investigador de Anthropic que este miércoles anunció su renuncia al advertir que la carrera para mejorar los sistemas de IA traen peligros que sus propios creadores admiten en privado. “Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”, publicó en sus redes sociales.El jefe de seguridad de Anthropic, Evan Hubinger, respaldó el descargo de Coxon y afirmó que existe más de un 10% de probabilidad de que la inteligencia artificial termine matando a los seres humanos durante la próxima década.Anthropic presentó Claude Fable 5.1 y Claude Mythos 5.1, sus modelos de inteligencia artificial más avanzados hasta la fechaImagen generada con IA“Creemos realmente que la IA podría matar a todos los humanos”, escribió Hubinger en X. El responsable de seguridad de Anthropic estimó ese riesgo en “más de un 10%” dentro de los próximos diez años, en medio de una creciente preocupación dentro de la propia industria por la velocidad con la que evolucionan estos sistemas.Estas declaraciones surgieron después de Coxon, de 27 años, anunciara que abandonaba por completo la industria –después de haber trabajado, primero, en OpenAI y luego en Anthropic– y acusara a ambas compañías de “jugar con nuestras vidas”.Noticia en desarrolloJuan GraboisInteligencia artificialPapa León XIV