A los expertos en IA les preocupa la extinción humana. A Donald Trump solo le preocupa que China gane la carrera

El presidente de EE. UU., Donald Trump, no está lo que se dice alarmado por las advertencias de diversos expertos sobre los riesgos existenciales que la inteligencia artificial podría representar para la humanidad. Así se lo dijo a los reporteros que hablaron con él en la pista, mientras se preparaba para despegar desde Dallas, tras la convención republicana de esta semana. Alguien le preguntó a Trump si tenía alguna preocupación sobre la posible extinción humana por cuenta de la IA y su respuesta fue simple: “No, no tengo ninguna”.

En cambio, resulta, su preocupación es mucho más inmediata: “Me preocupa que si no ganamos la carrera de la IA, nos veremos en una posición muy mala”, dijo el mandatario. “Ahora mismo estamos adelante de China, diría que un año, lo cual, ya sabes, se considera mucho”.

Según los informes, la prioridad principal de Trump es garantizar que los Estados Unidos mantengan su dominio tecnológico frente a China en este sector estratégico. Mientras tanto, investigadores de empresas destacadas como OpenAI y Anthropic han expresado un profundo temor ante el desarrollo acelerado de sistemas con capacidades superhumanas.

A pesar de estas alarmas sobre un riesgo real de una posible extinción, Trump enfatiza que el verdadero peligro reside en perder la competencia global por el liderazgo técnico.

La competencia con China

Hablando con su característico tono enfático, el presidente ha descartado de plano los temores de los investigadores sobre la falta de control de la IA, afirmando que todo va a estar bien y asegurando que siempre se contará con algún mecanismo de contención.

No es la posición que se oye en numerosos círculos de las principales empresas de IA en EE. UU., en donde cada vez más voces sostienen que las regulaciones e imposiciones de seguridad les atarían las manos en una ‘carrera armamentística’ hacia la superinteligencia contra China.

Es así que, mientras líderes empresariales como Sam Altman abren la puerta a coordinar una desaceleración con otros laboratorios, motivado, en gran parte por las crecientes alertas de los expertos, así como por una baraja de incidentes de seguridad, la mayor parte de la administración Trump mantiene una postura aceleracionista frente al avance tecnológico.

Por su parte, el Congreso impulsa un proyecto de ley bipartidista denominado la Frontier Act (Ley de Frontera), introducido por los representantes Lori Trahan y Jay Obernolte, con el respaldo de legisladores de ambos partidos como el senador Bernie Sanders y la representante Anna Paulina Luna.

Las propuestas

Las principales medidas de seguridad propuestas en este proyecto de ley incluyen asignar e integrar auditores del gobierno directamente dentro de los laboratorios de inteligencia artificial, así como crear un «botón de apagado» federal (kill switch), un sistema de desconexión de emergencia a nivel federal para apagar o desactivar a los agentes de IA en caso de una situación crítica.

Esta semana, el científico jefe de OpenAI, Jakub Pachocki, advirtió que ningún laboratorio de IA ha resuelto el desafío de la alineación y el monitoreo en un grado que justifique continuar escalando a máxima velocidad, y por eso señaló que es conveniente que las desaceleraciones voluntarias se vuelvan comunes en toda la industria, al menos mientras se establecen estándares de seguridad compartidos.

Según recogió Quartz, Pachocki dijo que cree que la IA se está moviendo hacia una mejora recursiva autoiniciada, una realidad en la que los sistemas asumen el desarrollo de sus propios sucesores, con lo que el rol de los humanos se vería cada vez más limitado hasta, efectivamente, desaparecer. En un ensayo publicado en el sitio web de OpenAI, Pachocki sentenció: “Este es un momento que requiere extrema precaución”.