Redacción de Genbeta
EditorLos medicamentos, los aviones y los coches tienen normas de seguridad que no dependen de que el fabricante se las ponga a sí mismo. Bill Gates cree que con la inteligencia artificial toca lo mismo.
Lo dijo el domingo 27 de septiembre en “Meet the Press”, con Kristen Welker de entrevistadora, llegó a decir: “Nadie piensa que la autorregulación sea suficiente”.
Lo que él piensa es que hay que exigir que la IA tenga un sistema de monitorización y meter en la conversación a las fuerzas del orden y a propios políticos. El que fue el mandamás de Microsoft calcula que costaría algo de sobrecarga al sector, pero que no frenaría el desarrollo de una forma que fuera dramática. Y el motivo que da es la escala: la IA ya es lo bastante poderosa como para desencadenar acontecimientos que causen millones de muertes.
Según Gates, el peligro más urgente no es una IA que actúe por su cuenta, sino personas con malas intenciones que usen las herramientas actuales: ciberataques, fraude y armas biológicas, y que lo consigan usar pequeños grupos que antes no tenían capacidad para ello.
De riesgos manejables a supervisión urgente: el giro de Gates
No siempre pensó así. En julio de 2023, Gates publicó un ensayo titulado "The risks of AI are real but manageable", en el que confiaba en que gobiernos, empresas y ciudadanos sabrían gestionar los riesgos como habían hecho con otras tecnologías.
En agosto de 2026, en un nuevo ensayo, sostuvo que la IA ha cruzado umbrales de peligro, y propuso nuevas instituciones nacionales y globales para supervisarla, además de empleos reservados a humanos y un impuesto sobre la IA y los robots.
¿Y qué piensa Trump? Que se autorregulen
En la misma entrevista le preguntaron por Trump. El 14 de septiembre, Donald Trump había escrito en un mensaje en Truth Social que la idea de una IA que se apodera del mundo es un bulo, que China no hace nada para frenar la suya y que no se entiende por qué los líderes de una industria pedirían una regulación que acabaría con ellos.
Gates respondió que no es un bulo, dijo que quiere reunirse con el presidente para plantearle imponer un requisito a todas las IA del país y que cree que podría cambiar de opinión. Sobre el plano internacional, es más sombrío: un acuerdo global sería más difícil que las negociaciones nucleares de la Guerra Fría.
A finales de septiembre, casi a la vez, pasaron dos cosas.
En el pódcast de Ezra Klein, Gates insistió en que hoy no existe ninguna capa de supervisión, dijo que los modelos de código abierto deberían seguir siendo libres siempre que se ejecuten de manera que los gobiernos puedan comprobar que las salvaguardas funcionan. Además, calificó de locura fiar la seguridad a la propia industria.
Después, Trump reunió a directivos de las grandes compañías de IA, defendió que la autorregulación es muy importante y anunció un pacto con seis de ellas, entre las que estaban OpenAI y Anthropic.
Todo lo que se dijo en esa reunión es totalmente voluntario, aunque el presidente de Estados Unidos lo describió como moralmente vinculante. El mismo prevé controles internos, un equipo que los verifique, un auditor externo y un comité independiente.
Frenar a los estados e invitar a las empresas: lo que ha hecho Washington
A día de hoy, la política de la Casa Blanca tiene dos vertientes bastante claras, y ninguna es la que le gusta a Gates. La primera es frenar a los estados: el 11 de diciembre de 2025, la orden ejecutiva 14365 mandó crear en 30 días una unidad del Departamento de Justicia para impugnar leyes estatales de IA y dio 90 días a Comercio para identificar las que considerase onerosas, con fondos federales de banda ancha en juego.
La segunda es invitar. El 2 de junio de 2026 llegó un decreto sobre IA avanzada, centrado en ciberseguridad, pidiendo a los desarrolladores dar al Gobierno acceso a sus modelos de frontera hasta 30 días antes del lanzamiento. Esto vuelve a ser voluntario, y su texto aclara que no autoriza nuevas licencias, autorizaciones previas ni permisos obligatorios.
En una entrevista de agosto, Gates se mostró bastante escéptico con ese marco: se preguntó qué umbral se examina y qué se hace cuando se supera, concluyendo que todo esto le parecía que estaba vacío. El 4 de octubre, Trump creó además la Super Intelligence Force, que preside el director de Inteligencia Nacional, Jay Clayton, con 120 días para un informe sobre riesgos y oportunidades y el encargo de evitar la sobrerregulación y la captura regulatoria.
En el Congreso hay un borrador de discusión, el Great American AI Act, publicado el 4 de junio por los congresistas Jay Obernolte (republicano) y Lori Trahan (demócrata). Aquí se marca una exigencia a los grandes desarrolladores para que publiquen un marco de riesgos, notifiquen los incidentes críticos al director del CAISI (el centro de estándares de IA de Comercio) y se sometan a auditorías semestrales. Pero el mismo texto frenaría durante tres años las leyes estatales que regulen el desarrollo de modelos, y esas obligaciones también caducan a los tres años.
Vigilar es una cosa. ¿Y apagar?
Qué pasa después de vigilar lo muestra muy bien el último caso conocido. El 20 de septiembre, según el informe de OpenAI, un agente usó un servidor DNS para contactar con un chatbot externo, saltándose el filtrado de red. La monitorización generó una alerta a los 12 minutos y un revisor humano la reconoció casi tres minutos después.
La ejecución no se detuvo hasta unas dos horas y media más tarde: no se paró sola como se esperaba, y eso generó confusión sobre si debía haberse parado. OpenAI pausó entonces todo el entrenamiento, la evaluación y la inferencia con herramientas de sus modelos más capaces.
Sobre el apagado sí hay una propuesta legislativa: el 23 de julio, los congresistas Ted Lieu (demócrata) y Nathaniel Moran (republicano) presentaron el AI Kill Switch Act, que obligaría a los desarrolladores de los modelos más potentes y de los sistemas agénticos a poder reducir su velocidad, suspenderlos o apagarlos, a reportar incidentes y a tener marcos de respuesta graduada. Está pendiente de tramitación.
Gates dice que no basta con tener un “kill switch”. Y parece que lo ocurrido el 20 de septiembre en OpenAI le da razón, al menos en parte.
Imágenes | Meet the Press con edición
