Redacción de Genbeta
EditorLa carrera por desarrollar sistemas de IA cada vez más avanzados está preocupando a una parte importante de los investigadores que trabajaron en dicha tecnología. Mientras las Big Tech compiten por mejorar sus modelos, varias voces de la industria aprovechan el foco de atención de este sector para advertir de un problema: las capacidades podrían avanzar más rápido que los mecanismos diseñados para mantenerlas bajo control.
Un ejemplo es el caso de Alex Turner, exinvestigador de Google DeepMind. El pasado 5 de octubre aprovechó una comparecencia ante el Ayuntamiento de Nueva York para lanzar una advertencia y sostuvo que Estados Unidos podría estar desarrollando una amenaza mucho más preocupante que la competencia tecnológica con China, ya que el país norteamericano tendría entre manos una IA cuyos objetivos no coinciden con los intereses humanos.
El peligro de desarrollar una inteligencia artificial que escape al control humano
Turner advirtió que "estamos compitiendo por crear y desarrollar a nuestro propio adversario", y aseguró que existe la posibilidad de que una IA desalineada termine siendo más poderosa que China. Así, con este término se refiere a sistemas capaces de perseguir objetivos incompatibles con las intenciones de sus desarrolladores incluso si fueron diseñados para realizar tareas beneficiosas.
Jacob Coxon, exinvestigador de Anthropic, fue otra de las voces que participó en la comparecencia y cuestionó la velocidad a la que avanza la industria. Bajo su punto de vista, mantener la trayectoria actual implica un riesgo considerable de ver cómo la humanidad pierde el control de sus sistemas futuros. Por desgracia, esta situación nos llevaría a consecuencias catastróficas, pero hay que recalcar que se trata de una predicción sobre posibles escenarios y no de un resultado probado.
La sesión contó con representantes de Google, Meta, Anthropic y OpenAI, y todos ellos respondieron bajo juramento a preguntas sobre la seguridad real de sus modelos. Julie Menin, presidenta del Ayuntamiento, aprovechó el espacio para cuestionar la capacidad de las compañías a la hora de cuantificar los riesgos más graves y, al mismo tiempo, determinar quién asumiría las responsabilidades si sus sistemas ocasionaran daños.
La preocupación de los investigadores también apunta a la necesidad de establecer medidas de supervisión independientes y una mayor transparencia. El Ayuntamiento de Nueva York estudia nuevas obligaciones para las empresas, entre ellas verificaciones externas y mecanismos de protección para los denunciantes. El debate, por tanto, no se limita a competir con China, sino a determinar cómo desarrollar una tecnología cada vez más capaz sin perder la posibilidad de controlarla.
Foto | Canva
En Genbeta | La metamorfosis de la noche: por qué la Gen Z ya no va (casi) a discotecas
