Durante los breves días del año pasado en que estuvo vigente el despido de Sam Altman de OpenAI, la enorme mayoría de sus empleados firmaron una carta abierta solicitando su retorno. Ahora, hemos sabido de la publicación de otra carta impulsada por antiguos y actuales empleados de OpenAI, pero esta plantea unas reivindicaciones muy diferentes.
Esta nueva carta viene a denunciar una cultura de "imprudencia" y "secretismo" en la compañía creadora de ChatGPT, una que, según ellos, prioriza la ganancia y el crecimiento sobre la seguridad y la transparencia.
El grupo (liderado por Daniel Kokotajlo, un ex investigador en la división de gobernanza de OpenAI), afirma de hecho que la empresa está "corriendo de manera desenfrenada para ser los primeros" en desarrollar la inteligencia artificial general (AGI)... sin tomar las medidas necesarias para prevenir los riesgos potenciales de esta tecnología.
Esto ocurre poco después de que dos investigadores senior de IA, Ilya Sutskever y Jan Leike, han abandonado recientemente OpenAI en medio de polémica: ambos habían liderado el equipo de "superalineamiento" de OpenAI, que se centraba en gestionar los riesgos de los modelos de IA poderosos. La salida de estos investigadores, dicen ahora Kokotajlo y los demás, habría motivado a otros ex-empleados a alzar la voz.
¿Qué piden los firmantes?
La carta solicita (tanto a OpenAI como al resto de grandes empresas de IA) que establezcan una mayor transparencia y más protecciones para los denunciantes, estableciendo una cultura de crítica abierta y un proceso destinado a que los empleados puedan plantear preocupaciones de seguridad de manera anónima.
(No es que Silicon Valley cuente con buenos precedentes en eso de promover una cultura interna de crítica a los posicionamientos de la empresa).
Los denunciantes aseguran que OpenAI ha utilizado tácticas agresivas para impedir que los trabajadores expresen sus preocupaciones sobre la tecnología. Esto incluye la firma de acuerdos de no desprestigio que los empleados deben firmar al abandonar la empresa, y cuya extinción promueven ahora.
Para ello, han contratado como aboga pro bono a Lawrence Lessig, un destacado académico y activista legal (que también asesoró a Frances Haugen, una ex empleada de Facebook que se convirtió en denunciante), quien sostiene que
"Los empleados son una línea de defensa importante para la seguridad, y si no pueden hablar libremente sin represalias, ese canal se cerrará".
OpenAI se defiende
Lindsey Held, portavoz de OpenAI, ha contestado a la publicación de esta carta defendiendo las políticas de la compañía liderada por Altman:
"Estamos orgullosos de nuestros antecedentes a la hora de proporcionar los sistemas de IA más capaces y seguros, y creemos en nuestro enfoque científico para abordar los riesgos. Coincidimos en que el debate riguroso es crucial dado el significado de esta tecnología, y continuaremos colaborando con gobiernos, sociedad civil y otras comunidades en todo el mundo".
El problema es que OpenAI cuenta también con un historial previo de defender una mayor regulación ante los micrófonos mientras hace 'lobby' a puerta cerrada para, precisamente, relajar dicha regulación.
Imagen | Marcos Merino mediante IA
En Genbeta | Así es el "ejército oculto" de contratistas entrenando a ChatGPT por un salario muy precario y sin prestaciones
Ver 1 comentarios