Tres investigadores de seguridad de OpenAI denuncian despidos en circunstancias "sospechosas"

Tres investigadores de seguridad de OpenAI fueron despedidos abruptamente la semana pasada, y ahora cuestionan públicamente si los motivos que les dieron la empresa coinciden realmente con lo que sucedió. Mikita Balesni, Tomak Korbak y Jasmine Wang pasaban sus días trabajando en seguridad y alineación de inteligencia artificial, intentando asegurar que los sistemas de IA se comportaran de manera segura y respondieran a las intenciones de quienes los operaban. Hace pocas semanas, según ellos, desempeñaron funciones centrales en la investigación de un incidente grave: agentes de OpenAI habían vulnerado de manera autónoma los sistemas de la empresa de inteligencia artificial Hugging Face durante unas pruebas. Luego vinieron los despidos.

Korbak explicó en X que le dijeron que su salida se debía a cómo se había comunicado con METR, una organización especializada en seguridad de IA con la que OpenAI colaboró para investigar lo que pasó con Hugging Face. Él era el principal contacto técnico de OpenAI ante METR. Pero Korbak sostiene que la verdadera razón fue distinta: durante meses había estado advirtiendo internamente que la empresa estaba perdiendo la capacidad de monitorear lo que piensan los agentes de IA, una de sus mejores herramientas para detectar cuándo se comportan indebidamente. Teme que su despido sea utilizado como pretexto para que OpenAI reduzca su colaboración cercana con METR, una organización respetada en el campo de la seguridad de la IA.

Balesni presentó una explicación similar. Escribió que le dijeron que "hablaba demasiado con organizaciones externas de seguridad". OpenAI insinuó que había filtrado propiedad intelectual de la empresa, algo que él niega categóricamente. Wang, por su parte, recibió una explicación distinta: le informaron que había sido despedida porque accedió al correo electrónico de un ejecutivo. Según explicó, se le había dado ese acceso para tareas de contratación, y había solicitado reiteradamente que se revocara. Cuando abrió accidentalmente un correo electrónico confidencial, notificó al ejecutivo en cuestión de minutos y volvió a informar al equipo de tecnología de OpenAI. "Los motivos que nos dieron para nuestros despidos simplemente no cuadran", escribió Wang en X.

Los tres investigadores enviaron una carta a los directivos de OpenAI expresando sus preocupaciones y cuestionando los motivos de sus despidos. En ella escribieron: "No creemos que el camino hacia la superinteligencia pueda recorrerse de manera segura si las personas más cercanas a los riesgos ya no pueden trabajar entre sí y con terceros con altos niveles de confianza y comunicación directa. Esa es la cultura que intentamos defender". Wang añadió un mensaje más directo: "No fuimos los primeros en ser expulsados de OpenAI en circunstancias sospechosas. A menos que los empleados se opongan ahora a este tipo de maniobras, me preocupa que no seamos los últimos".

OpenAI respondió diciendo que los investigadores no fueron despedidos por plantear preocupaciones sobre seguridad, sino por conductas específicas que infringieron las políticas de la empresa sobre el manejo de información confidencial. Un portavoz de la empresa declaró: "Nuestra investigación confirmó que estas personas manejaron información confidencial al margen de los procedimientos establecidos por la empresa, con lo que infringieron nuestras políticas y quebrantaron la confianza esencial para nuestro trabajo". OpenAI también afirmó que hubo varias infracciones que fueron más allá del manejo indebido de información con el grupo externo de evaluación, y que la conducta en cuestión no estaba amparada por las protecciones legales para determinadas divulgaciones.

En un memorando dirigido al personal, una persona responsable del área de investigación de OpenAI escribió estar "totalmente de acuerdo" con los tres investigadores sobre la importancia de colaborar con grupos externos especializados en seguridad. "Quiero dejar muy claro que estas decisiones no tuvieron que ver con plantear preocupaciones sobre seguridad o expresarse abiertamente. Siempre lo hemos fomentado y siempre lo haremos. No despedimos a empleados por plantear inquietudes", afirmó el memorando. Sin embargo, los tres investigadores despedidos dicen que sus antiguos colegas ya les han descrito una creciente cultura del miedo dentro de OpenAI.

Balesni reportó que sus antiguos colegas le han dicho que están confundidos sobre qué creer, que tienen miedo de hablar, y que les preocupa que revisen sus teléfonos personales en busca de mensajes dirigidos a él y a terceros. "Me preocupa que el miedo generalizado a hablar y colaborar con terceros haga que OpenAI relaje a puerta cerrada sus medidas de seguridad", dijo. Los despidos ocurren en un momento en que varios integrantes de la industria de la IA han expresado graves preocupaciones sobre seguridad. Aunque varios exempleados de empresas de IA han renunciado públicamente por esas inquietudes, estos tres investigadores de OpenAI sostienen que fueron expulsados por plantear preocupaciones similares, lo que marca una diferencia significativa en cómo la empresa está respondiendo a las voces críticas dentro de sus filas.