Empleados de empresas de IA exigen protección ante represalias por denunciar los peligros de la inteligencia artificial
Un grupo de empleados actuales y antiguos de importantes compañías de inteligencia artificial (IA), incluyendo OpenAI, Google DeepMind y Anthropic, han emitido una carta abierta solicitando protección contra represalias para aquellos trabajadores que compartan sus preocupaciones sobre los riesgos asociados a esta tecnología.
La misiva, firmada por trece personas, subraya que las empresas de IA poseen “sustancial información no pública sobre las capacidades y limitaciones de sus sistemas, la idoneidad de sus medidas de protección y los niveles de riesgo de diferentes tipos de daños”. A pesar de esto, las compañías tienen “solo obligaciones vagas” de compartir dicha información con los gobiernos y “ninguna con la sociedad civil”, según los firmantes.
Llamado a la Transparencia y Responsabilidad
En la carta, los empleados destacan que las “pocas personas” que pueden “exigir responsabilidad” a las compañías de IA son sus propios trabajadores. Sin embargo, los amplios acuerdos de confidencialidad les impiden expresar libremente sus preocupaciones. “Las protecciones ordinarias a los denunciantes son insuficientes, porque se centran en actividades ilegales”, explican, mientras que los “graves riesgos” sobre los que advierten aún no están regulados.
Riesgos y Temores
Los trabajadores también señalan que temen “diversas formas de represalias” debido a precedentes en la industria. Los riesgos mencionados van “desde un mayor afianzamiento de las desigualdades existentes, pasando por la manipulación y la desinformación, hasta la pérdida de control de los sistemas autónomos de IA, lo que podría provocar la extinción humana”.
Los firmantes piden a las empresas de IA que “se comprometan” a no hacer cumplir acuerdos que prohíban “la crítica a la compañía por preocupaciones relacionadas con el riesgo” y a no tomar represalias contra los trabajadores por esas críticas. También proponen establecer un procedimiento anónimo que permita a empleados actuales y antiguos plantear “inquietudes relacionadas con riesgos a las juntas directivas de las empresas, a los reguladores y a una organización independiente apropiada con experiencia relevante”.
La carta abierta de estos empleados subraya la necesidad de una mayor transparencia y protección para aquellos que buscan advertir sobre los riesgos de la inteligencia artificial. En un momento en que la tecnología avanza a pasos agigantados, es crucial que las empresas de IA implementen medidas que permitan a sus trabajadores expresar libremente sus preocupaciones sin temor a represalias. Solo así se podrán abordar de manera efectiva los potenciales peligros asociados a esta poderosa tecnología, garantizando un desarrollo seguro y responsable.