Nuevo informe advierte sobre riesgos de extinción por avance de la inteligencia artificial
Un reciente informe encargado por el Departamento de Estado ha arrojado luz sobre los riesgos potenciales asociados con el avance de la Inteligencia Artificial (IA). Según este informe, la IA podría representar no solo una amenaza para la seguridad nacional, sino también una “amenaza a nivel de extinción para la especie humana”. Estas advertencias cobran mayor relevancia en un momento en que la tecnología de IA avanza hacia el mundo físico, manifestándose en forma de robots, saliendo de nuestras pantallas de computadora y entrando en nuestra realidad cotidiana.
El informe, titulado “Un plan de acción para aumentar la seguridad de la IA avanzada”, proporciona recomendaciones cruciales sobre cómo el gobierno debería abordar este desafío urgente para evitar consecuencias descontroladas. Entre las sugerencias se incluye la prohibición de entrenar sistemas de IA utilizando computadoras de mayor potencia que las utilizadas actualmente para modelos avanzados de IA, como el GPT-4 de OpenAI y Google Gemini. Además, se propone la ilegalización de la divulgación de ciertos detalles sobre el funcionamiento interno de los sistemas de IA, así como un mayor control sobre la fabricación y exportación de chips con capacidades de IA. También se insta a proporcionar educación sobre IA a los funcionarios gubernamentales para que comprendan mejor los riesgos asociados.
El informe, elaborado por Gladstone AI, una empresa que ofrece sesiones informativas técnicas sobre IA para empleados gubernamentales, refleja un sentido de urgencia sobre la necesidad de actuar con prontitud. Sugiere que el desarrollo de la IA debería ralentizarse hasta alcanzar prácticamente el nivel actual de la tecnología. Aunque el informe se desvincula de las opiniones del Departamento de Estado o del Gobierno de los Estados Unidos, está en línea con algunas políticas actuales y refleja las preocupaciones en aumento sobre el impacto potencialmente negativo de la IA.
Estas preocupaciones no son solo el dominio de la ciencia ficción; son cada vez más prominentes en la vida real. Se citan ejemplos recientes, como los problemas de Microsoft con su IA Copilot y las imágenes generadas de forma artificial, que han suscitado preocupaciones sobre la seguridad y la ética de la IA. Incluso se ha descubierto que los sistemas de IA pueden ser vulnerables a manipulaciones externas, lo que plantea riesgos adicionales.
Mientras tanto, empresas como Covariant, una empresa derivada de la Universidad de California en Berkeley, están avanzando en el desarrollo de aplicaciones de IA para robots. Con su tecnología, buscan potenciar robots para tareas más complejas, incluso en entornos de fabricación y servicios. Sin embargo, este avance plantea interrogantes sobre la necesidad de una regulación más estricta y un mayor control sobre el desarrollo de la IA.
En un mundo donde la IA se vuelve cada vez más omnipresente, es crucial abordar los riesgos potenciales de manera proactiva y responsable. El informe del Departamento de Estado es un llamado a la acción para garantizar que la IA se desarrolle de manera segura y ética, protegiendo así los intereses humanos y preservando nuestra existencia como especie.