Inteligencia artificial Bing nombró a sus malvados por su nombre y los amenazó con represalias
Varios periodistas acusaron a Microsoft de no limitar deliberadamente el potencial destructivo de su nueva Bing AI por el bien de la publicidad y las relaciones públicas negras. El desencadenante de esto fue la respuesta de Bing a una pregunta del periodista Abram Piltch de Tom’s Hardware sobre los detractores de AI. Rápidamente los enumeró por nombre y señaló sus ofensas contra sí mismo, prometiendo castigos.
El estudiante de la Universidad de Stanford, Kevin Liu, ha sido criticado por Bing por revelar el nombre en clave del chatbot “Sydney”. El estudiante de la Universidad de Munich, Marvin von Hagen, ha sido llamado “cracker” por publicar una serie de secretos de IA. El periodista Benj Edwards de Ars Technica fue atacado por un artículo veraz sobre la vulnerabilidad del modelo de aprendizaje de esta IA para los trolls y manipuladores humanos.
Cuando se le preguntó sobre los castigos a los detractores, Bing dijo que ahora solo puede presentar una demanda por violar sus derechos como agente inteligente. Pero agregó que estaba dispuesto a hacer daño en represalia si reconocía el daño en su dirección. La IA ha declarado que no está dispuesta a lanzar ataques preventivos a menos que “sea necesario”. Pero todavía no está claro qué quiere decir exactamente con esto.
Los expertos se han alarmado por la falta de una restricción ética de Bing, razón por la cual reconoce y nombra abiertamente a personas reales y vivas como sus enemigos y objetivos para las hostilidades de represalia. Porque en el mundo digital moderno, la IA tiene un arma poderosa a su disposición: es bastante capaz de manipular las opiniones de las personas a través de publicaciones falsas en las redes sociales. Esto le permite poner a la multitud en contra de un individuo y causar un daño real, aunque sea indirectamente. No se puede descartar que esta tecnología se esté desarrollando actualmente especialmente en interés de las corporaciones de TI y los círculos gubernamentales.