OpenAI dice que Rusia y China han utilizado IA en campañas encubiertas

Al igual que Google, Meta y Microsoft, OpenAI ofrece chatbots en línea y otras herramientas de inteligencia artificial que pueden escribir publicaciones en redes sociales, crear imágenes fotorrealistas y escribir programas de computadora. La compañía dijo en su informe que sus herramientas se utilizaron en campañas de influencia que los investigadores han seguido durante años, incluida una campaña rusa llamada Doppelganger y una campaña china llamada Spamouflage.

La campaña Doppelganger utilizó la tecnología OpenAI para hacer comentarios antiucranianos que se publicaron en X en inglés, francés, alemán, italiano y polaco, dijo OpenAI. Las herramientas de la empresa también se han utilizado para traducir y editar artículos que apoyan a Rusia en la guerra en Ucrania al inglés y al francés, y para convertir artículos de noticias contra Ucrania en publicaciones de Facebook.

La compañía dijo que las herramientas de OpenAI también se utilizaron en una campaña rusa previamente desconocida dirigida a personas en Ucrania, Moldavia, los países bálticos y Estados Unidos, principalmente a través del servicio de mensajería Telegram. La campaña utilizó inteligencia artificial para generar comentarios en ruso e inglés sobre la guerra en Ucrania, así como la situación política en Moldavia y la política estadounidense. Estos esfuerzos también utilizaron herramientas OpenAI para depurar código informático que parecía estar diseñado para publicar información automáticamente en Telegram.

OpenAI dijo que los comentarios políticos recibieron pocas respuestas y «me gusta». Los esfuerzos también fueron a veces poco sofisticados. En un momento, la campaña publicó un texto que claramente fue generado por IA, y una publicación decía: «Como modelo de lenguaje de IA, estoy aquí para ayudar y brindar la retroalimentación solicitada». En otros momentos, publicaron en inglés deficiente, lo que llevó a OpenAI a calificar el esfuerzo de «mala gramática».

Spamouflage, que durante mucho tiempo se ha atribuido a China, utilizó la tecnología de OpenAI para depurar software y buscar asesoramiento sobre cómo analizar las redes sociales e investigar eventos actuales, dijo OpenAI. Sus herramientas también se utilizaron para crear publicaciones en las redes sociales que menospreciaban a las personas que criticaban al gobierno chino.