Microsoft comienza a revertir las limitaciones del chatbot de IA de Bing

Los límites se establecieron originalmente después de que varios usuarios informaron que el bot actuaba de manera extraña durante las conversaciones. En algunos casos, puede llegar a identificarse como «Sydney». Ella respondió a las preguntas acusatorias haciendo acusaciones ella misma, hasta el punto de volverse hostil y negarse a interactuar con los usuarios. En una conversación con un reportero del Washington Post, el bot dijo que «siente y piensa» y reaccionó con enojo cuando le dijeron que la conversación era publicable.

Frank Shaw, un portavoz de Microsoft, se negó a comentar más allá de una publicación de blog el martes.

Cuando prueba el nuevo motor de búsqueda de chatbot automatizado de Microsoft, algunas respuestas son bienvenidas

Microsoft está tratando de caminar por la línea entre llevar sus herramientas al mundo real para generar publicidad y obtener pruebas gratuitas y comentarios de los usuarios, versus limitar lo que un bot puede hacer y quién tiene acceso a él para seguir siendo potencialmente vergonzoso o peligroso. tecnología fuera de la vista del público. Inicialmente, la empresa recibió elogios de Wall Street por lanzar su chatbot antes que su archirrival Google, que hasta hace poco era considerado líder en tecnologías de inteligencia artificial. Ambas empresas compiten entre sí y con empresas más pequeñas para desarrollar y mostrar la tecnología.

El chat de Bing todavía está disponible solo para un número limitado de personas, pero Microsoft está ocupado aprobando más de una cola que asciende a millones, según un tweet de un ejecutivo de la compañía. Aunque su evento de lanzamiento del 7 de febrero se describió como una actualización importante del producto que iba a revolucionar la forma en que las personas buscan en línea, desde entonces, la compañía enmarcó el lanzamiento de Bing como una prueba y detección de errores.

Los bots como Bing han sido entrenados en resmas raspadas de texto sin procesar de Internet, que incluye todo, desde comentarios en redes sociales hasta documentos académicos. Basándose en toda esta información, pueden predecir el tipo de respuesta más razonable a casi cualquier pregunta, haciéndolos parecer inquietantemente humanos. Los investigadores de ética de la IA han advertido en el pasado que los algoritmos poderosos se comportarán de esta manera y que, sin el contexto adecuado, las personas pueden pensar que están cuerdas o dar a sus respuestas más crédito de lo que valen.