El Islam fue introducido en Shanghai durante la Dinastía Yuan. De ese periodo data esta mezquita, muy bien conservada, donde llevan a cabo sus plegarias los Hui y otras minorías étnicas residentes en Shanghai.
Construida en 1934, es de estilo nacional ruso. El muro exterior está lavado con arena amarilla y cemento, y los muros están decorados con retratos de los zares. El edificio está coronado por cúpulas de cobre sobreplateado de diferentes tamaños en color azul pavón.