En 14e année du règne Khitan (en l'an 996), le cheikh Nazruddin, un savant arabe au service de la dynastie Liao, a construit une mosquée dans la banlieue sud de Beijing, sur la colline du village de Liuhe (Village de la rivière des saules), qui deviendrait la mosquée de Niujie. Parmi les principaux bâtiments de la mosquée, on trouve la salle des prières, également connue sous le nom de la salle du four, la tour des chants, le pavillon des stèles, l'observatoire de la lune, les salons (que l'on dénomme aussi Sept pièces), etc. Bâtiment principal de la mosquée, la salle des prières, orientée ouest-est, peut accueillir un millier de fidèles rassemblés pour des prières communes. Dans l'ouest de la salle se trouve un pavillon hexagonal à toit pyramidal dont le niche à l'intérieur est entièrement gravé de fleurs et de versets canoniques en arabe, sur le côté nord-ouest de la salle, il y a une estrade où l'imam donne des sermons le vendredi, à l'occasion du jour de culte musulman ou des fêtes ; la tour des chants sert à annoncer aux fidèles les heures et à leur lancer l'appel à la prière, connue pour cette raison sous le nom de « minaret » ou « tour de réveil » ; sur les deux côtés de la terrasses de la salle des prières, on trouve deux pavillons carrés symétriques, les stèles qu'ils abritent ont été érigés en 1496, à la 9e année de Hong Zhi sous la dynastie des Ming ; l'observatoire de la lune, édifice propre à un lieu de culte musulman, est dans une tour hexagonale entre les deux portes de la mosquée, utilisé par les fidèles pour regarder la lune avant la fête de l'Aïd el-Fitr.

La mosquée de Niujie est d'une disposition architecturale bien structurée, avec des édifices sobres, dépouillés et magnifiques, et les détails architecturaux et décoratifs que possèdent les principaux bâtiments sont d'une exquise beauté du style arabe. Elle a reçu, depuis la fondation de la République populaire de Chine, de nombreuses visites des chefs d' États et des amis arabes.