后街清真寺历史悠久。据《天水县志》记载，“创自元至正年间(1341～1368年)，其殿五楹，琉璃碧瓦，丹楹刻桷”。明嘉靖十三年(1534年)《秦州重建清真寺楼碑记》赞曰：“其势嵯峨，高压岳阳斯楼也。”

　　后街清真寺建筑合理，雄伟壮观。清真寺原为三进门：头道门位于澄源巷北口，为三间木结构牌楼，斗拱处竖书“清真寺”，门楣横书“渐入福地”，“诵经法祖”；二门在大寺巷内，为单檐大开间牌坊，-“常乐界”三字，背书“抵报元功”、“清真古教”，传为康熙御题；第三道门是坐北向南三大间过厅进入寺院，古柏、大殿、木楼相互掩映，庄严肃穆，穆斯林沐浴礼拜，其景融融。可惜在“文革”中，遭到严重破坏：牌坊、山门、“姆拉楼”被拆、数株古槐、香柏被砍伐。据国家文物局专家在天水考察后说，在全国三万余座清真寺中，此类宣礼木楼建筑仅有两座，被拆毁，实在可惜。

　　礼拜大殿建于明洪武七年(1374年)，明成化四年(1468年)扩建，保存至今已有600多年历史。礼拜大殿由前殿五间、后殿三间、前卷棚外廊三部分组成，通长22.3米，进深19.3米，全殿内只有两根粗大明柱，系具元代减柱遗风的明代宫殿式木结构建筑。顶为歇山单檐，琉璃碧瓦；正脊为莲花缠枝图案，中起塔亭宝盖，兽吻吞脊，且似兽非兽，体现出伊斯兰教的哲学理念。后殿四面角梁起檐，屋顶暗卷接水，风格异于其它建筑。大殿屋顶以青色方砖做栅板，白灰勾缝，据古建筑专家讲，方砖栅板为典型的明以前建筑。大殿正门为五开间四扇门，可折可装，雕刻精美考究，上眉格为透花“金钱艾叶”图饰，构图文雅、刀法娴熟，保存完好。

　　寺内现存石碑五通，但最珍贵、历史价值最高者是“秦州重建清真寺楼碑”。秦州重建清真寺楼碑，镌立于“明嘉靖癸卯岁”(1543年)，距今已有460多年历史。该石碑为汉白玉琢刻而成，保存基本完整，文字清晰。石碑正面汉语《秦州重建清真寺楼碑记》、用欧体楷书写就，共19行；背面为阿拉伯文碑记，共34行。汉语碑文前半部分记述了后街清真寺的始建年代和历史沿革，后半部分对修建历时9年的“姆拉楼”作了描述和赞美。阿语碑文通篇记述了清真寺的功能、修建清真寺的功德、进寺礼拜的好处等。该碑是甘肃境内最早的阿拉伯文碑刻，其碑记是非常重要的回族文献，它们除了在语言学、文字学方面的研究价值外，对研究元、明、清三代西北伊斯兰教传播和发展史、回族源流史、中阿文化交流史具有十分重要的意义。

　　2006年5月，后街清真寺作为明至清时期的古建筑，被国务院批准列入第六批全国重点文物保护单位名单。后街清真寺为全国重点文物保护单位。