坐落在天水城北天靖山麓，初称城北寺、崇宁寺、山寺，后因山上有一碧水莹莹、清甜透脑的玉泉，且元代秦州教谕梁公弼建寺时，吟有“卦山寺北郊，名山有玉泉”之佳名而得名，历代为天水市的道教胜地。

建于元大德三年（1299）。据《秦州志》、《天水县志》记载 ：元长春真人邱处机的弟子梁志通西行至此，爱其美景，遂筑庵修洞，死葬庵中。现玉泉观还有梁志通于元世祖至元丙子年（公元1281年)所遗寺碑。其主要建筑有老君殿、文殊殿、文昌宫、玉皇阁、神仙洞、碑亭等。从现存“创建玉泉观碑石”得知，最高层建筑老君殿为元大德六年(公元1302年)所建。现存建筑大多为明清时重修。

玉泉观内秦州八景之一的“玉泉仙洞”，相传为芦、梁、马三真人坐化埋葬之地。洞西南有一碑亭，内藏元代书法家赵孟草书四幢，书五言绝句四首，笔法苍劲圆浑，流朗明丽，质朴豪放，为赵书中别一面目，观者无不为此珍品而赞叹。每年古历正月初九，是玉泉观庙会，当地人称为“朝观”。