潭柘寺始建于西晋愍帝建兴四年（316年），是佛教传入北京地区后修建最早的一座寺庙。始创时规模不大，名叫嘉福寺。当时佛教还未能被民间所接受，因而发展缓慢。以后又出现了北魏和北周两次“灭佛”，故而嘉福寺自建成之后，一直未有发展，后来逐渐破败。
唐代武则天万岁通天年间（696-697年），佛教华严宗高僧华严和尚来潭柘寺开山建寺，持《华严经》以为净业，潭柘寺就成为了幽州地区第一座确定了宗派的寺院，潭柘寺得到兴盛。
唐代会昌年间，唐武宗李炎崇信道教，在道士赵归真和权臣李德裕的怂恿下，唐武宗下令在全国排毁佛教。潭柘寺也因此而荒废。
五代后唐时期，著名的禅宗高僧从实禅师来到了潭柘寺，铲除荒夷，整修寺院，“师与其徒千人讲法，潭柘宗风大振”，才使潭柘寺走出了“武宗灭佛”的阴影，重又繁盛了起来。当时的潭柘寺也从此由华严宗改为禅宗。
辽代时期由于幽州地区律宗大盛，而禅宗则发展缓慢，潭柘寺的香火衰微。
金代，禅宗在中都（今北京）地区有了很大的发展，潭柘寺先后出现了数位禅宗大师，大大提高了寺院的声誉。金熙宗完颜亶于皇统元年（1141年）到潭柘寺进香礼佛，并拨款对潭柘寺进行了整修和扩建，这是第一位到潭柘寺进香的皇帝，使后代皇帝争相效仿，这对于进一步提高潭柘寺的地位，繁盛寺院香火，都起到了极大的推动作用。金熙宗将当时的寺名龙泉寺改为“大万寿寺”，拨款对潭柘寺进行了大规模的整修和扩建，开创了皇帝为潭柘寺赐名和由朝廷出资整修潭柘寺的先河。
金大定年间，皇太子完颜允恭代表其父金世宗完颜雍到潭柘寺进香礼佛，当时的住持僧重玉禅师为此特写下了《从显宗幸潭柘》一诗，记述了当时的盛况，后于明昌五年（1194年）镌刻成碑，立于寺中，现此碑犹存，镶嵌在金刚延寿塔后边地阶的崖壁上。在金代，潭柘寺禅学昌盛，其代表人物是临济宗大师广慧通理禅师开性。开性终老于寺中，圆寂后被佛门尊为“广慧通理”禅师。
元代元世祖忽必烈的女儿，妙严公主为了替其父赎罪，而到潭柘寺出家。后终老于寺中，她每日里在观音殿内跪拜诵经，“礼忏观音”，年深日久，竟把殿内的一块铺地方砖磨出了两个深深的脚窝。现今妙严公主“拜砖”依然供奉在潭柘寺的观音殿内，是潭柘极为珍贵的一件历史文物。后妙严大师终老于寺中，其墓塔在寺前的下塔院。元代末期的元顺帝孛儿只斤?妥欢贴睦尔崇信佛教，特别是对当时名贯京城的潭柘寺极为青眯，元顺帝曾请潭柘寺住持雪涧禅师享用御宴，并且由皇妹亲自下厨，礼遇之高前所未有。
明初重臣姚广孝法号道衍，被明太祖朱元璋挑选高僧，从侍燕王朱棣，建文帝削藩时，朱棣按照姚广孝的谋划，起兵“靖难”，从而夺取了皇位，即为明成祖。朱棣继皇帝位后，封姚广孝为僧录司左善世，庆寿寺钦命住持，后又加封为太子少师，赐名“广孝”，仍参与军政大事。功成名就之后，姚广孝辞官不做，而到京西的潭柘寺隐居修行，每日里与自己的老友，潭柘寺住持无初德始禅师探讨佛理。期间，明成祖朱棣曾到潭柘寺看望过他。据说当年修建北京城时，设计师就是姚广孝，他从潭柘寺的建筑和布局中获得了不少灵感，北京城的许多地方都是依照潭柘寺的样子修建的，太和殿就是仿照潭柘寺的大雄宝殿而建的，同为重檐庑殿顶，井口天花绘金龙和玺，所不同的是更高大了一些而已。后来姚广孝奉旨主持编纂《永乐大典》才离开了潭柘寺，但其在潭柘寺隐居修行时的住所少师静室，至今犹存遗址。
明代从太祖朱元璋起，历代皇帝及后妃大多信佛，由朝廷拨款，或由太监捐资对潭柘寺进行了多次整修和扩建，使潭柘寺确立了今天的格局。
明代的潭柘寺成为当时对外交流的一个窗口，许多外国人久慕潭柘寺的盛名，而纷纷到此来学习佛法，有的甚至终老于此，其中最著名的有日本的无初德始、东印度的底哇答思、西印度的连公大和尚等人。
万历二十三年，达观大师奉神宗皇帝朱翊钧之命，任潭柘寺的钦命住持。在此期间，由万历皇帝的母亲慈圣宣文明肃皇太后出资，在达观大师的主持下，对潭柘寺进行了大规模的整修。达观大师与朝廷密切，经常奉诏进宫为皇室讲经说法，从而进一步加深了潭柘寺与朝廷的联系。
在明代，潭柘寺曾进行了多次大规模的整修和扩建。宣德年间，“孝诚皇后首赐内币之储，肇造殿宇”，对潭柘寺进行了整修和扩建。从正统三年二月到第二年九月，潭柘寺又大兴土木，在皇室的资助下，扩建寺院，广造佛像。在此期间，英宗皇帝“诏考戒坛”，奉英宗皇帝之命，在寺内修建了戒坛，英宗皇帝赐名为“广善戒坛”，越靖王朱瞻墉还在寺内建造了一座高大的金刚延寿塔，正统四年，明英宗“颁大藏经五千卷”给潭柘寺。
弘治十年（1497年），司礼监太监戴义出资作为工食费，并奏请明孝宗拨款，对潭柘寺再次进行了整修和扩建。正德二年（1507年）三月到次年九月，潭柘寺又进行了历时一年半的整修，“殿庑堂室焕然一新，又增僧舍五十余楹”，再一次扩大了寺院的规模。万历二十二年（1594年），由孝定皇太后出资，整修潭柘寺，增添殿宇，并建造了方丈院等房舍80余间。
明代的200多年期间内，皇帝几次对寺院赐名，因而寺名几次更改。明宣宗赐名“龙泉寺”，天顺元年，明英宗“敕改仍名嘉福寺”，但民间仍称其为潭柘寺。
清康熙二十五年（1686年），康熙皇帝降旨，命阜成门内广济寺的住持僧，著名的律宗大师，与自己相交多年的震寰和尚为潭柘寺的钦命住持。当年秋天，康熙皇帝驾临潭柘寺进香礼佛，并且留住了数日，赏赐给潭柘寺御书金刚经10卷、药师经10卷、沉香山1座、寿山石观音1尊、寿山石罗汉18尊。
康熙三十一年，康熙皇帝亲拨库银1万两，整修潭柘寺。在震寰和尚的亲自主持下，从康熙三十一年秋到三十三年夏，历时近两年，整修了殿堂共计300余间，使这座古刹又换新颜。
康熙三十六年，康熙皇帝二游潭柘寺，亲赐寺名为“敕建岫云禅寺”，并亲笔题写了寺额，从此潭柘寺就成为了北京地区最大的一座皇家寺院。
康熙三十七年，康熙皇帝为牌楼亲题匾额，并赐给潭柘寺桂花12桶和龙须竹8杠。
康熙三十八年，康熙皇帝命著名的律宗高僧止安律师为潭柘寺的钦命住持，并赐给潭柘寺镀金剑光吻带四条，安装在大雄宝殿的殿顶上。
清雍正年间一向深居简出的雍正皇帝也专程到潭柘寺进香礼佛。
乾隆七年（1742年），乾隆皇帝第一次游幸潭柘寺，“赐供银二百金、匾额九、楹联二、诗二、章幅子一轴、法琅五供一堂”。在潭柘寺到处都留下了乾隆皇帝的墨宝。乾隆九年，乾隆皇帝把御笔心经和自己手书的诗篇赐给了潭柘寺。
潭柘寺寺院坐北朝南，主要建筑可分为中、东、西三路，中路主体建筑有山门、天王殿、大雄宝殿、斋堂和毗卢阁。东路有方丈院、延清阁、行宫院、万寿宫和太后宫等。西路有愣严坛（已不存）、戒台和观音殿等，庄严肃穆。此外，还有位于山门外山坡上的安乐堂和上、下塔院以及建于后山的少师静室、歇心亭、龙潭、御碑等。塔院中共有71座埋葬和尚的砖塔或石塔。
山门外是一座3楼4柱的木牌坊，牌楼前有古松二株，枝叶相互搭拢，犹如绿色天棚，牌楼前有一对石狮，雄壮威武。过牌坊是单孔石拱桥，名“怀远桥”，过桥就是山门。
天王殿殿中供弥勒像，背面供韦驮像，两侧塑高约3米的四大天王神像。天王殿两旁为钟鼓楼，后面是大雄宝殿。宝殿面阔五间，重檐庑殿顶，黄琉璃瓦绿剪边，上檐额题“清静庄严”，下檐额题“福海珠轮”。
正脊两端各有一巨型碧绿的琉璃鸱吻，是元代遗物，上系以金光闪闪的鎏金长链。殿内正中供奉硕大的佛祖塑像，神态庄严，后有背光，背光上雕饰有大鹏金翅鸟、龙女、狮、象、羊、火焰纹等。佛像左右分立“阿难”、“伽叶”像，均为清代遗物。大雄宝殿后为斋堂院，是和尚们吃饭的地方，堂后有三圣殿，但此二殿均已拆除。只剩两株娑罗树和两株银杏树，树体高大。中轴线终点是一座楼阁式的建筑，名毗卢阁，高二层，木结构。站在毗卢阁上纵目远眺，寺庙及远山尽收眼底。
寺院东路由庭院式建筑组成，有方丈院、延清阁
和清代皇帝的行宫院，主要建筑有万寿宫、太后宫等。院中幽静雅致、碧瓦朱栏、流泉淙淙、修竹丛生，颇有些江南园林的意境。院内有流杯亭一座，名猗轩亭。
寺院西路大多是寺院式的殿堂，主要建筑有戒坛、观音殿和龙王殿等等，一层层排列，瑰丽堂皇。戒坛是和尚们受戒之处，台上有释迦牟尼像，像前有三把椅子，两侧各有一长凳，是三师七证的坐处；观音殿是全寺最高处，上有乾隆手书莲界慈航，内供观世音菩萨，敛目合什，隽秀端庄。