เป็นวัดเก่าแก่ที่มีความสำคัญทางด้านประวัติศาสตร์และโบราณคดี เป็นที่ประทับของสมเด็จพระเจ้าตากสิน ทรงมาพำนักและถือศีลในถ้ำแห่งนี้ ด้านหน้าวัดเป็นที่ตั้งของบ่น้ำทิพย์โบราณเชื่อว่าเป็นบ่อน้ำศักสิทธิ์ ที่ถวายแด่พระเจ้าตากสินไว้ใช้ส่วนพระองค์ โดยภายในมีสิ่งที่น่าสนใจ อาทิเช่น อนุสาวรีย์พระเจ้าตากสินมหาราช ลักษณะของวัดมีตัวกำแพงก่ออิฐถือปูนและใบเสมาเช่นเดียวกับกำแพงเมือง ผนังด้านหน้ามีลายปูนปั้นประดับเครื่องลายครามจีน ส่วนภายในถ้ำซึ่งอยู่ด้านบนและต้องเดินขึ้นบันไดไปประมาณ 250 ขั้นนั้น มีพระพุทธรูปสำริดประมาณ 30 องค์ และพระพุทธบาทสำริด กล่าวสำหรับประวัติวัดนี้ มีการสันนิษฐานว่า น่าจะเป็นที่ประทับของสมเด็จพระเจ้ากรุงธนบุรี (พระเจ้าตากสินเสด็จหนีมาผนวชจนสวรรคต) แต่บางท่านก็ว่าเป็นที่พักผ่อนสำหรับเจ้าหญิงเกศิณีธิดาของเจ้านราสุริยวงศ์ เจ้าเมืองนครศรีธรรมราช ช่วง พ.ศ. 2312-2319