清治時期嘉慶元年（1796年），當時舊址是在今天的文林路731號附近，同治三年（1864年）才在今址重建。乾隆年間士林漳州人的信仰中心是供奉開漳聖王的芝山巖惠濟宮，後來因為惠濟宮離市街較遠，嘉慶元年（1796年）業戶何錦堂捐地建「芝蘭街天后宮」（即慈諴宮），成為士林漳州人的媽祖信仰中心。然而在咸豐年間的漳泉械鬥中，芝蘭街（舊街）遭到焚燬；日後該廟異地重建，並更名為慈諴宮，成為新街的重要中心。
日治時期的慈諴宮有部分空間曾被借作他用，例如在1898年時，慈諴宮東側一棟曾作為臺北辨務署士林支署的辦公室；此外在芝蘭一堡第一區區長陳景南等人出資下，也曾借用慈諴宮的一部份作為八芝蘭公學校的分教場。該分教場從1904年4月啟用後，運作到1904年12月八芝蘭公學校遷到今天士林國小的位置為止。分教場停用後，又改為區役場的聯合壯丁事務所。1921年「士林信用組合」創立時，也曾以慈諴宮的西廂作為辦公室。
福建學政孫詒經於光緒五年(1879年)書匾額 "寰海鏡清" 贈與本宮。