По преданию, в 1588 году под Казанью произошло явление Божией Матери, повелевшей список иконы доставить в город Романов-Борисоглебск Ярославской области. Вскоре СПИСОК иконы была привезен в город Романов.
За приписываемые иконе многочисленные чудесные исцеления она была богато украшена[. При разграблении же Романова поляками в 1609 году её вывезли; затем икона была выкуплена в Ярославле.
В тот же год, за избавление от нашествия поляков и снятие 24-дневной осады, связанные ярославцами с «заступничеством» иконы Божией Матери та стала почитаться жителями Ярославля как покровительница их города.
В 1610 году, в память об этих событиях, на северо-западной части посада началось возведение деревянного храма для Ярославского Казанского образа Божией Матери; также при храме были построены келии 72-м монахиням Рождественского монастыря, который в дни осады сожгли поляки.
В 1835 году, в ансамбле с новыми строениями, на месте прежнего деревянного храма был возведён Казанский собор.
К своему 300-летию монастырь населяло около 400 монахинь; также монастырь был известен своим пением, золотошвейным и иконописным мастерствами.
20-21 июля 1910 года юбилейное богослужение в монастыре проводил Тихон, архиепископ Ярославский и Ростовский (будущий патриарх Тихон).
Советское время
Во время артиллерийского обстрела Ярославля Красной армией в июле 1918 года монастырь сильно пострадал. Были разрушены колокольня, северо-западная башня, два келейных корпуса. В декабре 1918 года большевики закрыли монастырь и устроили в нём один из городских концентрационных лагерей. Лишь один Покровский храм продолжал действовать как приходской. В нём сохранялись главные святыни монастыря - Ярославская Казанская икона Божией Матери, икона Спаса Нерукотворного и Троеручица. В конце 1921 года советскими властями был закрыт и Покровский храм, община была вынуждена переместиться в Крестовоздвиженский храм, куда были перемещены и святыни. Игумения Феодотия с сёстрами переехали в Толгский монастырь и жили там до его закрытия в 1928 году.
В октябре 1925 года из Крестовоздвиженской церкви была похищена чудотворная Ярославская Казанская икона Божией Матери. Участь иконы не известна до настоящего времени.
Казанский монастырь, как и большинство других монастырей России, в годы советской власти был полностью разграблен и частично разрушен, долгое время находился в запустении. Советские власти сначала превратили его в концлагерь, потом использовали под склады. Казанский собор был перестроен под архив. Около половины территории монастыря застроено жилыми домами.
Возрождение монастыря началось в 1990-х годах. В 1997 году возобновились богослужения.