Раифская пустынь была основана в XVII веке отшельником Филаретом в 27 км к северо-западу от городаКазани. По смерти своих родителей, следуя совету евангельскому, он раздал всё имение нищим и постригся в монашество в московском Чудовом монастыре. Всё Смутное время до смерти патриарха Гермогена (12 января 1612 года) он прожил рядом с ним и удостоился получить сан иеромонаха. Желая вести строгую иноческую жизнь в уединении, которое нарушали в Москве его знакомые и родственники, он оставил столицу и направился в низовые губернии по Волге. В 1613 году он пришёл в Казань. В Казани Филарет жил сначала в Спасо-Преображенском монастыре Казанского кремля. В 1613 году этот монах поселился на берегу Сумского (Раифского) озера, построив уединённую келью. Сначала келья отшельника стояла одиноко, и лишь только в определённые дни местные черемисы приходили на берег озера для совершения своих языческих обрядов (эти леса с давних времён считались священными у коренных жителей-черемисов).
Встреча православия с язычеством привела к тому, что сами марийцы разнесли по округе весть о появлении на берегу хижины-кельи святого человека. Но вскоре это место стало известно казанским почитателям подвижника, которые стали его посещать. Некоторые из них решили вести отшельническую жизнь и поселились рядом с Филаретом, образовав монашеский скит. По указанию Филарета была построена часовня (по легенде, её возвели после видения одному из монахов).
Филарет умер в 1659 году, а в 1661 году казанский митрополит Лаврентий дал благословение на основание монастыря. Своё название обитель получила в честь знаменитого Раифского монастыря на берегу Красного моря, где по церковному преданию от рук язычников погибли христианские монахи; соборный же храм был освящён в честь Преподобных отцов, в Синае и Раифе избиенных.
В 1668 году в монастырь была привезена точная копия Грузинской иконы Божией Матери, список с оригинала из Черногорского (Красногорского) монастыря близ посёлка Пинеги (ныне Архангельской области). Со второй половины XVII века до настоящего времени икона является главной святыней Раифского монастыря, к которой ежегодно приезжают десятки тысяч паломников.
