En 1906, pour faire le point et se reposer, I'Abbé Elzéar DeLamarre vient s'établir à Lac-Bouchette où habite son frère Charles. La belle nature portait M. DeLamarre à la méditation et au recueillement, et il sentait le besoin de créer une zone de détente autour de lui pour refaire ses énergies mises à dure épreuve dans les derniers mois. Il achète donc les terrains situés en face de chez son frère Charles. L'abbé DeLamarre a alors 52 ans.

Dès 1907, il y fait construire une maison blanche et rouge d'un étage et demi avec une petite chapelle attenante qu'il nomme Ermitage 'San Tonio'. Le nom Ermitage fut donné par les gens des alentours qui trouvaient que l'abbé vivait en ermite.

Au moment où il construisit I'Ermitage, I'abbé Delamarre n'a rien d'autre en tête que d'y vivre en ermite, retiré dans un endroit idéal pour jouir du silence et des beautés de la nature, et d'en faire profiter ses confrères. Il voulait en faire un lieu de repos et de vacances pour les prêtres du diocèse de Chicoutimi qui, heureusement pour nous mais malheureusement pour notre abbé, choisirent plutôt Baie-Sainte-Catherine. M. DeLamarre se retrouve alors seul. Ce sont en fait des membres de sa famille, frères, neveux et nièces, dont le célèbre homme fort, Victor DeLamarre, qui l‘aideront à la construction et à l'entretien de l'Ermitage.

En 1908, bénédiction de la petite chapelle. À la fin d'août, l'abbé DeLamarre invite son ami le peintre Charles Huot à venir le visiter à son Ermitage. Ce sera le début d'une série de fresques et de médaillons qui viendront orner les murs du petit oratoire. Chaque année, l'abbé DeLamarre renouvelle son invitation. Les deux amis se retrouvent pour se reposer de leurs travaux. Dix ans plus tard, le peintre aura presque fini d'illustrer la vie de saint Antoine.

Cette petite chapelle est surmontée d'un minuscule clocher dans lequel l'abbé DeLamarre eut naturellement l'idée de mettre une cloche et d'en sonner quelques coups avant de célébrer les messes. Elle attire invariablement l'attention de ceux qui l'entendent de l'autre rive. Quelques bonnes âmes se risquent à traverser le lac Ouiatchouan pour se rendre à l'oratoire.

Un jour de 1912, notre abbé se promenait dans un sentier qu'il avait prolongé de trois ou quatre arpents à partir de I'Ermitage. Il aperçut, à travers les petits bouleaux qui poussaient au pied de la colline, une grotte qui lui a rappelé celle de Massabielle à Lourdes qu'il avait visitée en 1900. Depuis qu'il l'a aperçue, il voit dans cette découverte un signe donné par Marie et ne cesse de penser que cet endroit est prédestiné à devenir un Sanctuaire dédié à la Vierge de Lourdes.

II installe donc dans une niche qu'il a aménagée à même la paroi de cette grotte, une statue de Notre Dame de Lourdes et vient chaque jour y prier. Aussitôt qu'ils furent au courant de la découverte de l'abbé, les paroissiens de Lac-Bouchette commencent à venir prier à cet endroit.

C’est en 1915 qu’a lieu le tout premier pèlerinage. Une vingtaine d’adolescents qui ont chanté le mois de Marie au chœur de l’église paroissiale de Chambord arrivent par train et viennent rendre hommage à Marie.

Un an plus tard, soit en 1916, la grotte est bénie et l'endroit est reconnu comme lieu de pèlerinage. C’est la foi de la population régionale qui décide l’évêque de Chicoutimi à répondre aux demandes de l'abbé DeLamarre. Les pèlerinages se multiplient pendant la belle saison.

En 1918, M. DeLamarre commande un calvaire du sculpteur Louis Jobin. Son installation remonte à 1922-23. L'année suivante, Charles Huot peint ces sculptures et ce sera le dernier travail de cet artiste sur le site. Ce calvaire est considéré comme l'un des plus beaux au Québec à cause du nombre de personnages et de leurs expressions.

En 1920, l’abbé fait installer un chemin de croix dans la montagne dont les personnages sont caractérisés par leurs traits innus, rappelant les Premières Nations.

C’est au mois d’août 1922 qu’on inaugura le pont qui permet aux pèlerins de se rendre en voiture.

L’abbé Elzéar décéda en 1925 et c’est alors les capucins qui deviennent propriétaires du lieu et des œuvres. Son corps repose sous le petit oratoire dédié à saint Antoine.

Les Capucins, désireux de poursuivre l'œuvre de l'abbé DeLamarre, réalisèrent la construction de la 'Scala Santa' pour laquelle notre abbé avait amassé les matériaux, mais la mort le rattrapant, il n'avait pas eu le temps de l'ériger.

Entre 1925 et 1948, les pères capucins séjournaient pendant la belle saison dans la maison d’été du fondateur, mais en 1948 ils firent construire le couvent des Capucins.

C’est en 1950 qu’ils érigèrent la chapelle Mariale et la chapelle extérieure. La statue de saint Antoine située à l’emplacement des lampions est une sculpture en bois, importée d’Italie et livrée en 1957. Les vitraux de la chapelle mariale ont été l’œuvre du frère Guy Bruneau, capucin. Ils ont été installés en 1970.

En 2007, à l’occasion du centenaire, un don de grande valeur a été offert à l’Ermitage. La paroisse de Notre-Dame de Pitié de Québec dont l’église est fermée au culte a offert son orgue à tuyaux de 18 jeux.

C’est en 2008 que l’Ermitage a installé et réaménagé ce bel instrument. En 2008, un nouveau clocher a été érigé et il accueille quatre magnifiques cloches offertes à l’Ermitage par la paroisse de Saint-Joachim de Chicoutimi.

En 2010, une tour d’observation de 25 mètres en l’honneur de saint Antoine fut érigée. Des chalets d’ermitage et familiaux ont également été construits pour accueillir les visiteurs qui désirent y séjourner. Dans la même année, le Maître Autel de la chapelle Mariale fut remplacé et fabriqué par une compagnie régionale : Les granites Moreau de Chicoutimi. Ces fabricants sont d’ailleurs à l’origine d’autres œuvres dont le chapelet de granite bénit par le pape Jean-Paul II en 1984 et la pierre représentative de l’homme fort Victor DeLamarre.

Le Grand Crucifix entouré de statues et de bas reliefs fut installé en 2011. Cette œuvre magistrale de l’architecte Blaise Marchand nous provient de la chapelle de Cacouna.

Aujourd’hui, après plus de cent ans d’existence, l’Ermitage est devenu le travail et la collaboration d’une famille composée de frères capucins et de laïcs qui, ensemble, s’unissent afin que ce lieu, né de la foi d’un prêtre et inspiré par saint Antoine et la Vierge Marie, devienne l’une des adresses connues de Dieu.