Bár az első, Gyergyóban letelepedett örményekről nincsenek egyértelmű történeti forrásaink, Szongott Kristóf és Merza Gyula írásaiból arról értesülünk, hogy Gyergyószentmiklóson a két első örmény – a Hercz vezetéknevű Ázbej és Vártig testvérek – 1654-ben telepedett le. Más adatok szerint az örmények csoportosan 1688-ban érkeztek Gyergyószentmiklósra. Kezdetben bérbe vett magánházakban tartották az istentiszteleteket. Ferenczy György római katolikus főesperes–plébános 1613-ban egy régi kápolnánál az idegeneknek temetőt létesített, amelyet 1698-ban Szebelébi Bertalan püspöki helynök az örmények rendelkezésére bocsátott. A hozzá tartozó – 1450 körül épült - gótikus kápolnát 1712-ben 120 aranyforintért megvásárolták az örmények Mártonffy György erdélyi püspöktől. Helyére a gyarapodó örmény közösség számára egy nagyobb templomot építettek, de amikor ez is szűknek bizonyult, 1729-ben kijelölték az új templom helyét. A templom főbejáratának jobb oldalán örmény tábla jelzi, hogy az 1688-ban letelepedett gyergyószentmiklósi örmény közösség 1733-ban felépítette jelenlegi barokk stílusú templomát, amelyet 1772. augusztus 24-én szentelt fel Bajtay Antal erdélyi püspök Szűz Mária születésének tiszteletére. Az építkezéseket Theodorovics Simon helyettes főesperes, örmény szertartású plébános vezetésével végezték elsősorban a jámbor társulatok költségén. A templom körüli lőréses várfalban a tizenöt állomást ábrázoló keresztúti képeket helyezték el. A Petőfi tér 4. szám alatt áll a plébánia impozáns épülete, amelynek telkét az örmények 1768-ban vásárolták meg. A plébánia udvarán 1780-ban kántori lakást és a telek végén harangozói lakot építettek. A plébánián érdekes könyvtár, a templomban pedig számtalan műkincs bizonyítja az örmények vallásosságát és kultúra iránti szeretetét.
A templom teljes felújítását 1889-ben végezték. Görög Joachim kanonok–plébános nevéhez fűződnek a templom festett üvegablakai, a pneumatikus rendszerű orgona beszerzése és felszerelése, az örmény temető gondos elrendezése és a plébánia felújítása a 19. század utolsó évtizedében.
A gyergyószentmiklósi örményeknek külön iskolájuk is volt, 1794-ben külön gimnáziumot tartottak fenn. Ebben az iskolában tanult Ákoncz-Kövér István, aki később a velencei mechitarista rend érsek–főapátja lett. A fokozatos elnéptelenedés miatt az örmény iskola az 1880-as évek elejére teljesen megszűnt.
A gyergyószentmiklósi örmény közösség életébe 2003-ban új lendületet hozott Puskás Attila örmény katolikus papi működése. Az elhanyagolt plébániaépület és a melléképületek korszerű tatarozását is ekkor végezték el. Leltározás és könyvtári feldolgozás alá került a plébánia régi könyvállománya. A levéltárat ekkor különítették el a könyvszekrények alsó részébe és egy önálló üveges almáriumba.
