Établi autour de 1820
Première église 1902
Premier curé 1926

À l'origine, Port-Elgin était appelé, "Gaspareaux Town", à cause de l'abondance de ce petit poisson dans la rivière qui porte toujours son nom et qui coule dans le village de Baie-Verte. Sous le Régime français, un petit village acadien avait existé, à un mille de Port-Elgin, près du site de Fort Gaspareaux devenu, sous le régime britannique, le Fort Monckton. Une petite chapelle et la maison d'un prêtre ont servi à environ quarante familles avant 1755, au moment de la déportation des Acadiens et que tout avaient été détruit par les soldats britanniques.
La première église à Port-Elgin a été construite en 1902. En ce moment-là, la population catholique totale comptait environ vingt-cinq familles, dont la grande majorité était des Acadiens. Cependant, quelques familles irlandaises et des écossaises ont vécues côte-à-côte, dans la paix et la prospérité, avec leurs frères Acadiens. L'histoire nous dit que le premier catholique à s’installer à Port Elgin était John Fitzpatrick, en 1850. Nous savons aussi que le Père Patrick Bradley célébrait des messes dans des maisons privées à Port Elgin et ce à plusieurs reprises, pendant un an durant son ministère à Cap-Pelé (1868-1898).
La nouvelle église à Port-Elgin a été bénie en 1902 sous les auspices de Saint Clement. Les premiers administrateurs de Saint-Clement étaient Laurent Gould, John Mahoney et Docité Vautour.
Jusqu'à 1907, tant Melrose que Port-Elgin, étaient des missions sous la gouverne de Cap-Pelé, mais sont devenus plus tard attachés à Sackville-Centre. Cette situation est demeurée ainsi jusqu'en 1926 quand le Père R. B. Fraser, alors curé à Sackville, se prend une résidence à Port Elgin et ce, jusqu'à 1932, devenant ainsi le premier prêtre résident à Port Elgin. En assumant ses devoirs à cet endroit, le Père Fraser prend domicile en achetant une propriété à Frank Mitton.
En 1926, l'église Saint-Clement connaît une importante rénovation. En effet, le sanctuaire et la sacristie ont été déplacés vers l’arrière de plus de 22 pieds, permettant ainsi à plus d’espaces pouvant ainsi d’accueillir à presque une centaine de personnes durant les célébrations eucharistiques. Le matériel utilisé pour la construction de cette rénovation a été pris surtout de la vieille église Baptiste, située sur la propriété attenante et qui avait été achetée du Révérend père Mason. La construction a été réalisée par l’entrepreneur Walter Gould, d'Amherst, et August Sandell de Shemogue en a fait la décoration. En octobre 1926, le lot de terre pour le premier cimetière catholique a été acheté.
Avec la restructuration du diocèse en 2000, la paroisse est devenue une partie intégrante de l’unité pastorale de St-Bernard et de Sackville.