Né à Rivière-Verte, Solyme Azzie était le fils de Georges Azzie et de Joséphine Cyr. De 1913 à 1919, Solyme fit ses études élémentaires au couvent de Saint-Basile et soeur Claudia Lavoie fut son enseignante. Le cours classique terminé à Sainte-Anne-de-la-Pocatière, il s’inscrivit en théologie au séminaire Saint-Coeur à Halifax et fut ordonné prêtre à Chatham en 1931. L’abbé Azzie fut d’abord curé de la paroisse de Sainte-Anne de Madawaska puis de la paroisse de l’Assomption de Grand-Sault. En 1965, Mgr Azzie recevait le titre de prélat honoraire.