Heuch utfoldet en rik litterær virksomhet som en talentfull apologet for kristendommen, og i den indre kirkelige debatt som en representant for streng luthersk teologi, konservativ og høykirkelig. I en årrekke var han medredaktør av "Luthersk kirketidende" (1875 - 1877) og derpå av det høykirkelige "Luthersk ugeskrift" (1877 - 1889), og her leverte han innlegg mot Bjørnson og Brandes; de utkom i bokform og vakte stor oppmerksomhet på grunn av sitt vidd og sin ironi. Dessuten holdt han i 1880 årene en rekke apologetiske foredrag i norske byer og i Gøteborg og København. Disse er nedlagt i de to bøker "Vantroens væsen" (1883) OG "Kirken og vantroen"(1888).

Hans siste år var viet kampen mot den moderne teologi, som sto for ham som en "overgangsteologi" til rasjonalisemen. Hans kampskrift "Med strømmen"(1902) og hans "Svar"(1903) på angrepene mot dette fikk stor utbredelse(henholdsvis 6 og 3 opplag). Heuch var en djerv personlighet, en original predikant og en fenglsende forfatter. Som biskop nøt han en overordentlig anseelse i sitt stift, ikke minst blandt lekfolket, som han fra først av hadde stått fjernt. (Han skrev i sin tid mot den frie lekmannsforkynnelse, (1878) og hans visitaser skildres som festlige opplevelser for menighetene.

En frukt av Heuch's pastoralteologiske forelesninger er hans bok om "Sjælesorgen hos de syge" (2 opplag 1889). Det beste minnesmerke om hans predikantvirksomhet er hans "Vidnesbyrd om Kristus" (2 bd.2 opplag 1900-01).

Litt: J.Tandberg: Biskop Heuch's liv og virke (1905)
O.P.Monrad; Biskop J.C.Heush (1920)
E.Molland: "Fra Hans Nilsen Hauge til Eivind Berggrav" 1951)
E.Molland, professor dr. theol.