Nasceu em Paredes, em 1945. Licenciado em Filosofia pela Faculdade de Letras da Universidade do Porto. Começou a trabalhar como editor em 1969 na Editorial Inova, onde esteve até ao ano de 1971. Em 1977, entrou para a Editorial Caminho, onde se mantém desde então.
Foi editor do Nobel José Saramago e sete vencedores do Prémio Camões: os cabo-verdianos Arménio Vieira e Germano de Almeida, José Craveirinha e Mia Couto, de Moçambique, Luandino Vieira, de Angola e, de Portugal, José Saramago e Sophia de Mello Breyner Andresen. Destes autores apenas um não foi ainda publicado em língua alemã – o poeta moçambicano José Craveirinha.
Em 2019 recebeu a condecoração, pelo Presidente da República Marcelo Rebelo de Sousa, de Grande-Oficial da Ordem do Infante D. Henrique. Nesse mesmo ano, Zeferino Coelho integrou a delegação representante da literatura de língua portuguesa na Feira do Livro de Leipzig, participando em várias conversas moderadas com autores e editores de outros países.