Gounod Sohn eines Malers erhielt bereits Musikunterricht von seiner Mutter einer Pianistin. Er zunächst privat bei Anton Reicha und ab am Pariser Konservatorium bei Fromental Halévy Ferdinando Paer Pierre Zimmermann und Jean-François Sueur. 1839 erhielt er den Rompreis für Kantate Fernand und reiste nach Italien um die Musik der alten Meister allem Palestrinas kennenzulernen. 1842 verließ er Rom Richtung Wien und gelangte 1843 über Berlin und Leipzig wieder nach Paris.
Nach seiner Rückkehr wurde Gounod Kirchenkapellmeister Organist in Paris. Er wollte eigentlich Kleriker und studierte entsprechend 1846-48 an St-Sulpice. Doch wandte er sich der Opernkomposition zu wenn seine erste Oper Sapho 1851 kein großer Erfolg war. 1852 er Anna Zimmermann die Tochter seines Klavierlehrers Konservatorium. 1852-60 war Gounod Direktor des L'Orphéon de la Ville de Paris des größten Männerchores der Stadt. Erst Oper Faust brachte ihm 1859 den Durchbruch als Komponist und blieb bis heute sein Meisterwerk. Deutschland wird diese Oper gerne unter dem Margarethe gespielt um den Unterschied zu Goethes Faust zu unterstreichen.) Gounod wurde einer der Vertreter der typisch französischen „Opéra lyrique“ obwohl meisten seiner 12 Opern heute nicht mehr dem Spielplan stehen.
Auf Grund des deutsch-französischen Krieges 1870/71 wohnte er 1870-74 in London und gründete dort den „Gounod's Choir“ dem später die „Royal Choral Society“ hervorging. Alter wandte sich der tief religiöse Gounod der Kirchenmusik zu. Seine Oratorien machten ihn zu einem reichen Mann ihr ans Sentimentale grenzender lyrischer Stil ließ schnell in Vergessenheit geraten. Berühmt und berüchtigt ist seine Méditation sur le 1er prélude de Bach eine Melodie die er 1852 auf Präludium C-Dur des 1. Teils des Wohltemperierten Klaviers von Johann Sebastian Bach für Violine und Klavier schrieb und mit dem Text des Ave Maria unterlegte.