1840-ben írta meg első operáját, a Bátori Máriát. A szövegkönyv szerzője Egressy Béni, aki ezután egészen haláláig (1851) segítőtársa volt operaszerzői munkájában. 1844-ben megnyerte a Kölcsey Himnuszának megzenésítésére hirdetett pályázatot. Az 1848–49-es forradalom és szabadságharc után a főváros hangversenyéletének fellendítésén fáradozott. Vezetésével alakult meg 1853-ban a Filharmóniai Társaság, amelyet számtalan esetben vezényelt. Bánk bán című operáját, amely egyben pályájának csúcsát is jelentette, 1861-ben mutatták be. Közreműködött a Zeneakadémia megalakításánál (1875), amelynek ezután tíz éven át igazgatója és zongoratanára volt. Az 1884-ben megnyíló operaház főzeneigazgatója lett. Erkel nevéhez fűződik a magyar nemzeti opera megteremtése.