Goulds vierde symfonie werd gecomponeerd voor de West Point Sesquicentennial Celebration in 1952 en markeerde 150 jaar vooruitgang aan de United States Military Academy. Het is een van de eerste historische symfonieën die speciaal voor harmonieorkest werd gecomponeerd. Symfonie nr. 4 is een meesterwerk in twee delen. Gould maakt gebruik van zowel traditionele als moderne technieken, waarbij hij op bedreven wijze kleuren en stijlen verandert. Het eerste deel, Epitaphs, is zowel lyrisch als dramatisch. De rustige en melodieuze openingszin van het hoofdthema leidt rechtstreeks tot een brede uiteenzetting van een van de motieven, en wordt een passacaglia gebaseerd op een krijgsthema dat voor het eerst door de tuba wordt gespeeld. Na een reeks variaties die in intensiteit toenemen, de openingslyriek, gecombineerd met het passacaglia-motief sluit het eerste deel rustig maar dissonant af. Het tweede deel, getiteld Marches, is een briljante maar subtiele parafrase op marsen en marcheren. De verschillende deuntjes komen langs in een reeks verfraaiingen en ritmische variaties. Aan het begin van dit deel, en ook in later, spelen de blaasinstrumenten figuren die typische snaredrumritmes suggereren. Op een gegeven moment herinnert een simulatie van een pijper- en drumcorps aan de instrumentatie van de originele West Point Band. Na talrijke variaties van het hoofdmarsmotief eindigt het werk in een virtuoze coda van krijgshaftige fanfares