Ursprünglich wollte man die Toten des 2. Weltkrieges im Anschluss an das Gräberfeld von 1914/18 im Hauptfriedhof beerdigen, doch die hohen Verluste, die bei den Kämpfen vom Dezember 1944 bis März 1945 entstanden, machten die Anlegung eines separaten Friedhofs unumgänglich. Hierher wurden auf Veranlassung der Amerikaner 720 deutsche Gefallene umgebettet.
Auf Wunsch der Stadt, die bis zu diesem Zeitpunkt die Anlegung des neuen Soldatenfriedhofs durchgeführt hatte, übernahm 1950 der Volksbund die weiteren Ausbaumaßnahmen.