Der Park wurde 1870 von der Stadtverwaltung in Magdeburg auf der Werderinsel angelegt. Die Werderinsel wird von der Elbe Magdeburg an beiden Seiten umflossen.
Angelegt wurde der Park vom damaligen Gartendirektor Paul Niemeyer. Der Name "Rotehornpark" leitet sich von der bekannten Magdeburg Sage vom Roten Horn ab. Nach dieser Sage besaß die Herrscherin über die Elbe Elwine eine Rotes Horn. Elwine verschwand nach dem ihr Geliebter Willfried ein Versprechen gebrochen hatte verschwand Elwine und lies nur ihr Rotes Horn zurück.