In de Middeleeuwen was Rhenen het meest vooruitgeschoven steunpunt van de bisschop van Utrecht in zijn voortdurende strijd tegen de graven, later hertogen, van Gelre. De bisschop bezat hier het kasteel Ter Horst, dat uiteindelijk in 1543 werd afgebroken. Na de centralisatie van het landsbestuur door keizer Karel V bleef Rhenen eeuwenlang een rustig garnizoensstadje, dat als een van de vijf steden van het Sticht een bescheiden rol speelde in het bestuur van het gewest.
In de zeventiende eeuw had de verdreven koning Frederik V van de Palts een zomerresidentie in Rhenen.
In mei 1940 werd er hevig gestreden bij Rhenen tussen Duitsers en Nederlanders tijdens de Slag bij de Grebbeberg. Het plaatsje Rhenen werd daarbij grotendeels verwoest. De wederopbouw vond nog tijdens de oorlog plaats en de binnenstad is grotendeels in Delftse School stijl herbouwd.