Přibližně kolem roku 1350 uspořádal císař Karel IV. při svém pobytu v Lokti výpravu do loketských lesů, kde nechal na místě údajného pramene založit lázně nazvané Horké Lázně u Lokte, které byly později přejmenované na Karlovy Vary. Následně dne 14. srpna 1370 Karel IV. udělil lázním městská práva stejná jako v Lokti.
V roce 1522 vychází první odborná kniha o Karlových Varech a jejich léčebných vlastnostech od lékaře Václava Payera, jež je vydána v Lipsku. O 60 let později zasahuje město velká povodeň a v roce 1604 pak katastrofální požár, která zcela poničí město (podobná událost se přihodí i roku 1759). 1775 Johann Georg Pupp položil základ rozvoji hotelu Grandhotel Pupp.
V roce 1807 začíná ve městě výroba likéru Becherovka, který se v následujících letech stane známým nejenom v Česku ale také ve světě. V roce 1844 se ve městě začíná rozvíjet další průmysl, tentokrát zaměřený na vývoz zřídelní vody. Rozvoj města potřebuje ke svému růstu napojení na železnici a tak roku 1870 je město napojeno na evropskou železniční síť. Koncem 19. století se mění Karlovy Vary také architektonicky. Stále více se prosazuje historizující styl staveb (neoklasicismus, neobaroko, neorenesance). Největší vliv na celkový vzhled lázeňského města mají v tomto období především stavební projekty firmy Fellner a Helmer, podle jejichž návrhů vzniká ve městě asi 20 budov - mimo jiné také Grandhotel Pupp, divadlo, Císařské lázně, kolonáda Sadového pramene a Vřídelní kolonáda (dnes již neexistující).
Během první republiky je ve městě roku 1929 otevřeno letiště Karlovy Vary, které umožňuje pohodlné cestování pro majetné turisty. Po druhé světové válce dochází v Karlových Varech podobně jako jinde v Česku k vysídlení německého obyvatelstva do Německa. Roku 1946 vzniká Mezinárodní filmový festival Karlovy Vary, který město proslavil ve světě a každoročně láká množství filmových nadšenců a známých celebrit z celého světa.