Nansens plan om att låta Fram driva över polpunkten slog fel. Fartyget hade inte kommit långt nog österut innan den frös fast i isen norr om Sibirien. Efter två övervintringar i Fram övergav Nansen och Hjalmar Johansen, den 14 mars 1895, skeppet för att skida mot nordpolen med hundspann om 3 slädar och 27 hundar. Det var minus 40 grader Celsius på avresedagen. Fram var då 600 kilometer från nordpolen. Den 7 april snuddade de 86° 14' nordlig bredd, när de kom fram till att det inte gick att gå till nordpolen och tillbaka under loppet av den korta arktiska sommaren. 86° 14' var Nansens egen mätning, och senare har det korrigerats till 86° 04'. Det var ändå den nordligaste punkt som det vid den tidpunkten var dokumenterat att en människa hade varit på. Återfärden blev också mycket strapatsrik, och Nansen och Johansen övervintrade i ett självbyggt vinterkvarter på Frans Josefs land. Hyddan var 3,4 meter lång och 2 meter bred, och var byggd av sten och klädd med is. Hyddans tak var klätt med valrosskinn och också isolerad med snö och is. De överlevde på tran, valrosspäck och isbjörnskött, och späcket användes även som bränsle.
Sommaren 1896 fortsatte de, delvis över land och delvis i självbyggda kajaker. Vid ett tillfälle höll det på att sluta illa: Båda kajakerna drev från land medan de gjorde en paus på iskanten. Nansen överräckte uret till Johansen, kastade av sig några av klädesplaggen och simmade ut i isvattnet och lyckades bärga kajakerna. En annan farlig episod inträffade när en isbjörn plötsligt dök upp och kastade sig över Johansen. Nansen hade lagt ifrån sig geväret och kunde inte nå det. Johansen som låg under björnen ropade då till kamraten: ”Nå må De skynde Dem, ellers kan det være for sent”. Till och med i nödens stund höll man på tilltalsformen. På Kap Flora, längre söderut på Frans Josef land, mötte de den brittiska Jackson-Harmsworth-expeditionen under ledning av Frederick George Jackson. Nansen hade mött Jackson fyra år tidigare i London. Men Jackson kände inte igen denne vildman som plötsligt stod där framför honom. Det finns två versioner av vad som blev sagt när Jackson och Nansen tillfälligt möttes på Kap Flora. Brittens förlösande ord var ”How do you do?” eller ”Doctor Nansen, I presume?”. Nansen och Johansen fick skjuts med det brittiska forskningsfartyget Windward till Nordnorge, och de ankom till Vardø den 13 juli 1896. En vecka senare ankom Fram under ledning av Otto Sverdrup till Skjervøy och de kunde återförenas i Tromsø. Därefter följde en triumffärd längs hela kusten till Kristiania dit de anlände den 9 september. Överallt firades de som nationalhjältar.