Synagoga została zbudowana w 1642 roku na miejscu starszej, drewnianej bożnicy. W XVIII wieku do narożnika północno-wschodniego dobudowano niską wieżę, która pierwotnie służyła jako więzienie dla Żydów. W latach 40. XIX wieku synagoga przeszła gruntowny remont. W XVII i XVIII wieku stanowiła wielki żydowski ośrodek intelektualny. Działało przy niej wielu znanych, szanowanych rabinów i talmudystów.
Podczas II wojny światowej, w 1941 roku hitlerowcy zdewastowali i ograbili wnętrze synagogi i urządzili w niej magazyny. Po zakończeniu wojny w synagodze na polecenie władz miejskich nadal znajdowały się magazyny, ale tym razem nawozów sztucznych. W 1965 roku w synagodze wybuchł pożar, który dopełnił dzieła niszczenia budynku, spłonęła unikalna biblioteka i archiwa gminy żydowskiej, a pozostałe cudem uratowane księgi wyrzucono do pobliskiej rzeki.
W latach 1974-1978 przeprowadzono gruntowny remont i konserwację synagogi. Od 1977 roku stanowi siedzibę Muzeum Kultury Żydowskiej w Tykocinie. Obecnie muzeum posiada bardzo bogatą ekspozycję judaiców oraz innych przedmiotów związanych z kulturą żydowską.
W głównej sali modlitewnej prezentowane są m.in. zabytkowe zwoje Tory nakryte koroną, tasy, tałesy, księgi, tefiliny, chanuki, menory, besaminki. W wieży urządzono pokój rabina oraz rekonstrukcję Seder Pesach, czyli wieczerzy paschalnej. W 1992 roku synagogę odwiedził prezydent Izraela Chaim Herzog.