Ursprünglich war geplant, Waidhofen an der Thaya direkt an die Franz-Josefs-Bahn anzuschließen; die Waidhofener standen dem aber negativ gegenüber. Erst als man sah, dass ein Bahnanschluss einen wirtschaftlichen Aufschwung bedeutete, wurde ein Nebenbahnanschluss realisiert.
Die Bahnstrecke Schwarzenau bis Waidhofen an der Thaya wurde am 3. August 1891 offiziell eröffnet, die Verlängerung bis nach Zlabings am 20. Juni 1903.
1945 wurde der grenzüberschreitende Verkehr eingestellt, die Züge endeten nunmehr an der Haltestelle Fratres.
Als 1959 der zweigleisige Betrieb auf der Franz-Josefs-Bahn aufgelassen wurde, wurde die Strecke in den Bahnhof Schwarzenau verlängert. Bis dahin begann sie bei der Abzweigung Willings in km 0,0 und benutzte bis dort das rechte Streckengleis der Franz-Josefs-Bahn mit. Ab dann diente dieses ehemalige Streckengleis ausschließlich der Thayatalbahn.
Am 29. Mai 1976 endete der Dampflokbetrieb.
Am 10. Jänner 1977 wurde der Streckenabschnitt Gilgenberg-Fratres eingestellt.
Am 1. September 1986 wurde der Personenverkehr zwischen Waidhofen an der Thaya und Gilgenberg wegen Unrentabilität eingestellt und durch eine Autobuslinie ersetzt.