Die Kirche erhielt ihren Namen vom Jünger Jakobus, auf dessen Spuren sich immer noch unzählige Pilger begeben. Auch Mücheln soll einmal an diesem bekannten Jakobus-Weg gelegen haben, denn im heutigen Kirchen- und Ratssiegel ist Jakobus mit einem Pilgerhut, Pilgerstab und der Jakobusmuschel zu sehen. Seit dem Sommer 2005 führt nun auch wieder durch Mücheln der St. Jakobus Pilgerweg. Im Pfarrhaus befindet sich eine ganzjährig geöffnete Pilgerherberge.
Es deutet einiges darauf hin, dass die Kirche einst eine Burgkirche war. So könnte die unter dem Altarraum gelegene Krypta aus dem 13. Jahrhundert die ehemalige Burgkapelle gewesen sein und damit der älteste Teil des Kirchengebäudes. Die Krypta beherbergt ein siebenteiliges Gewölbe mit einem bemerkenswerten Schlussstein. Dieser zeigt auf vier Abbildungen das Lamm Gottes, einen Löwen, einen Drachen oder Basilisk und einen Halbmond mit Stern.
Nach den Zerstörungen im 30jährigen Krieg und dem Brand im Jahre 1718 entstand die heutige Saalkirche mit dem barocken Kanzelaltar und der Orgelempore mit der mechanischen Papeniusorgel.