Des recherches archéologiques ont permis de confirmer l'occupation du territoire dès l'Antiquité. Le village reçoit les noms successifs de Raignerie en 1096, de Sylva de Néreio en 1119, laissant supposer l'existence d'une forêt à proximité, de Niereigni en 1239, et de Niergny en 1322.
Au Moyen Age, le territoire est l'une des 12 pairies du Cambrésis. Son seigneur participe aux décisions administratives de l'évêque de Cambrai. Le premier seigneur connu est Jean Mouton, chevalier en 1224. Le village obtient le statut de commune en 1339. Au XIVe siècle, la seigneurie est achetée par le chapitre de la cathédrale de Cambrai, qui en reste propriétaire jusqu'à la Révolution.
En 1426, on tirait du sable pour alimenter le four à briques situé près de la porte Saint Ladre à Cambrai.
Le village a une position dominante par rapport à Cambrai. Ainsi, en 1595, le comte de Fuentes, voulant reprendre cette ville, construit-il un fort, flanqué de quatre boulevards, confortant son attaque. En 1790, les Niergniens, surnommés les "palots", sont réputés pour être de fortes têtes. La municipalité de cette époque se plaint de ne pouvoir maintenir l'ordre, la population étant soumise à de lourds impôts.
En 1848, un lieu-dit porte le nom de La Ruelle du Bois, confortant la thèse de l'existence d'une ancienne forêt. Au milieu du XIXe siècle, le village jouit d'un marché aux bestiaux réputé.
L'église actuelle, construite en 1864, montre sur tous les piliers des blasons de la famille bretonne des Kercadio ; bienfaitrice de la paroisse.