D'après le site bien documenté, l'encyclopédie de Bourges, cette rue semble tirer son origine du fait qu'elle vient en complément de sa jumelle parallèle : la rue de "la Grosse armée".
Ces deux rues sont liées à Charles VII le Victorieux (ou le Bien Servi), dont l'armée constituant son escorte a été formée à Bourges, sans doute dans les rues dites de "la Grosse armée et de la Petite armée".
Né en 1403 à Paris, il est le fils de Charles VI le roi fou et d'Isabeau de Bavière.
Il est reconnu roi par certains en 1422, mais se fait sacrer à Reims en 1429, avec Jeanne d'Arc. Il meurt à Mehun-sur-Yèvre en 1461 après avoir régné près de 40 ans, c'est " le petit roi de Bourges ".