Fjällgåsen påminner om den närbesläktade bläsgåsen (A. albifrons), men är mindre, mörkare (främst huvudet), har kortare hals och näbb och brant panna samt en tydlig gul ring runt ögonen. Den är en liten gås som mäter 53 till 66 centimeter, det vill säga i storleken som en gräsand. Den har ett vingspann på 120–135 cm och en genomsnittlig vikt på 1 400 till 2 200 gram. Det tydligaste kännetecknet är dock den gula orbitalringen runt ögat, som dock kan vara svår att se på håll. Fjällgåsen är relativt svårbestämd, speciellt sträckande fåglar, eftersom anser-gäss har stora individuella skillnader vad gäller storlek. Den har precis som bläsgåsen en vit fläck (så kallad bläs) i pannan och kraftiga svarta streck över buken.
