一般麻雀與山麻雀的差異在於，一般的麻雀臉頰有黑斑，腹部較灰白，而山麻雀的臉頰沒有黑斑，腹部也較白淨，近年來山麻雀數量越來越少。

山麻雀主要棲息在海拔兩百至兩千公尺的山區開墾地，以前多出現在茶園、果園、小米田，早年台中縣谷關是賞鳥者觀察山麻雀的熱點之一，最近幾年卻再也未發現，判斷當地的山麻雀族群可能已完全消失。山麻雀在六、七○年代的山區部落很常見，但現在中部地區只剩南投縣仁愛鄉力行產業道路、宜蘭縣南山村、嘉義梅山、竹崎一帶，山麻雀數量較密集，連十多年資深鳥友都有不少人未曾在野外觀察到山麻雀。

谷關、武陵農場山區原本也有山麻雀族群，但谷關山區在九二一大地震前鳥群就找不到了，武陵農場山麻雀也在三、四年消失了。目前的分布，屏東霧台鄉約有兩百隻，嘉義梅山鄉、竹崎鄉，以及中橫宜蘭支線到合歡山力行產業道路，各約三百隻，總數量估計在六百至八百隻。