“学”字本有好几个释义，有一个重要的意义相当于今天“学校”的意思。《礼记・学记》里说：“古之教者，家有塾、党有庠、术有序、国有学。比年入学、中年考校。”可见塾、庠、序、学是不同范围里的类似今天各级学校的称呼。私塾直到新中国才完全废掉，而庠、序似乎很少看见实质的记载。只有学，是各级政府办的正规学校，县有县学，府有府学。另外，《孟子》里又说：“设为庠、序、学、校以教之。”似乎先秦的时候，学与校还有一点差别。但到汉代扬雄的《百官箴・博士箴》里就说：“国有学校，侯有泮宫。”已经将“学”与“校”合在一起连用了，而且是国家一级的学习机构。这一概念一直延续下去，所以宋朝欧阳修《议学状》也说：“夫建学校以养贤，论材德而取士，此皆有国之本务。”不过在实际上，单独的“学”的使用比“校”要普遍。
“学堂”的出现则较晚，《水经注・江水》里有这样的文字：“始文翁为蜀守，立讲堂，作石室于南城。永初后，学堂遇火，后守更增二石室。”前为讲堂，后作学堂，似乎“学堂”一词新出，所以用法比较随意，与学校的严格用法不同。唐以后，“学堂”用得多起来了，韩愈《秋怀》一首云：“学堂日无事，驱马适所愿。”但比起“学校”来，“学堂”应该说不是很正式，也不是用得很普遍的词语，“学校”才是更正式的名称。所以到了清末维新，为了表示与旧式的各级学校，即县学、府学等的差异，将新设立的为了培养人才的学校称为“学堂”，因而清末民初的人看学堂就完全是新生事物。