据传周朝时期，匡山属于匡国，故名“匡山”。又有传言说，立名“匡山”，主要是考虑当地佛教盛行的特色，寓意“匡世济人”，大慈大悲的胸怀。唐朝时期，匡山和庐山齐名，合称为匡庐。