假山组合单元中，主要有绝壁及峰、峦、谷、涧、洞、路（蹬道）、桥、平台、瀑布等，其组合方法大抵是临池一面建有绝壁，绝壁下设路（有的则以位置较低的石桥或石矶作陪衬），再转入谷中，由蹬道盘旋而上，经谷上架空的桥（石梁）至山顶。山顶上或设平台，或建小亭，以便休憩、远望。一般峰、峦的数量和位置，都是根据假山的形体、大小来决定的；而石洞只不过一二，常隐藏于山脚或山谷之中；少数在山上再设瀑布，经小涧而流至山下。

但园中假山并不一定都具备这些单元，有的只是部分，如明代假山的主体，多半用土堆成，只是假山临水处建一小石洞。如苏州艺圃在山的西麓，南京瞻园在山的东麓。这种办法既可节省石料、人工，又可在山上栽植树木，以形成葱郁苍翠的山林之气，其景与真山无异。至于清末的假山，则形体多半低而平，在横的方向上，很少有高深的谷、涧以及较大的峰峦组合，仅在纵的方面，以若干蹬道构成大体近于水平状的层次。
 
现代房地产的假山因受地力与面积的影响，一般较小，往往和水池、亭台、花草相结合，故要求小而全而精。