在屋顶花园的横截面中，土壤是最不为人所知的一个部分，也是人们最少加以研究的部分。由于屋顶花园所处的特殊位置，它需要的土壤必须是肥沃、轻质、排水良好、湿润(但并不潮湿)、耐久、稳固而且廉价，而大多数屋顶绿化方面的设计师都不是土壤方面的专家，他们对此束手无策。更糟糕的是，就算是土壤研究方面的专家，与地面花园的土壤相比，他们对屋顶花园的常年所处的环境也少有研究。
土壤是供植物扎根并生长的基质。对于屋顶花园来说尤为重要，因为其中所使用的一些物质和混合物与地面常见的土壤层很不相同。屋顶花园特殊的种植方法使得它们对种植层的要求和地面花园很大不同。首先，屋顶花园需要良好的排水。为了防止土壤通过排水层流失，必须在种植层与排水层之间放置一块能够防根茎穿透的滤布。种植层中不能含有泥沙，以免造成滤布的堵塞，否则将导致土壤积水，从而引起植物根茎的腐烂，并造成屋顶活荷载的增加。
然而，即使铺设了滤布，也无法阻挡土壤中有机物质的流失。这些有机物提供了植物生长所必需的营养，但是它们很容易分解为很小的物质，溶解在水中，并透过滤布和排水层，最终流入排水系统之中。只有致密的贫瘠砂土或其他无机物最终得以保留，成为土壤中主要的成分，有时甚至是惟一的成分。
有机物一旦流失，几乎很难弥补。事实上，当植物生长在其中时，要恢复深层土壤中的有机物质是非常困难的。位于地表的自然土壤中腐殖质的更新是一个长期的过程，有机物(例如已经死亡的树叶、树枝或植物的其他部分)逐渐腐烂，并与现有的土壤和尘土混合在一起，在原有的腐殖质层上方形成新的肥沃的表层土。而对于屋顶花园来说，这一自然更新的过程太过缓慢，无法跟上混合土壤中有机添加物的分解速度。远在能够通过天然过程在上面形成腐殖质用于更新之前，由砂石和有机物混合而成的花园土壤中的营养成分早就流失殆尽。在很短的时间内，也许只有三至五年，人造土壤中的有机物将分解，溶入水中，并透过砂石进入排水层，最终随水流入暴雨排水系统。所以是常维护中，我们一定要对种植基质进行补充，进而拥有一个健康且魅力十足的空中花园。
