中国私家园林很可能与皇家园林起源于同一时代，但从已知的历史文献中，人们了解到在汉代有梁孝王的免园，大富豪袁广汉的私园。这类私家园林均是仿皇家园林而建，只是规模较小，内容朴实。
魏晋南北朝时期，中国社会陷入大动荡，社会生产力严重下降，人口锐减，人民对前途感到失望与不安，于是就寻求精神方面的解脱，道家与佛家的思想深入人心。
此时士大夫知识分子转而逃避现实，隐逸山林，这种时尚必然体现在当时的私家园林之中，其中的代表作有位于中国北方洛阳的西晋大官僚石崇的金谷园和中国南方会稽的东晋山水诗人谢灵运的山居。两者均是在自然山水形基础上稍加经营而成的山水园。
唐宋时期，社会富庶安定，传统文化得到了很大的发展，尤其是诗书画艺术达到了颠峰时期。文人造园更多地将诗情画意溶入到他们自己的小小天地之中。这时期的代表作有诗人王维的辋川别业和作家司马光的独乐园。明清时期，私家造园之风兴盛，尽管此时私家园林多为城市宅园，面积不大，但是就是在这小小的天地里，却营造出了无限的境界。正如明代文震亨总结的那样“一峰则太华千寻，一勺则江湖万里”。
此时出现了许多优秀的私家园林，其共同特点在于选址得当，以假山水池为构架，穿凿亭台楼阁、树木花草，朴实自然，托物言志，小中见大，充满诗情画意。这壶中天地，既是园主人生活场所，更是园主人梦想之所在。这时期著名的南方私家园林有无锡的寄畅园、扬州的个园、苏州的拙政园、留园、网师园和环秀山庄狮子林等。
北方私家园林则有翠锦园、勺园、半亩园等。从现今留下来的明清时期的宅园布局来看，北方，的私家园林受四合院形制的影响较大，显得较为拘谨；南方的私家园林则在空间布局上更加自然大方。从水池大小来看，北方私家园林中通常水面较小，而南方私家园林因基地水源丰富而水面较大。
从假山材料来看，北方私家园林选用的是北方产的石头为多。南方私家园林选用的是太湖石；从园林建筑外观造型来讲，北方园林建筑显得稳重大度，屋角起翘较平；而南方园林建筑则空灵、飘逸，屋角起翘很大。从植物材料上来看，北方私家园林申，油松、侩柏、白皮松、国槐、核桃、柿子、榆树、海棠较为常见，而南方私家园林中常以梅花、玉兰、牡丹、竹子、榆树、芭蕉、梧桐等为主要树种。
从色彩构图上讲北方园林是灰瓦、灰墙、红柱、红门窗、绿树、黄石、青石为特点，色彩艳丽、跳动。南方园林则是以太瓦、粉墙、掠柱、棕门窗、灰白石、绿树为特点，色彩清雅，柔和。
