为尊重孙先生的遗愿，孙科等人组成的孙先生葬事筹备处实地察看，选好陵址，划地2000亩修墓，又登报悬奖，征集陵墓设计方
案。在众多应征者中，青年建筑师吕彦直设计的钟形图案被一致评为首奖，他本人也被聘主持全部工程。1926年3月12日孙先生逝世一周年之际，举行了奠基典礼。历时3年多，耗资150万银元，中山陵终于在1929年春竣工。令人惋惜的是，留学美国、才华横溢的青年建筑师吕彦直在主持建陵过程中，呕心沥血，鞠躬尽瘁，不幸与孙先生一样身患肝癌，在工程临近尾声时病逝，年仅35岁。
中山陵的建造可以说是南京城建设史上的一件大事。当年为了迎接孙先生灵枢，南京修筑了第一条柏油马路一中山路。该路西起中山码头，东至中山门，长达12公里。直到今天，中山路依然是南京最主要的交通干道之。同时改造翻修了明代城门朝阳门，并改名为中山门。在中山门到中山陵之间还修筑了一条陵园路。
出中山门，沿陵园路行驶，终点便是中山陵前的半月形广场。广场正南是一座八角形石台。台上那尊双耳三足的紫铜宝鼎，重5000公斤，高4点25米，腹径1点23米，是中山陵纪念性装饰之一。此鼎铸于1933年秋，由广州中山大学全体师生和戴季陶捐赠。鼎一面铸有“智、仁、勇”三个字，是中山大学校训。鼎内竖有一块六角形铜牌，上刻戴母手书《孝经》全文。
由广场踏阶而上，迎面是一座四楹三阙门的冲天式石牌坊。这座牌坊建于19311933年，高12米，宽17点3米。建坊用的都是大块福建花岗岩，但采用的却是中国传统木结构形式。坊额正中是金光闪闪的“博爱”两字。这两个字是孙先生的手迹，原出自唐韩愈《原道》“博爱之为仁”一语。据说孙先生生前最爱题这两字送人。孙先生毕生以伟大的博爱精神致力于民主革命，为民族的独立自由奋斗不息，可以说“博爱”ニ字正是对他一生的高度概括和最好写照。
由博爱坊向前走，是一段长480米，宽十多米的墓道。中山陵的整体设计，突出中国的传统风格，庄严肃穆，独具特色。为了体现孙先生的崇高伟大，中山陵沿用了古代依山为陵的惯例，将墓室筑于海拔约160米的全陵最高处。此外，整个陵区的建筑植被中轴对称，更给人以法度庄严之感。朝北顺坡而上，依次有陵门、碑亭、祭堂和祭堂后的墓室等建筑。而墓道两边的雪松、桧柏、银杏、红枫两两相对，代替了古代惯用的石人石兽，象征着孙先生的革命精神和高尚品质。
墓道尽头是平台。整个陵墓平面为“木铎”形。铎，就是平常我们说的大铃挡。在古代它是用来宣布政教法令和战争令的。铎的声音宏亮，而且传得很远，有“使天下皆达道”的喻义。陵墓选用这样一个图式，让人不禁想起孙先生“革命尚未成功，同志仍需努力”的名言，其用意也正在警示后人。