金山的聞名還與金山寺的建造密切相關。早在東晉末年，金山上就建起了一座澤心寺。到了唐朝，有個名叫法海的禪師在此開山得金，重建了古剎，更名為金山寺，規模十分宏大，香火一直綿延至今。金山名勝古跡甚多，俯拾皆是。玲瓏秀麗的慈壽塔立于金山西北山巔之上，高30米，和整個金山及金山寺配合的恰到好處，仿佛把這座山都拔高了。磚木結構的塔，上下通行，每一層八面都有走廊和欄桿，八面通風，面面有景，層層風光不一樣，宋代王安石詩云：數重樓枕層層叫，四壁窗開面面風，忽見鳥飛平地上，始驚身在半空中。
再如楞枷臺、妙高臺、觀音閣、法海洞、古仙人洞、古白龍洞等名勝古跡，皆依山旁勢鑿巖而建，構思神巧，令人贊嘆建筑者的神奇智慧和高超藝術。清代大詩人、大書畫家張船山《十六日雪中渡江》云：故人折簡近相招，一舸橫江路不遙。醇酒暗消京口雪，大帆平壓海門潮。揚州燈火難為月，吳市笙歌剩此簫。那管風濤千萬里，妙蓮兩朵是金焦。將金山比為一朵美麗的蓮花。