1909年（明治42），杉山寧出生於東京淺草。1928年（昭和3）進入東京美術學校日本畫科就讀。他展現了絕佳的素描能力，在學中即獲得帝展（帝國美術院展覽會）特選。他以第一名畢業後，與年輕畫家組成瑠爽畫社，為創造新日本畫互相勉勵，並持續參加日展。
1960年（昭和35）以後，杉山的創作逐漸轉向抽象表現。他放棄使用日本畫中常用的基底材如紙與絹，而選擇西洋畫所使用的麻布，並在礦物性顏料中混入細砂，追求顏料厚塗所形成的粗糙質感。最終，杉山在有如色塊構成般，由抽象主題所組成的背景當中，搭配上細密描寫的花鳥，形成獨自的畫風表現。此種融合了抽象與寫實，具有雙重構造的新境界，被評價為「造形主義」。1962年（昭和37），杉山初次赴海外旅遊，他到埃及與歐洲各地。此後，他因喜愛中近東而再度造訪，描繪了旅途中所遭遇且吸引他的題材，發表許多以金字塔、人面獅身像，以及穿著民族服飾的女性等主題的作品。
由於他在戰後開拓了日本畫的新境界，1970年（昭和45）成為日本藝術院會員，1974年（昭和49）獲頒文化勲章。獲得諸多榮譽的杉山寧，於1993年（平成5），以八十四歲高齡去世。POLA美術館收藏了四十三件杉山寧的作品，無論就質與量而言，都可說是日本國內最大規模的收藏。