1909年（明治42），杉山宁出生於东京浅草。1928年（昭和3）进入东京美术学校日本画科就读。他展现了绝佳的素描能力，在学中即获得帝展（帝国美术院展览会）特选。他以第一名毕业後，与年轻画家组成瑠爽画社，为创造新日本画互相勉励，并持续参加日展。
1960年（昭和35）以後，杉山的创作逐渐转向抽象表现。他放弃使用日本画中常用的基底材如纸与绢，而选择西洋画所使用的麻布，并在矿物性颜料中混入细砂，追求颜料厚涂所形成的粗糙质感。最终，杉山在有如色块构成般，由抽象主题所组成的背景当中，搭配上细密描写的花鸟，形成独自的画风表现。此种融合了抽象与写实，具有双重构造的新境界，被评价为「造形主义」。1962年（昭和37），杉山初次赴海外旅游，他到埃及与欧洲各地。此後，他因喜爱中近东而再度造访，描绘了旅途中所遭遇且吸引他的题材，发表许多以金字塔丶人面狮身像，以及穿着民族服饰的女性等主题的作品。
由於他在战後开拓了日本画的新境界，1970年（昭和45）成为日本艺术院会员，1974年（昭和49）获颁文化勲章。获得诸多荣誉的杉山宁，於1993年（平成5），以八十四岁高龄去世。POLA美术馆收藏了四十三件杉山宁的作品，无论就质与量而言，都可说是日本国内最大规模的收藏。