Né en avril 1945, de l'ethnie Han, Yu Zhengsheng est originaire de Shaoxing dans la province du Zhejiang. Il a commencé à travailler en août 1963 et rejoint le Parti communiste chinois (PCC) en novembre 1964. Etudaint en contrôle automatique de missiles balistiques au département de l'ingénierie missile de l'Institut de l'ingénierie militaire de Harbin, il a obtenu un diplôme universitaire et un titre d'ingénieur.

En octobre 2007, il est nommé secrétaire du comité municipal du PCC pour Shanghai.

Il a été élu membre suppléant du XIVe Comité central du PCC, membre des XVe, XVIe et XVIIe Comité central du PCC, membre du Bureau politique des XVIe et XVIIe Comité central du PCC.