De nationalité Han, Xiao Yang est né en août 1938 à Heyuan dans la province du Guangdong, dans le sud du pays. Il a adhéré au Parti communiste chinois (PCC) en mai 1966 et est diplômé du Département des sciences juridiques de l'Université du Peuple de Chine à Beijing.

Il a assumé successivement les fonctions de procureur général adjoint du Parquet populaire provincial du Guangdong et de secrétaire adjoint de son groupe dirigeant du PCC de 1983 à 1986, de procureur général et secrétaire du groupe dirigeant du PCC de ce parquet entre 1986 et 1990.

Procureur général adjoint du Parquet populaire suprême de Chine et membre de son groupe dirigeant du PCC de 1990 à 1992 et procureur général adjoint et secrétaire adjoint du groupe dirigeant du PCC du Parquet populaire suprême de Chine de 1992 à 1993, M. Xiao assumait les fonctions de ministre chinois de la Justice et de secrétaire du groupe dirigeant du PCC de ce ministère entre 1993 et 1998, avant de devenir depuis 1998 président de la Cour populaire suprême de Chine, secrétaire de son groupe dirigeant du PCC et membre de la Commission de la Justice.

Il est membre des 15ème et 16ème Comités centraux du PCC.