Issu d'une riche famille, il fit ses études à l'Université d'Oxford, où il rencontra sa femme, Gladys Taylor. Après son retour en Chine en 1940, le couple commença à diffuser à l'étranger les chefs-d'œuvre de la littérature traditionnelle chinoise, en les traduisant en anglais. Ils ont consacré leur énergie au travail de traduction et ont réalisé un grand nombre d'œuvres, parmi lesquelles, « Dream of the Red Chamber », « The Scholars » , « Mr. Decadent: Notes Taken in an Outing », etc.

Yang Xianyi est le premier chinois à avoir traduit, du grec en chinois, l'Odyssey. Il a également traduit en chinois « Aristophanes's Ornites », « Virgil's Georgics », « La chanson de Roland » et « Bernard Shaw's Pygmalion ».

En 1982, sous la présidence de Yang Xianyi, une série de livres anglais ont été publiés, comme par exemple, « The Romance of the Three Kingdoms », « Strange Tales of a Lonely Studio », « Pilgrimage to the West », ou bien encore « Our heavy wings », donnant aux lecteurs étrangers un aperçu général de la littérature traditionnelle et moderne de la Chine.