Les instruments de musique chinois remontent à des temps forts anciens. Les résultats des fouilles archéologiques montrent que de nombreux instruments de musique firent leur apparition il y a au moins 2 000 ans. Par exemple le sifflet en os mis au jour au site de Hedumu (province du Zhejiang), relevant d'une culture du néolithique, le xun (instrument d'argile en forme d'œuf aplati et percé de six trous) exhumé au site de Banpo, à Xi'an, province du Shaanxi, relevant de la culture de Yangshao (5000-3000 av. J.-C. environ), le qing (pierre sonore), le tambour en bois tendu de peau de boa, déterrés aux ruines Yin, à Anyang, province du Henan, le paixiao (flûte droite), le sheng (orgue à bouche), le se (cithare à 25 cordes), la cloche, le bianqing (série de pierres sonores) et toutes sortes de tambours mis au jour dans le tombeau du marquis Yi des Zeng (enterré en 433 av. J.-C. ), au district de Suixian, province du Hubei.

Les instruments de musique anciens avaient généralement une double fonction. Ils servaient à la fois d'instrument de travail ou d'usage courant, et d'instrument de musique. Le qing ancien était probablement à l'origine un instrument de pierre taillé en feuille. D'autres instruments de musique servaient probablement à transmettre un certain message, comme le signal d'expédition donné par le tambour, la retraite des troupes notifiée par le battement de gong en bronze et l'heure donnée par la cloche ou le tambour. Certaines minorités ethniques conservent aujourd'hui encore la méthode traditionnelle d'exprimer l'amour par le sifflet de bouche.

Le développement des instruments de musique dépend de l'évolution des forces productives. La transformation de pierres sonores en instruments métaux, dont la cloche, ne fut possible qu'après que l'homme eut maîtrisé les techniques de fonte évoluées. Les instruments à cordes comme le qin (cithare) et le zheng, firent leur apparition après l'invention de la sériciculture.

Sous les Han (206 av. J.-C.-220), de nombreux outils musicaux, comme le di (flûte traversière) et le konghou (cithare chinoise) furent introduits du Xiyu (Territoires de l'ouest), et sous les Ming (1368-1644) le yangqin (tympanon) et le suona (hautbois chinois) pénétrèrent à l'intérieur du pays. Ces instruments de musique introduits furent améliorés sans cesse et devinrent les instruments importants des orchestres de musique chinois.

Dans l'histoire des instruments de musique chinois, les instruments à archet apparurent beaucoup plus tard que les instruments à percussion, à vent et à cordes pincées. Selon la documentation, un instrument à cordes frottées par une lamelle de bambou fit son apparition sous les Tang (618-907) et un instrument à archet tendu de crin de queue de cheval apparut sous les Song (960-1279). Sur cette base, divers instruments de musique à cordes frottées se développèrent à partir de la dynastie des Yuan (1206-1368).

Après la fondation de la République populaire de Chine en 1949, les musiciens chinois ont obtenu beaucoup de succès en étudiant et réglant les problèmes existant dans les instruments de musique traditionnels : la sonorité impure, les étalons sonores non unifiés, le déséquilibre du volume du son, l'incommodité de la modulation, la non-unification du critère de la hauteur du son entre les instruments de haute sonorité définie, l'insuffisance des instruments de musique de sonorité moyenne ou basse dans l'orchestre.