先秦典籍《吕氏春秋》里说：“音乐之所由来者远矣！”远至何时，史无确载，但不断发现的音乐文物，一次又一次地证明了它的“由来”之远。
本世纪五十年代初，安阳殷墟“商代虎纹大石磐”出土，证明中国乐器已有3000余年的历史；五十年代中，西安半坡村新石器时代遗址发掘出“一音孔陶埙”，乐器曳一下子上溯到6700余年前；七十年代，浙江余姚河姆渡新石器时代遗址又发现大批7000多年前的“骨哨”和一件“陶埙”……中国音乐确实像一条历史的长河，这条河曲折婉蜒、多姿多彩，永不止息；这条河由涓涓细流汇成滔滔大江。近些年，河南舞阳贾湖村的一次考古发掘使它再向更古老的年代延伸……
中国音乐的历史，古代文献一般追溯到黄帝。尽管关于黄帝的传说夹杂着后人的理想成分，并有不少神怪内容，不完全可信（例如说黄帝时代建立了“十二律”，就是把后来的创造归功于黄帝的说法，与现代科学考古发现不合。）要把黄帝作为中国音乐的源头，也嫌太晚了：现代考古发现已把中国音乐的历史，从黄帝时代大大向前推进棗其历史远比黄帝时代古老！
1986年—987年，在河南省舞阳县贾湖村新石器遗址发掘出了随葬的至少16支骨笛，据碳14测定，这些骨笛距今已有8000—9000年之久！这些骨笛用鹤类尺骨制成，大多钻有7孔，在有的音孔旁还遗留着钻孔前刻划的等分标记，个别音孔旁边另钻一小孔，应是调整音高用的。这些情况起码说明，那时人们已对音高的准确有一定要求，对音高与管长的关系也已具备初步认识。经音乐工作者对其中最完整的一支所作测音可知，号称以五声音阶为主的中国，其实早在七、八千年之前，就已具备了有着稳定结构，超出五声的音阶形态了。（这一历史事实雄辩地说明，中国音乐后来以五声为主，并不象有人臆想的，是所谓“音阶发育不完善”，而是一种历史的、审美的选择结果。）这也证明当时的音乐已发展到了相当高的程度，远远超出人们的想象。在这之前，中国音乐一定还存在一个漫长的历史时期，这段时间以千年还是以万年计，现在难以猜测。
除骨笛外，新石器时期的乐器，还发现有骨哨、埙、陶钟、磬、鼓等。这些乐器分布于中国广袤的土地上，时间跨度也很大，说明它们是中国原始时期的主要乐器。其中钟、磬、鼓在后世得到了极大的发展，至于埙和哨，还有与骨笛形制、原理相同（今天称为“筹”）的乐器，甚至直到今天仍存活于民间。
埙是一种很有特点的乐器，用土烧制而成，外形似蛋(或作各种变形)，其大小近似中人的拳头，中空，顶端开一吹孔，胸腹部开一个或数个指孔。埙是除骨笛之外，已发现的原始时代乐器中唯一能确定地发一个以上乐音的乐器，原始时期的埙只有1-3个音孔，只能吹出2-4个音，(这很可能与在不大的蛋形的埙上开孔，比在管状的笛上开孔要难以计算有关。)它们在一定程度上体现了中国音阶发展的进程，尤其能揭示出在中国音阶的发展进程中占有重要地位的音程关系；当今有学者指出，那就是从只能发两个音的一音孔埙起便一再被强调的小三度音程。这一观点对于认识中国音阶的发展，音阶音之间的律学关系，乃至中国的七声音阶仍以五声为骨干现象的内在机理，无疑有着重要的指导意义。
原始时期的音乐和舞蹈密不可分，这大概是世界各民族历史上共有的现象，中国也不例外。最迟在公元前11世纪，中国已称这种音乐舞蹈结合的艺术形式为“乐”，甚至在音乐舞蹈各自成为独立的艺术形式之后，“乐”仍既可以指舞蹈，也可以指音乐，一直保存着它的模糊词义。今天“乐”已专指音乐，所以学者通称原始时期的“乐”为“乐舞”。现存的有些原始岩画非常生动地描绘了原始乐舞的场面，那是一种群体的歌舞活动。据后来文献保留下的片断“记忆”可知，原始乐舞的举行跟祈求丰年等祭祀是“一而二，二而一”的事，因此其中必然包含有生产活动的再现成份。
原始时期，乐舞并不成其为社会分工对象，原始社会不存在专职的乐工，乐舞一般是部落社会的全社会活动。因此，原始时期的乐舞，并没有以专门的艺术形式的面貌和身份，从社会上独立出来。
严格地说，到大约公元前21世纪夏代建立以后，乐舞才真正作为一种社会分工，从社会中取得独立。传说夏代初期的国君启和最后的国君桀，都曾用大规模乐舞供自己享乐，说明终夏一代，社会已造就出一大批专职的乐舞人员，这正是乐舞作为艺术而独立于社会的标志。
由于原始乐舞和原始巫术、祭祀等活动结合无间的缘故，人们对乐舞乃至一些乐器所抱有的神秘思想可能产生得很早。国家产生以后，统治者便会利用和加强音乐神秘观，以便操纵、控制乐舞，用来加强其统治。保存下来的一些音乐神话故事便是这样的社会背景的产物。
传说分为章节的大型乐舞《九辩》、《九歌》都是夏代国君启从天上得来的。我们从出土的战国初年（公元前5世纪）的乐器上，还能看到启的图象，似乎他那时已具有司音乐之神的地位了。
又传说黄帝得到一种长得象牛，名字叫夔的动物，便用它的皮蒙鼓，用雷兽的骨头作鼓槌，敲打起来，“声闻五百里”，黄帝用这面鼓扬威天下。夔和雷兽都是想象中的神奇动物。那时的鼓，实际上和后世一样，多蒙牛皮，但也不乏用（今称扬子鳄）皮的，因此也成了神话材料。后来，夔转化成为主管音乐的“人”（神）。蒙鼓的夔成为主管音乐的神，应该看作是支配节奏的鼓这件乐器在乐舞中具有主宰作用的曲折反映。
贾湖骨笛的出土地点，靠近传说中夏代的夏台，这告诉我们，夏代的活动区域，正是中国音乐高水平发展的地区。传说中夏代乐舞明显超越前代，是完全可以理解的。如果我们剥去上述《九辩》、《九歌》是启从天上得来的神话成份，那么，就只剩下现实中的《九辩》、《九歌》确实无比瑰丽优美这一点了。唯其如此，才足以引发人们产生“此曲只应天上有”的遐想，并由此而进一步创造出神话来。
