琴的来源无从稽考，不过上古时期中华文明之初的各个氏族领袖都与琴的创始传说有关，如伏羲造琴、神农造琴、唐尧造琴、黄帝造琴和虞舜造琴等传说，但无考古支持和证实，应为附会之说。甲骨文中有琴字，不过它可能从像箜篌这种中东竖琴发展而来，而箜篌最早出土样本是在新疆省且末县，可追溯到公元前400年至前200年。
关于琴的最早文字记载见于《诗经》，与琴相似的最古实物是曾侯乙墓中的筑和十弦琴。筑长度与现代琴相仿，而十弦琴长度是现代琴的一半，琴体较厚，琴面不平，无徽位。战国中期和西汉则有比现代琴短些的七弦琴出土。曾侯乙出土的十弦琴面板呈曲线，琴头微昂，腰部下凹，尾部上翘，下有一足，很像单足的夔，有礼器的象征。
先 秦
西周时的钟仪是现存记载中最早的一位专业琴人。据史料记载春秋时诸侯宫廷中都有琴家，且大多以“师“为氏，如师旷、师文、师襄和师涓等。史载他们都有高超的琴艺。而在先秦时期琴被用于伴奏和演唱，称为“弦歌”。在《诗经》等文学作品中也有大量关于琴的记载，可见当时琴已有较丰富的表现力。战国时期随着音乐的不断进步，琴乐也得到了很大地发展和普及，从而涌现了大量的琴人，如伯牙与钟子期的高山流水遇知音的精典千古传诵。而琴作为主要的乐器，被士人赋予礼制修心养性的功能和审美，所谓“君子之近琴瑟，此仪节也，非以慆心也”和“士不故不撤琴瑟”。儒学创始人孔子对琴十分推崇，能弹琴唱诗经三百首，还曾向师襄学琴，成为后世士人典范。后人附会作有《孔子读易》和《泣颜回》两琴曲。期间著名的琴人还有师旷、列子、伯牙、雍门周、孔子等。
两 汉
琴的型制于东汉晚期确定。马王堆3号汉墓出土的汉初七弦琴结构简单，音箱较小，共鸣声小，尾部为实木，面板无徽位。东汉至魏晋时期，琴在士人中非常流行。蔡邕所著《琴操》是现存介绍早期琴曲最为丰富而详尽的专注，原书已佚，经后人辑录成书，还作有琴曲5首，合称“蔡氏五弄”；又传他曾用灶余焦木制成著名的“焦尾琴”。《胡笳十八拍》相传为蔡邕女儿蔡琰作，实则《大胡笳》和《小胡笳》皆为唐人借题所作。此外还有刘向所著《说苑·琴录》，扬雄所著《琴清英》。琴曲《广陵散》也在此时广为流传。期间著名的琴人还有司马相如和恒谭等。而已知最古老的成文琴指法乐谱可追溯到汉朝。
魏 晋
战乱和纷争的魏晋时期，士族阶层出现大量不依附于朝廷的文人琴人，如“建安七子”和“竹林七贤”等，琴风盛行，他们不仅弹奏，而且创作大量琴曲。嵇康的《长清》、《短清》、《长侧》和《短侧》4首，合称“嵇氏四弄”，现存同名琴谱载于明代琴谱，可能并非原作；还著有《琴赋》、《声无哀乐论》等。期间著名的琴人还有阮瑀、嵇康、阮籍、阮咸和阮瞻等。
南北 朝
南北朝时期，君主和士人都爱好音乐和文学，文人爱琴解音，风气极盛；由于士族门阀制度对文人的限制，使得很多文人愤世嫉俗以琴书自娱。期间出现了最早的文字谱，南朝隐士丘明有文字谱《碣石调·幽兰》。期间著名的琴人还有戴颙、宗炳和柳恽等。
隋唐
隋唐时期流行燕乐歌舞，而琴风稍落。董庭兰擅弹《胡笳》等曲，流传作品有《颐真》；期间新作琴曲有《风雷引》、《昭君怨》、《离骚》、《阳关三叠》和《渔歌调》等，斫琴在唐朝也有巨大的发展，如四川雷氏家族所斫的“九霄环佩”为传世名琴，唐琴在历代都被视为稀世之宝。唐代减字谱逐渐成熟，成为了记录琴音乐主要谱式。初唐时琴也传到朝鲜和日本。期间著名琴人还有李白、白居易、韩愈、赵耶利、薛易简、陈康士和陈拙等。
唐琴尤其是盛唐之琴，造型肥而浑圆。现存的唐琴大部分常在龙池、凤沼的面板上贴有两块小桐木，作为假纳音，直至明代初期，仍有制琴家采用这种方法。唐琴的断纹以蛇腹断为多，也有冰纹断、流水断等。其表面漆灰则有墨、栗壳色两种，有朱红漆者皆为后人修补时所加，灰胎皆为纯鹿角灰，用麻布自下而上包裹琴背两侧直至面板边际，以防止上下板开胶。这些琴的边长皆在120至125厘米之间。
宋 元
由于宋朝行使抑武扬文的政策，自宋太宗起，两宋期间自帝王至朝野上下都十分好琴，无不以能琴为荣，达到历代好琴的顶峰。宋元时期，琴开始出现明确的流派传承。第1个古琴流派浙派出现于南宋晚期，代表琴家有郭沔等。南宋姜夔作琴歌《古怨》，是现存最早的琴歌。期间著名琴人有范仲淹、欧阳修、苏轼、夷中、知白、义海、则全、倪云林、耶律楚材和苗实等。宋季金元时期，琴已在契丹族、女真族、蒙古贵族的文人间广为流传。
宋代的古琴发生变化，全长128厘米，肩宽25厘米，琴身扁而长大，尺寸大于传世唐琴。为北宋琴主要风格之一。南宋，除仿古之作外，体形则逐渐扁平狭小，尤其是仲尼式古琴，呈耸而狭之状，为南宋制琴的主要风格。宋人制琴以桐面梓底或松杉面底为主要制琴材料。断纹有蛇腹断、冰纹断、流水断等，牛毛断则鲜见。灰胎仍以鹿角灰为主，也有用麻布打底者，但不多见。北宋晚期还出现了八宝灰（即将金银珠翠珊瑚等碾碎混入鹿角灰共用）的用法。宋代是唐以后制琴史上的一个重要阶段，官方甚至设局制琴，即所谓“官琴”。
元代制琴是宋、明之间的过渡期制品，由于历时比较短，现存的实物也比较少。
明清
明清时期，流派纷呈，大量刊印琴谱，现存第一部减字谱《神奇秘谱》保存了众多古曲。清朝后期，琴艺术相对衰落。期间著名的琴人还有汪芝、蒋克谦、杨抡、严澄、徐常遇和干隆等。
明代造琴之多盛况空前，不论皇帝亲王还是官宦之家，好琴者甚多。其宗室制琴就有宁王、衡王、益王、潞王四大名家。四王之中惟潞王造琴最多，制作始于崇祯年间，据传达四五百张之多，且式样尺寸一致，均按年份次序编号刻款于腹内；琴背刻有琴名“中和”，敬一主人题 “仰长江水”诗文以及“潞国世传”大印一方，皆用八宝漆灰。
近代
清末至1950年代，全国能琴者约100余人。1920年代在苏州、上海一带成立的今虞琴社以及编印的《今虞》琴刊是当时惟一的盛事。1950年代至1960年代间，查阜西带领调查小组在中国琴人聚集的地区进行了普查，造访多位琴人，收集文字及录音资料，整理出版《存见古琴曲谱辑览》、《琴曲集成》等书，为古琴艺术的复兴奠定了基础。唐健垣编有《琴府》一书，其中一册涵盖了20世纪70年代港澳台的琴人的状态。古琴逐渐纳入音乐专业教育体系，管平湖、查阜西、吴景略、顾梅羹、张子谦、卫仲乐等在北京、上海等地研究、传授琴艺。琴家们除了恢复古曲之外，也尝试创作新曲。
民国时琴随文人出洋而流传到东南亚和欧美澳洲，尤其是在改革开放后大规模华人在海外的情况下，迄今在马来西亚、新加坡、美国、加拿大、德国、英国、荷兰和瑞典等都有琴师和琴社。
现代
由于古琴及其所象征传文化思想的式微，2003年11月7日，古琴艺术被联合国教科文组织列入世界第2批人类非物质文化遗产代表作名录。2006年5月20日，中华人民共和国国务院将古琴列入第1批国家级非物质文化遗产名录，划分在“民间音乐”类，编号Ⅱ—34。
