在中国古代名目繁多的各类兵器中，刀剑的历史最为悠久，1961年从河北青龙等地商墓中出土的通鉴，经考证距今已有三千多年，而从甘肃马家窑和马厂文化遗址出土的铜刀，时间更为遥远，离现在差不多有五千年之久，是我国目前发现的最早的青铜器。

早期的刀剑由于器身尺寸都很短小（长度都在20至40厘米之间），一般只能随身携带作自卫护体之用，或有时当作日常生活用具和修理工具（主要是刀）。周代以降，剑的发展非常迅速，秦汉时期剑身的长度大多都已有一米左右，而在铸造技术、加工工艺等方面更是达到了完美的境界，这时候的剑已成为除戈、戟等长兵器以外的主要兵器。但是刀却在此时不受重视，因为在这段时期的出土文物中，刀极为罕见，直至西汉初铁制环首刀的发明才改变了这一现象。环首刀无论在器质和长度方面都能与青铜剑相媲美或者超越它。魏晋以后，刀大肆流行起来，虽然直至清代，剑作为一种常用兵器依然存在，但它的普及面已远远低于刀（而且此处所指还不包括那些属于长柄兵器的大刀，仅是指佩刀而言）。

区别刀和剑，最基本的特征是看双刃还是单刃，一般刀都是单刃，而剑是双刃，但也会出现一些特殊的例外。如从外形上看，商代的刀刀身微弯，刀尖起翘，剑身都比较直。两汉、魏晋南北时期的刀剑，器身全都是直的，入鞘后很难区分出来。隋唐以后，刀剑又逐渐恢复了商代的特点，直到现代没有再发生过新的变化。