口琴源于中国，大约数千年前，被成为笙“Sheng”。这种由竹簧片发声的乐器很快风靡亚洲，在传统音乐中占据重要地位。18世纪后期，Sheng传入欧洲，很快在音乐界流行开来。19世纪，欧洲乐匠们开始尝试用金属簧片来代替Sheng中的木质簧片。大约在1820年，一名叫Christian Friedrich Buschmann的年轻乐匠打造出了第一支采用金属簧片的口琴(当时称为Aura)。这种Aura以它独特的魅力而受到音乐家们的广泛好评;但当时的Aura却只有吹音，而没有吸音。

大约在1825年，欧洲人Richter发明了一种乐器，成为了现代口琴的雏形。该乐器拥有10个吹孔和两张簧板，每张簧板上由10片簧片。这样，在每个吹孔上通过吹气和吸气都可以发音，Richter所选择的这些音符也就是现在全音阶口琴(Diatonic Harmonica)的音阶排列，有时也叫做标准Richter音阶。

口琴的大量生产是在1829年的Vienna，很快在其他城市也出现了口琴制造厂。在德国小镇Trossingen，钟表匠Christian Messner和他的表兄Christian Weiss利用业余时间来制造口琴，但很快他们的口琴生意便红火了起来。几年后，当地另一位钟表匠Matthias Hohner开始拜访 Messner和Weiss，并学到了口琴的制作工艺，同时也开始了自己口琴生意。

显然，Matthias Hohner并不是一名很棒的口琴手，然后他却是一位出色的商人。在市场是，Matthias击败许多竞争者，并且开始向美国出口口琴，很快美国便成了他最大的市场。1900年，Matthias将生意移交给了5个儿子管理。

在美国，口琴作为蓝调乐器而文明于世。二十世纪30年代以及40年代前期的代表为John Lee "Sonny Boy" Williamson。二次世界大战之后，Chicago成为蓝调音乐的中心，这里聚集了许多杰出乐手，如Rice Miller (Sonny Boy Williamsom II)和Little Walter。许多人一直认为Little Walter是最著名的蓝调口琴乐手。Little Walter于1968去世。

在口琴作为蓝调乐器而极度流行的同时，也有许多人通过Bob Dylan的民俗音乐开始熟悉口琴。进年来，许多杰出口琴手象Kym Wilson和Jerry Portnoy继续发展蓝调口琴风格，而其他像Howard Levy和Brendan Power则形成了一种新型且富有激情的口琴演奏风格。