小夜曲源于中世纪欧洲游吟骑士在恋人窗前弹唱的一种爱情歌曲。最初流行于西班牙、意大利等国，常在夜间露天由男声独唱，用吉他或曼陀林伴奏。开始，多是年轻小伙子于傍晚时在心爱的姑娘窗前演唱的一种小型恋歌。后来，由于有的人不会唱或唱不好，便请带有弹拨乐器的小乐队为他演奏或伴奏，以便用悠扬动听的歌声来博得姑娘的欢心。因此，小夜曲便逐渐发展成为一种曲调优美，词意动人、形式活泼、演唱自如、充满浪漫色彩和欢乐情绪的小型声乐曲及器乐曲。后来，欧洲一些作曲家采用小夜曲的体裁创作小型器乐曲和歌曲，以及多乐章的中型器乐作品，它从家院窗前搬上了舞台，如莫扎特的歌剧《唐璜》等。小夜曲的名称和它最初的形成，是18世纪爱尔兰作曲家、钢琴家约翰·菲尔德首先发现和采用的。到19世纪，小夜曲仍是一种篇幅不大的单乐章乐曲。波兰钢琴家肖邦写了20首钢琴小夜曲，使这种音乐体裁有了更大的发展。