小黄楼是三坊七巷内清中后期的代表建筑。史载东晋永嘉之乱,衣冠南渡,中原黄氏人入闽聚居此巷,故而得名。后有宋淳熙《三山志》记载,乾符六年,黄巢入福州,至黄璞之居,曰:‘此儒者,灭炬弗焚。’之典故,黄巷声名益显。至明万历《福州府志》,载曰:“黄巷,唐黄璞宅昔居此,故名。”