明朝上斜街曾称西斜街。清代分上下斜街。上斜街又分上斜胡同，路面较宽，西高东低。早年为河流故道。

该街有三忠祠，明代天启四年（1624）敕建。祭祀三位山西省抗清官员：沁水张铨、襄陵高邦佐、大同何廷櫆，故名山右三忠祠（山左为山东省，山右为山西省）。清乾隆年间重修，道光时辟为山西会馆。该街广东番禺会馆是清代爱国诗人龚自珍和维新派领袖康有为住处。东莞新馆是清初年羹尧生活过的地方。该街二○四中学是河南会馆。这里还有清诗人查慎行、王楼村、顾嗣立以及民族英雄林则徐故居。明清时这里北临护城河是观看洗象的最佳处。