“胡同”一词出现在金元时代，蒙语称村落为“霍多”或“霍敦”，转音作“胡同”，并把中原的街巷也称作“胡同”。

北京胡同的格局基本上形成于元代大都时期，东城区域内，明代命名的胡同多达131条，清代有277条。胡同的名称来源，不少反映了北京的历史，也体现了民族文化，不少胡同都有掌故和传说。

有些胡同是以人的名字命名的：如班大人胡同、马定大人胡同、无量大人胡同、遂安伯胡同。遂安伯是明代陈志的寓所，后来就作为胡同的名字了。这其中也有历史名人，如史家胡同，就是因史可法的寓所得名的。

有的是内臣官员或权贵的名字，如山老胡同，就是明代山青太监的寓所，人称山老。还有魏家胡同，是皇帝亲军金吾左卫的驻地，清代时改为魏家胡同。像大、小羊宜宾胡同是明代尚郡主的寓所，最初统称杨宜宾胡同，清乾隆年间称杨夷宾胡同，宣统时，分为两条胡同，改用现名。另外像崔府夹道，据传有姓崔的宅院。大阮府胡同有阮姓府邸，芳嘉园有方姓宅第，其主人的情况均不可考。

还有的用平民百姓的特殊身份或生理特点来命名的。如西颂年胡同，是明代妓女宋姑娘的寓所。像大、小雅宝胡同，据传是大、小哑巴住在这里，清乾隆年间称大、小哑巴胡同，后改为雅宝胡同。

有的胡同是用府邸来命名的。如同福夹道，是明代严嵩府的东墙，称东夹道。清代国舅佟国纲寓所，称佟府夹道，民国时改同福夹道。又如什锦花园，是因为胡同东段有成国公的适京花园，清乾隆时改为石景花园，宣统时始称什锦花园。