位于新街口地区东南部。东西走向，东起光泽胡同，西至新街口北大街。全长260米，均宽5米。原向东不通行，胡同短小，故清代称半截胡同。清末，胡同向东延至光泽胡同，东西始能通行。1911年后为别于板桥二条北侧的半截胡同，分别改称为大半截胡同、小半截胡同。南边的胡同规模较大，称大半截胡同；北边的称小半截胡同。
小半截胡同位于新街口地区东北部。东西走向，东不通行，西至新街口北大街。全长约90米，均宽2米。因胡同短小，东不通行，故清代称半截胡同。1911年后为别于新街口东街北侧的半截胡同，分别改称大、小半截胡同，此胡同在北且规模较小，故称小半截胡同。
说起这胡同名，北京除了这处的大半截胡同、小半截胡同，还有南半截胡同、北半截胡同。
半截胡同的“半截”，大家容易理解，大体说这胡同是“半截”的。
但南半截胡同、北半截胡同，据说是“绊脚”的谐音，原为“绊脚胡同”。
