牛津是泰晤士河谷地的主要城市，传说是古代牛群涉水而过的地方，因而取名牛津(Oxford)。1096年时有一些教学活动。12世纪前英国还没有大学，人们去法国和其他欧陆国家求学。
1167年，英法关系恶化，英国学者从巴黎大学回国，聚集于牛津，从事经院哲学的教学与研究，牛津开始迅速发展。之所以会聚集在牛津是由于当时亨利二世把他的一个官殿建在牛津，学者为取得国王的保护就来到了这里。
在中世纪，思想活跃、生活不羁、常赊欠债务的青年学生总不免与当地居民发生冲突，其中最大的一次，几百名学生被乱箭射死，结果国王出面镇压，并判市民赔偿牛津大学500年费用。1209年牛津学生与镇民又发生冲突，大学被解散(此事件导致一些师生离开牛津并建立了剑桥大学，此后，两校之间开始了相当悠久的竞争岁月)。
1214年得到特许，牛津大学恢复。
本科生必须信仰英国国教的要求于1871年废止。1920年之前，古希腊知识为必需。1960年前，则需要懂得拉丁语。女性直到1920年后才能得到牛津学位。1963年起不再实施宵禁。
