加州理工的前身是1891年地方商人和政治家思鲁普(Throop)在帕萨迪纳市创建的一所工艺技术职业学校，取名思鲁普大学。
1907年，学校解散了商业、师资训练和中小学等课程，只留下理工学院，提供电机、机械和土木工程学士学位课程，更形成了“小而精、小而美”的特色。
1920年，学校改名为加州理工学院，沿用至今。1907年黑尔(Hale)来到帕萨迪纳后加入了思鲁普的校董会，当时美国的科学研究还处于萌芽阶段，黑尔看到了创建一个正式的工程和自然科学教育的学院的机会。他成功吸引到私人的土地和资金赞助，给学校建立了装备良好的现代实验室设施，说服实验物理学家密立根加入该校，为将来把学校建设成为科学技术的中心奠定了基础。加州理工学院的声誉在20世纪20年代迅速提升。
1928年生物学院在出色的生物学家、染色体的发现者之一摩尔根领导下创立。
1926年航空术研究生院创立，吸引到了冯・卡门，他为喷气推进实验室的创立做出了贡献，并奠定了加州理工作为火箭科学的前沿中心之一的地位。1928年帕洛玛天文台开始建造。
20世纪90年代，加州理工学院跃居美国一流大学前列，这与该校始终遵循“学科不求过多，范围不求过宽，严格保证学生入学和学习质量”的办学方针分不开。扎扎实实为教育事业、政府机构和企业发展培养急需的具有创新才能的科学家和工程师是加州理工的宗旨。
