青岛栈桥始建于清光绪十八年（1892年），1892年清政府派登州总兵章高元带四营官兵驻扎青岛，为便于部队军需物资的运输，建了两座码头，其中一座就是栈桥，1893年竣工，长200米，宽10米，石基灰面，桥面两侧装有铁护栏。
光绪二十年(1894年5月29日)，直隶总督李鸿章奏折：“登州总兵章高元，承办各台基址已具，道员龚照玙又于青岛前建设大铁码头一座，现拟于铁码头后建造水雷营，紧扼口门现办烟台、胶州两海口防务，事同一律，宜各设水雷兵营，各制下雷轮船一艘。”
从李鸿章的奏折可知，在青岛的军事防御设施不是孤立进行的，而是晚清中国北方海防系统的一部分。而在胶澳建造的每座建筑也具有明确的目的性，大铁码头就是专供“下雷轮船”装卸水雷、上煤运械而建造的海军专用码头。栈桥是青岛最早的军事专用人工码头建筑。该码头原称谓很多，有海军栈桥、前海栈桥、南海栈桥、李鸿章栈桥、大码头等。另一座位于总兵衙门前方的“衙门桥”长100米，宽6米，亦称“蜗牛桥”。这两座码头都是中国工程师自己设计的，是青岛最早的码头。
青岛栈桥是当时惟一的一条海上“军火供给线”，也就是说，谁控制了栈桥，谁就控制了胶州湾。1897年，德军以演习为名，从栈桥所在的青岛湾登陆，武力占领了青岛，栈桥成为德军侵占青岛的见证。德国侵占青岛后，清政府被迫与德国签订《胶澳租借条约》后，当局开始进行新的城市规划，许多物资由海上运来。为了方便运输，德国人又对栈桥进行了改造，在桥面上铺设轨道，上面可以跑轱辘马(专门装货物的车子)。
1901年5月，将原桥北端改为石基，水泥铺面，铁护栏改为铁索护栏，在南端钢制桥架上铺设木板，并建轻便铁轨，将桥身延长到350米，仍为军用码头。1901年10月7日，小港码头建成，运输物资均由小港码头承担，栈桥的运输功能也慢慢减弱。1904年大港第一码头建成后，栈桥逐渐失去它作为码头的历史使命，开始向游人开放。1905年前后，商货运输移至青岛大港，栈桥遂成为船舶检疫、引水专用码头。
第一次世界大战期间，1914年8月27日，日本第二舰队到达青岛海域，封锁了青岛海面。日军从陆路和水路进攻青岛。当时水路方面是从崂山湾完成登陆，不过最终占领青岛后，日军也效仿德军在栈桥上举行了阅兵仪式以此证明其对青岛享有“充分主权”。
1922年12月，青岛被中国北洋政府收回后，中国水兵在此阅兵，以显示中国主权的收回。
1930年，在当时的青岛市市长沈鸿烈的主张下，决定对已成为青岛重要游览观光景点的栈桥进行全面改造。
1931年9月开工，桥南端增建半园形防波堤，堤上新建一座中国民族传统风格的双层飞檐八角亭阁，名“回澜阁”。阁顶覆以黄色琉璃瓦，四周有24根圆形亭柱。阁内为二层圆球形厅堂，中央有34级螺旋式阶梯，可回旋登上二楼。1933年4月，全部工程竣工。
飞阁回澜“回澜阁”匾额上的3个字最初是由原青岛市市长沈鸿烈题写的，这个匾额在日本第二次占领青岛期间被掠往日本，新中国成立后许多人到日本寻找这块牌匾，都没有找到。当前“回澜阁”三字为著名书法家舒同所写。
1937年7月7日，日本制造卢沟桥事变，全面侵华战争开始。1938年1月10日，大批日军从沙子口登陆再次占领青岛，次日一拨日军又开始从栈桥登陆 。一个时期，栈桥作为军用码头，不准中国人进入。
新中国成立后，人民政府多次拨款对栈桥进行维修，1985年青岛市又对栈桥进行了大规模的全面整修，将桥南端通透部分拆除重建，由34排桩改为16排桩，并新建眺望台1座，同时将桥入口处的6根挡车石柱拆除，两侧围以铁索护栏，12对欧式桥灯相峙而立，外铺花岗岩石台阶。
