奉为今中国海洋大学源头的私立青岛大学创办于1924年5月，由北洋政府直系将领胶澳商埠督办、原教育总长、交通部长高恩洪牵头倡办，校址为原德军俾斯麦兵营，直系败退后由奉系山东省议长宋传典接任校长。1928年初，蒋介石的北伐革命军进抵山东，张宗昌败逃，学校在不得已中停办，南京政府遂在此基础上合并在济南停摆的省立山东大学筹建国立青岛大学，直至1930年7月重新招生。

1922年，中国收回青岛以后，将其开放为商埠，抚恤德日统治四分之一个世纪留下的满目疮痍，输入新知，佐育人才，立国安邦，成为全城人的共识。

1924年，曾任北洋政府教育总长、交通部长的直系将领高恩洪出任胶澳商埠的督办。同年5月，高恩洪联络青岛的富商巨贾和热心教育的人士在其督办行署开会，倡办私立青岛大学，高恩洪、邵筠农、宋徽五、傅炳昭、张德纯、刘子山、王子雍、宋雨亭、于耀西、孙丙炎、孙广钦等人组成校董会，孙广钦为筹备主任，邵筠农、孙丙炎为副主任。同时聘请了蔡元培、张伯苓、黄炎培为名誉理事。

讵料第二次直奉战争突起，直系败退，高恩洪去职，私立青岛大学的发展遭到挫折。后由山东省议长宋传典接任校长。学校经费无着，形势顿趋逆转。奉系军阀得势后，由张宗昌督鲁，温树德任胶澳商埠督办。温树德垂涎私立青岛大学之校舍，拟恢复兵营，继续驻兵。因有宋传典鼎力维持，学校艰难维持，但自1925年以后再未招生。

1928年初，北伐革命军进抵山东，张宗昌败逃，学校经费断绝来源，私立青岛大学不得已中停办，学生均按大学结业处理。

私立青岛大学校址，选定于德占青岛时期修建的俾斯麦兵营（现中国海洋大学鱼山校区）。

1924年6月19日，青岛总商会曾向美国大使馆请求以美国退回的庚子赔款作为私立青岛大学的创办经费，未有结果。几经周折，最终由高恩洪捐洋1万元、刘子山捐款2万元作筹备费用，由胶澳商埠督办公署、胶济铁路局拨款和青岛绅商的捐款作为学校的常年经费。

1924年10月25日，私立青岛大学举行开学典礼，这是青岛第一所由中国人设立的高等学府。

私立青岛大学延聘教师讲究，师资来源之一为国内名牌高校毕业的学生，如北京大学、燕京大学、齐鲁大学等，尤以北大毕业生居多；二为高薪聘请海外归国的留学生。1925年，私立青岛大学全校教职员中留学生有11人，约占教职员总数的42%强，尤以留学美国的最多。如逻辑学教师凌道扬、外文教师凌达扬、闵星荧，学有专精、颇有名气。机构设立精干，教学和行政管理的负责人都由教师兼任，规制良好、学术氛围浓郁，学校发展蒸蒸日上，后相继设立土木工程科、机械科、矿科，并预备增设农林科、法科和文科。

青岛中外商人云集，工商业发达。学校董事会根据《大学令》确定私立青岛大学“以教授高深学术、养成硕学宏材，应国家需要为宗旨”，规划分为文、理、法、商、工、医、农林七科，最终的目标是发展成一所综合性大学，但考虑到青岛工商发展的需要， 创办之初以实用学科设置为主。先设工、商两科。1924年8月，在北京、南京、济南及青岛四地同时设考招生。学校招生，重质而不重量，首届招收工商预科学生80名，其中就包括罗荣桓元帅。