学院办学源头可追溯到1950年2月成立的中央税务学校华东分校。1952年12月与华东粮食干部学校合并为华东财政学校，是按大专院校模式建制来进行建设的。1956年4月华东财政学校更名为财政部上海财政干部学校。1958年3月下放给上海市委领导，与上海市的第一商业局、第二商业局、税务局、外贸局、人民银行等干部学校以及上海市商业职工学校合并为上海市财政贸易干部学校。文革中迁到奉贤海边并改名为上海市财贸五七干校，后停办，1978年10月上海市财政贸易干部学校恢复。

1983年8月上海市财政贸易干部学校成立上海市财贸管理干部学院，并设中共上海市财贸党校。1994年10月与市商业一局职工大学、市粮食局职工大学、市供销社职工大学合并，并筹建上海市商业高等职业技术学校；同时保留上海市财贸管理干部学院建制。

1998年是学院发展的转折之一，当年3月上海商业职业技术学院获批成立，也标志着学院正式进入了普通高校的序列。

2004年9月学院再次迎来转折点，上海商业职业技术学院改为上海商学院经市人民政府批准，从成人高校到公办普通本科转变仅用了6年时间，这也成为当时我国晋级最成功的公办本科。

商科类财经院校的性质，又以上海这个金字招牌加持，学院获得了更大的关注和发展空间；也成为小而精的高校，先后与复旦大学、江西财经大学、纽约金融学院等院校展开了深层次的合作，2018年6月首批入选上海高等学校一流本科建设引领计划；作为新兴院校，它的发展也备受关注，此前就有与上海对外经大学合并的消息出来。