东汉永建四年（129年），小昆山地区属吴郡。

梁天监六年（507年），从吴郡分出信义郡，小昆山地区隶属信义郡。

梁大同元年（535年），析信义县设昆山县，本集镇为县治所在地。

隋开皇九年（589年），昆山县并入常熟县。开皇十八年（598年），复置昆山县，隶苏州。

唐天宝十载（751年），吴郡太守赵居贞奏割昆山南境、嘉兴东境、海盐北境等地域置华亭县，小昆山地区属华亭县。

元至元十四年（1277年），升华亭县为府，隶嘉兴路；翌年，易名松江府，复置华亭县。

明代，小昆山地区属修竹乡4l、42保。

清顺治十三年（1656年），析华亭县之枫泾、胥浦2乡及仙山、华亭、集贤、修竹4乡之半，置娄县，小昆山隶娄县。

民国元年（1912年），废松江府，娄县并入华亭县，设小昆山乡。

民国三年（1914年），小昆山、钱河两乡改设办事处，同年4月，华亭县改名松江县。

民国十八年（1929年）置区，小昆山乡与钱河乡合并，建制称为松江县第九区。

民国二十三年（1934年），第九区与第八区（天马山）合并为第四区。

民国二十七年（1938年）8月，复置小昆山乡。

民国29年乡升格为区。

民国三十一年（1942年），天马山区并入小昆山区，置松江特别区第三区。

民国三十三年（1944年），第三区改名天昆区。“天昆区”之名初见于史。

民国三十六年（1947年）4月，天昆、枫泾两区合并，称天枫区。天枫区分设钱河乡、昆冈乡。

民国三十七年，撤天枫区，钱河乡并入昆冈乡。“昆冈乡”之名初见于史。

1949年5月13日小昆山解放。5月20日，松江县设第五乡镇联合办事处，辖天马、昆冈、古松三乡镇。同年8月撤销“五联办”，复置天昆区。

1952年，恢复江苏省建制，松江县隶属江苏省苏州专区。

1957年8月撤区并乡，小昆山地区划入天马乡。

1958年3月，松江县属苏州专区。11月划入上海市。

1958年9月15日政社合一，成立天马人民公社，辖区不变。同年10月18日，改称英雄人民公社，实行营建制；全社21个高级社和天马山、小昆山2个主要集镇合并成12个营87个连部241个排和694个班。

1978年3月，从天马公社划出1 1个生产大队、1个小昆山集镇，建立昆冈人民公社。从古松公社划出7个大队、天马公社划出1个大队，建立大港人民公社。

1984年2月，政社分设，恢复昆冈乡、大港乡建制。

1993年7月，撤乡建镇，建小昆山镇。

1994年2月，撤乡建镇，建大港镇。

1998年7月，松江撤县建区，小昆山镇、大港镇隶属松江区。

2001年1月，撤销小昆山镇、大港镇，建立小昆山镇和大昆工业园区。

2002年6月，撤小昆山镇，建立松江科技园区。

2003年9月，撤大昆工业园区机构，大昆工业园区原区域和行政归属松江科技园区。

2007年7月，恢复小昆山镇行政建制。