太平沟乡，因乡政府驻地太平沟村得名。太平沟一带，清代属黑龙江副都统辖区，盛产黄金，是漠河金矿局所属观音山金矿所在地。

1900年（清光绪二十六年），沙俄入侵，金矿被强占，直至1906年（清光绪三十二年）才收回，划归兴东道管辖。

1912年中华民国成立，萝北设县后，1921年划为第七区，驻太平沟。

1929年撤区改镇，设太平镇。东北沦陷后，初为太平保，1939年改设富源村。

1945年“九三”抗日战争胜利后，设置镇东区（含太平沟），1950年9月改为第三区。

1953年改设兴东村（辖兴东屯、太平沟屯、金满屯）。

1956年设置兴东乡。

1958年10月，县场“政企合一”，为第一作业区（即第一分场）。

1960年4月，第一分场撤销，划归县林业局。

1965年成立兴东公社，1966年改为太平沟公社。

1984年3月，改为太平沟乡。