周属南慎部。

唐属黑水都督府。

辽属东京道女真五国部。

金属上京胡里改路。

元属辽阳行省水达达路。

明永乐七年（1409年）设弗提卫。明王朝建立后，为了进一步加强边防，于奴儿干都司建立前后，又继续增设卫所。其中弗提卫就是永乐七年（1409年）五月乙酉设置，以部人塔失为指挥，归奴尔干都司管辖，卫所建在今大屯古城。

清光绪八年（1882年）设富克锦协领。吉林将军铭安因赫哲兵调赴甘肃有战功，奏设富克锦协领，归三姓（今依兰县）副都统管辖，协领衙门设在嘎尔当屯。

光绪三十二年（1906年）农历十月初四，于拉哈苏苏（今同江县）置临江州。临江州官员吴士潋派周霞村为设治员，来富克锦建立设治局。富克锦设治局归临江州管辖。

光绪三十四年（1908年）改富克锦设治局为富克锦分防巡检，周霞村为分防巡检，亦归临江州管辖。

清宣统元年（1909年）农历四月十五，以富克锦分防巡检升改富锦县，属吉林省临江府（今同江县）。八月甲申，于依兰府置东北路道，富锦县直属东北路道。民国二年（1913年）富锦县属依兰道统辖。民国十七年（1928年）废依兰道，富锦县直属于吉林省。1932年6月，日军侵占富锦。

1945年8月12日，由苏联红军与东北抗日联军共同解放富锦，是年8月13日至10月为无政府时期。其间，8月13日，由当地伪官吏、乡绅组织富锦县临时治安维持会。9月12日，由一些曾失掉中国共产党组织关系的抗联战士建立富锦县解放委员会（10月初改为富锦民主同盟）。10月8日，成立富锦国民党部。10月末，中共党员杨振魁等来富锦接管富锦县工作。11月末，中共党员孙为等由延安来富锦成立富锦地区专员公署。

1946年1月，合江省于富锦县城设立富锦专区，管辖富锦等6县。1946年6月1日，撤销富锦专区，同时合江省政府决定，将西南部的集贤、三道岗地区划出，设置集贤县。1947年11月，将西部的新城区划归桦川县管辖。

1949年1月6日，合江省政府令，将同江县并入富锦县，并划为同江区。1949年5月，合江省并入松江省，富锦县隶属松江省。1949年6月23日，东北行政委员会批准，将绥滨县并入富锦县。1954年8月，松、黑两省合并为黑龙江省，富锦县隶属黑龙江省合江专区。1959年4月24日，省人民委员会决定，将富锦县同江区划归抚远县管辖。1963年12月30日，国务院批准，将松花江北绥滨地区划出，恢复绥滨县。1964年3月，富锦、绥滨两县正式分开。1985年1月，合江地区与佳木斯市合并为佳木斯市，富锦县隶属佳木斯市。

1988年8月30日，国务院批准富锦撤县建市，为省辖县级市和财政计划单列市，被民政部授予地级市经济管理权限。

1989年，省委、省政府决定富锦市由佳木斯市代管省辖。