黑龍江沿岸最早的居民是古亞細亞人，後受通古斯人壓力，只分布於黑龍江下游，代表性民族是尼夫赫人，他們發展出發達的定居捕魚與海獸文化。在秦朝與漢朝時，遊牧民族，包括肅慎、鮮卑、蒙古、契丹、女真、鄂倫春等，都在這一帶生活。唐朝屬北方少數民族政權：室韋與靺鞨部。元代屬於遼陽等處行中書省管轄，並在黑龍江下游設置征東元帥府。明代永樂年間明廷設置奴兒干都指揮使司管轄奴兒干地區的所有軍事建制機構。都司的主要官員初為派駐數年而輪調的流官，後為當地部落領袖所世襲。僅現中國國內部分的黑龍江兩岸明廷就設置百餘衛所實行管轄。至清代，黑龍江一名成為官方名稱，為清初犯人流放之地。馮景嘗言：「今烏喇得流人，繩系頸，獸畜之。死則裸而棄諸野，烏鳶飽其肉，風沙揚其骨……」康熙時始廢流放烏拉，但雍正五年李煦又被流放至此。雍正十年在烏拉建成「望祭殿」。1683年設黑龍江將軍管轄黑龍江流域，數年後簽定的中俄《尼布楚條約》規定黑龍江兩岸皆為中國領土。
黑龍江在清代時被視為哪一種地區?