行省的主要殖民地有位于现今克桑腾（
英语：Xanten）的维提拉堡（Castra Vetera）和克罗尼亚·乌尔比亚·特莱亚纳（Colonia Ulpia Traiana）、位于现今
海尔伦的哥里欧韦林（Coriovallum）、位于现今
莱茵河畔阿尔芬的阿尔比安那（Albaniana）、位于现今卡特韦克的卢格杜努姆巴塔沃鲁姆（
英语：Lugdunum Batavorum）、位于现今福尔堡（Voorburg）的科林哈德良（
英语：Forum Hadriani）、位于现今
奈梅亨的乌尔皮亚-瑙维欧玛古斯-巴塔沃卢姆（Ulpia Noviomagus Batavorum）、位于现今乌得勒支的特莱尔滕（Traiectum）、位于现今
通赫伦的阿图图卡·通古伦（Atuatuca Tungrorum）、位于现今
波恩的
博纳（Bona）和位于现今
科隆的行省首府克劳蒂亚·阿格里皮娜的殖民地（
英语：Colonia Claudia Ara Agrippinensium）。
下日耳曼尼亚有数支军团部署，主要的有第一米内瓦军团（
英语：Legio I Minervia）和第三十胜利乌尔比亚军团（
英语：Legio XXX Ulpia Victrix）。罗马海军的日耳曼舰队负责巡逻的莱茵河和
北海海岸，舰队以维提拉堡（Castra Vetera）作基地，后来则以科隆尼亚‧阿格里皮内西姆（Colonia Agrippinensis）作基地。
下日耳曼尼亚的民众与罗马军队的首次对抗是发生于
凯撒在
高卢战争中作战期间。前57年，凯撒入侵该地区并在接着三年间消灭了数个部落，包括厄勃隆尼斯（
英语：Eburones）和门奈比人（
英语：Menapii），他们被凯撒称为日耳曼（Germanic），但他们可能是凯尔特人或至少是凯尔特日耳曼人。日耳曼在罗马时代影响力增加，导致同化所有在该地区的凯尔特民族都被同化。
约于前50年，下日耳曼尼亚就被罗马殖民并且是在90年建立的罗马帝国行省
比利时高卢的最早一部分，后来才变成该撒行省（
英语：Imperial province）。下日耳曼尼亚位于上日耳曼行省（
英语：Germania Superior）的北部，统称
日耳曼尼亚。“Inferior”是指行省所在的下游位置。