日本佐贺县人。1904年10月日本陆军士官学校毕业。1905年参加日俄战争。1916年11月陆军大学毕业，后历任步兵学校教官、关东兵站参谋、教总本部课员、第十四师团参谋、第一战车队长、东京警备司令部参谋长。1936年4月晋升中将。1937年3月任第十九师团长。1938年11月任第十二军司令官。为侵华激进分子，主张以武力征服中国。在任时，纵使部下任意屠杀无辜、破坏公私财物，强迫平民从事有关军事行动之劳役，并奴化占领区居民。1939年9月任第三军司令官。1941年3月任军事参议官。次年6月任伪满洲国建国大学副校长。抗战胜利后，被中华民国国民政府列为重要战犯。1946年9月遣返回国。1953年8月1日死亡。
佐贺县出身。本家务农，大谷平治所生的二男，再成为尾高家的养子。唐津中学校毕业，
1904年10月
陆军士官学校（16期）毕业。同期的同学有
冈村宁次、
土肥原贤二、
板垣征四郎、
安藤利吉等陆军大将。同年11月被任命为陆军少尉，任职于
步兵第13
连队。
日俄战争出征后，历任陆士学生队军官、歩兵第13连队中队长等职。
1916年11月、
日本陆军大学校（28期）毕业。
历任陆军歩兵学校教官、关东兵站参谋、教育总监部职务、教育总监部课员等职。
1923年8月就任第14师团参谋。1925年5月第1战车队长、1927年7月晋升大佐、陆士本科学生队长、1929年10月出使
英国、1931年8月
第四师团属下
和歌山歩兵第61联队长，
1932年8月进级陆军少将任职陆军兵器本厂。33年3月就任于东京警备参谋长、35年8月第2独立守备队司令官，
1936年4月升进陆军中将、任驻
朝鲜咸兴的
第十九师团长，素来积极敢为而且略微莽撞，被称为“勇足将军”，下属各部队长也是豪气者居多；
武汉会战前夕，
大本营作战科长
稻田正纯给他下了个对苏威力侦查的命令，结果就因
张鼓峰事件和
苏联打起来了。第19师团6000参战部队在苏联的密集炮火下死守
张鼓峰高地。伤亡高达20%。
斯大林想放任日军陷入中国战场，下令终止作战，还把远东苏联司令
布柳赫尔元帅以作战不力、日本间谍罪的莫须有罪名枪决掉。日本大本营遂判断，苏联无意开战，结果集中10个师团30万人攻下了
汉口。但既没有迫降中国政府，对苏武力又遭到严重削弱。尾高龟藏于11月9日任新设第12军司令官，军司令部驻
济南，统领
第五师团、第21师团、第114师团和独立混成第五旅团镇守山东。39年
诺门坎事件关东军大败，北进论破产，他与9月接替
多田骏出任
关东军第3军司令，守备
满洲东部地区。1941年3月任军事参议官，6月因年满55岁被编入
预备役。
1942年6月再次回到伪
满洲国，任满洲建国大学副总长，掌握实际权力。
日本投降的时候因为局势混乱没有被注意。
1946年9月归国。1953年68岁死去。