荀羡出身魏晋名门“
颍川荀氏”，是金紫光禄大夫
荀崧的儿子。荀羡清和有准，才年七岁，遇
苏峻反叛，随父在石头城，
苏峻甚相喜爱，常置膝上。荀羡耳语其母说：“得一利刀子，足以杀贼。”母掩其口说：“勿妄言！”荀羡十五岁时，将迎娶晋元帝
司马睿之女
寻阳公主，但荀羡却不想与皇室结姻亲，竟出奔远走。但终被监察的官员追还，被逼成婚，并拜驸马都尉。成年后，与王洽齐名，并与
刘惔、
王濛及
殷浩交好。
永和四年（348年），扬州刺史
殷浩以荀羡的良好名声，擢升荀羡为建威将军、吴国内史，与
王羲之作为党羽，共同抗衡
桓温。
永和五年（349年）十二月，当时兼领徐州刺史的
褚裒逝世，殷浩以他有能干的名声，担任北中郎将、徐州刺史、假节、监徐、兖二州及扬州之晋陵诸军事，镇守京口（今江苏镇江）。当时荀羡以二十八岁（《中兴书》亦言羡二十八为徐兖二州。《
南史·谢澹传》又作二十七。《御览》引《晋中兴书》作时年二十）之龄担当此重任，亦是东晋以来最年轻担任一州刺史的人。荀羡到任后，便派徐、兖二州兵让参军郑袭守戍淮阴。
永和六年（350年），荀羡入朝，当时领司徒
蔡谟三年以来坚拒接受司徒一职，终被弹劾，蔡谟亦到廷尉等待判罪。当时殷浩打算加蔡谟死刑，并询问荀羡意见。荀羡说：“蔡公一旦遭遇不测，明天就一定会出现
齐桓公、
晋文公那样举兵问罪的行动（指桓温借故称兵犯阙）。”殷浩听后，才打消念头。
永和八年（352年），
殷浩准备北伐，以荀羡为督统，打算让他与安西将军
谢尚两路北上。三月命荀羡移镇淮阴，荀羡于是在东阳石鳖进行屯田。不久又获加监青州诸军事，加领兖州刺史，再移镇下邳（今江苏邳州市）。
永和十一年（355年），于永和七年（351年）以青州内附东晋的前燕
段龛写信给已于三年前称帝的
慕容俊，指责他称帝叛晋的行为。慕容俊怒而派兵攻打段龛，并于次年击败段龛，逼使他退守广固，并派人向东晋求救。荀羡于是奉诏领兵北上救援，但到琅邪郡时因畏惧强悍的前燕军队而不敢前进。当时前燕将领王腾及赵盘正在进攻侨置于琅邪的鄄城郡，荀羡因而转攻王腾根据地阳都（今山东省沂南县），并擒杀王腾。不久段龛投降前燕，荀羡退还下邳，只留兵将驻守琅邪郡和泰山郡。同时，慕容兰领数万人据有卞城（今山东省泗水县），成为一大边患。荀羡于是领兵到东阿讨伐，并阵斩慕容兰。
荀羡担任徐州刺史时，正值后赵
石虎逝世，诸子争位的北方混乱，荀羡在任内则招纳并安抚投降的北方人，很得众心。
升平二年（358年），荀羡患病，但仍领兵讨伐并生擒前燕泰山太守
贾坚，但不久便败于前燕将领悦明，及后因病重而征还。
升平二年（358年），荀羡逝世，享年三十八岁。朝廷追赠骠骑将军。荀羡死后，晋穆帝感叹道：“荀令则、王敬和（
王洽）相继凋落，股肱腹心将复寄谁乎。”
荀羡二十八岁（一作二十七、二十）时，便担任徐州刺史，镇守京口，是
东晋建立以来最年轻担任一州刺史的人。之后，他北攻阳都，并擒杀前燕将领王腾。后又阵斩前燕将领
慕容兰。
升平二年（358年），荀羡带病讨伐，生擒前燕泰山太守
贾坚。
褚裒：“荀生资逸群之气，将有冲天之举，诸君宜善事之。”
司马聃：“荀令则、王敬和相继凋落，股肱腹心将复谁寄乎！”
谢澹：“昔荀中郎年二十七为北府都督，卿比之已为老矣。”
田余庆：①“桓温在荆的二十余年中，先后居徐州之任者为褚裒、荀羡、郗昙、范汪、庾希、郗愔，他们都出自高门名士，各有背景，不易屈服。”②“徐、兖自郗鉴以来，一直是卫戍京师的重镇，褚裒以都督徐、兖而为征北，是集卫戍与北伐二任于一身。褚裒以后，终永和之世，居徐、兖者还有荀羡、郗昙，人物轻重虽有不同，但都忠于朝廷，作用与褚裒大体一致。”