鱼俱罗,冯翊下邽(今陕西渭南市)人。身高八尺,臂力过人,声大如雷,百步之外都能听到他的声音。及成年,为亲卫,累迁大都督,从晋王杨广平陈,拜开府。开皇十年(590),江南吴郡(今苏州)人沈玄忄会、高智慧叛乱反隋,杨素领兵讨伐时,令鱼俱罗同行。鱼俱罗作战勇猛,屡立战功,升上开府,封高唐县公,出任叠州(今甘肃迭部县)总管。后因母丧还乡服孝。开皇十八年(598),杨素领兵出灵州道进击突厥,又邀他同行。及遇敌军,他骑马奔出,嗔目大呼,气势逼人,令突厥兵闻风丧胆,撤离隋边境。回师后,他进位柱国,拜为叠州(今内蒙古杭锦后旗)总管。
鱼俱罗之弟鱼赞,在杨广即位前就追随左右,累迁大都督。杨广即位后,拜他为车骑将军。鱼赞秉性残暴,常侍宠而滥施酷刑,-部下。他的手下人稍有不中其意者,必遭酷刑。一次,他令手下给他烤肉吃,觉得肉烤的不称心,便用铁筷子刺进烤肉人的眼睛里。又有一次,他令佣人给他温酒,稍不适口,便当即割下温酒人的舌头。鱼赞的凶残闻名遐迩。炀帝念其早年跟随自己有功,不忍杀他,便对左右说:“弟即如此,兄亦可知。”【注:见《北史》卷七十八】招其兄鱼俱罗责问,并将鱼赞下入大狱,让鱼赞自选死刑。鱼赞羞辱难当,饮药而死。炀帝担心鱼俱罗因此而存异志,酿成祸患,便将鱼俱罗接连转任为安州(今湖北安陆县)刺史和赵郡(河北赵县)太守。后因与将军梁伯隐有交情,往来甚密,想以郡中宝物献于炀帝,被御史弹劾,炀帝随将二人一起除名。
不久,炀帝又重新起用鱼俱罗,命他率蜀郡都尉殷钟葵平定越峻(今四川越西)飞山蛮的叛乱。大业九年(613),炀帝重征高丽。命鱼俱罗为碣石道将军随征。此时,江南人朱燮、管崇等推刘元进为天子举兵反隋。隋炀帝派将军吐万绪、鱼俱罗讨伐叛军。但连年不克。时值河南一带闹饥荒,鱼俱罗见百姓思乱,便用船运大米到东都去卖。牟取不少钱资。炀帝闻知,遣大理司直梁敬真前去调查。梁敬真回奏鱼俱罗有败绩,于是隋炀帝下令斩鱼俱罗于东都。