鲁湘云1926年12月出生在浏阳县北盛镇斜江湾村的一个贫苦农民家庭。幼年丧父,无法生活,由姐姐背着沿门乞讨,受尽了苦难。1947年10月参加人民解放军。1948年3月加入中国共产党。

1948年7月,参加辽西大会战,在攻打锦州战斗中,任突击班的班长,带领全班勇猛冲杀,歼敌百余名,俘敌80余名,立大功一次,获勇敢者奖章一枚。1949年春,随部队入关,攻打天津,渡江南下,他发扬阶级友爱精神,行军时帮助体弱战士扛枪、背背包,宿营时,查铺查哨,全排团结得像一个人一样。在江西宜春休整时,他受到嘉奖,立大功一次,获艰苦奋斗奖章一枚。
1949年10月,部队攻打广州黄河车站,他率全排打退了敌人8次反扑,有力地保证了兄弟部队围歼敌人一个团的胜利,再次受到记功奖励。

1950年初,参加解放海南岛。在海上与敌舰激战一个多小时,凭着英勇机智,用木船和轻武器战胜了舰坚炮利的美式军舰,在解放军历史上创造了木船打兵舰的奇迹,上级授予这条木船“英雄船”称号,并给他记一大功,并被授予“战斗英雄”的称号。1953年从步兵学校毕业后回海南岛工作。先后任副连长、连长、副营长、团参谋长、作训股长、作训科副科长、副团长、团长等职,坚持保卫和建设宝岛20年。

1973年3月调任湖南湘潭军分区副参谋长。1979年任湘潭军分区师职顾问。1982年5月离职休养。