陆云字士龙。六岁就能写文章，性格清正，很有才思文理。少时与哥哥陆机齐名，虽然文章不如陆机，但持论超过陆机，人称“双陆”。年幼时吴国尚书广陵的闵鸿见后认为是奇才，说：“这个小孩若不是龙驹，也当是凤雏。”后来推举为贤良，才十六岁。
吴国被平定后，来到洛阳。陆机初次造访张华，张华问陆云在哪里。陆机说：“他有喜欢笑的毛病，未敢相见。”一会儿陆云来了。张华为人多有仪容，又喜欢用丝帛缠胡须。陆云见后大笑，不能自已。在此之前，陆云曾穿着丧服上船，在水中看到自己的影子，便大笑落水，人们打捞才得以获免。陆云与荀隐素不相识，曾在张华处相会，张华说：“今天相遇，不要老生常谈。”陆云便抬起手说：“云间陆士龙。”荀隐说：“日下荀鸣鹤。”鸣鹤是荀隐的字号。陆云又说：“已开青云见白雉，为何不拉开你的弓，搭上你的箭？”荀隐说：“本以为云龙强壮，却原来是山鹿野麋。兽小弓强，因此发射得慢。”张华捧手大笑。刺史周浚召陆云为从事，并对人说：“陆士龙是当今的颜回。”
不久以公府掾的身份当太子舍人，出京补任浚仪县令。该县居于都会要冲，实在难以治理。陆云到任后严肃恭敬，下属不能欺骗他，市场没有两样价格。有个人被杀，主犯的罪名不成立，陆云拘留死者的妻子，却不审问。十多天后放出去，暗地里让人跟随其后，并对跟随的人说：“她离开不出十里，如有男子等着跟她说话，便把他们捆缚来见。”而后果真如此。一审问这人就服罪，说：“我与这个女人私通，共同谋杀了她丈夫，听说这女的放出来，要跟她讲话，怕离县府近，让人发现，所以远远地等着她。”于是一县称颂他神明。郡守忌妒他的才能，多次谴责他，陆云便辞官。百姓追念他，绘出他的像，与县里的灶神相配享受祭祀。
不久拜为吴王司马晏的郎中令。司马晏在西园大肆营建宅第居室，陆云上书说：“我私下见世祖武皇帝临朝执政拱手缄默。训导世俗节俭，即位二十六年，没营建什么新的宫室台榭，多次发布诏书，告诫人们不要奢侈。国家的传统，务在遵奉执行，而世俗衰落，家家竞相放纵，渐成波浪，已成风气。虽有严厉的诏书屡次宣布，而奢侈的风俗却更普遍。每次看到诏书，百姓叹息。清河王从前建坟墓时，皇帝亲手写诏书要追述先帝节俭的风教，恳切的情意，传到四海。清河王奉行诏命毁掉已建成的墓宅，四海之内声望显著，众人欣欣然。我以为先帝的遗教一天天衰微，现在同国家一齐崇尚教化，追述前贤遗踪的人，的确在于殿下。首先要重视朴素，然后才可以训正四方；凡是崇饰浮丽的事，应当加以节制，然后才能对上满足天子的意愿，对下符合时人愿望。为臣我才能平凡，承蒙提拔，也想竭力效忠以报答您对我的恩惠，因此不考虑冒犯迕逆，大胆地陈述我的想法。如果我的话有可采纳的，请您三思。”
当时司马晏信任部将，让人复查各位官员的钱帛，陆云又陈说道：“谨见令书，让部将李咸、冯南、司马吴定、给使徐泰等复查各位官员的钱帛。我私下认为圣德光大，光照大国，选拔各位良材任职，百工尽业。中尉该、大农诞都清正廉洁贤淑谨慎，忠于职守，至于他们下属的各位官员，都是州、闾的耿介之士。疏漏过失虽然天天听到，而礼义大事，几乎无大错。现在李咸、冯南、吴定、徐泰这些役卒小厮，并无清正公谨之名、忠于公职之称。大臣所关涉的事，尚不详细，而让李咸等人去督察，然后才相信大臣的清廉，这既不是开国用臣之义，又伤害了殿下你推诚旷达的雅量。即使李咸等人能够尽职，有益于国，甚至功利百倍，而对于多方辅助国家的美德而言，还不如大开相信士人之门更合适。何况所增加的只是苟且安定之利，而让小人用事，大道衰微，这是我感慨的原因。我任大臣之职，职责就是献可行之策，如果有一孔之见，岂敢不尽力规劝。我私下认为应发布命令，停止复察，众事一律交付治书，就能属下大治，人人竭尽臣节了。”
入朝任尚书郎、侍御史、太子中舍人、中书侍郎，成都王司马颖上表让他当清河内史。司马颖将要征讨齐王司马礒，让陆云当前锋都督。遇司马礒被杀，转任大将军右司马。司马颖晚年政事衰减，陆云屡次以直言违背旨意。孟玖想让他父亲当邯郸县令，左长史卢志等人都阿谀听从，而陆云执意不肯，说道：“这个县都是公府掾的资格任职，哪有小黄门的父亲任此职呢？”孟玖深怀愤恨。张昌作乱，司马颖上奏让陆云当使持节、大都督、前锋将军去征讨张昌。遇上讨伐长沙王司马磖才停下来。
陆机失败后，一并逮捕了陆云。司马颖下属官员江统、蔡克、枣嵩等上疏说：“我们听说人君圣明，臣下尽职规谏，如果内心有想法，不敢不陈述。昨日听说陆机延误军期，师徒败绩，依法受刑，无人不说很恰当，这的确足以严肃三军，示威远近，所谓一人被杀，告诫了天下。又听说由于陆机图谋反叛，应该灭族，不了解事情本末的人，没有人不疑惑。在朝中封爵，与众人齐同；在街市行刑，让众人唾弃。只是用刑应怜惜，这是古人所深重的。现在你举义兵，排解国难，四海同心，云合响应，罪人的性命，悬于旬日，太平的日子，旦夕可就。陆机兄弟俩都承蒙提拔，接受重任，不可能背离无极的恩德，去投靠垂死的敌寇；离开泰山般的安定，去投靠累卵般的危险。只是因为陆机计谋肤浅，不能统领群帅，勇敢杀敌，进退之间，事情似乎可疑，所以使圣鉴未能详察事实罢了。用刑诛杀是大事，说陆机有反叛的迹象，应让王粹、牵秀考究审查此事。把事情检验明白，公布于万民，然后再对陆云等进行诛戮，也不算晚。现在的判决，实在太重，如果属实，则足以使天下心悦诚服，如果不实，必然四方离散，所以不可不详审、谨慎。我们的区区之心，不只是替陆云一个人请命，的确也是考虑到这件事有得失的关键存在，所以竭尽愚忠，以防诽谤。”司马颖未采纳。江统等人再次请求，司马颖犹豫了三天。卢志又说：“从前赵王杀中护军赵浚，赦免了他儿子赵骧，赵骧后来又进攻赵国，就是前车之鉴。”蔡克向司马颖磕头流血，说：“陆云为孟玖所恨，远近无人不知。现在如果杀了陆云，罪行不明，众人将会疑惑，我私意为您遗憾。”同僚几十人随同蔡克入谏，流着泪坚决请求，司马颖同情并有宽宥之意。孟玖扶着司马颖入内室，催他快杀陆云。陆云死时四十二岁。他有两个女儿，没有儿子。门生和旧官吏迎丧并安葬于清河，修墓立碑，四时祭祀。陆云所著的文章三百四十九篇，又撰写了《新书》十篇，都在世上流行。
当初，陆云曾经出游，想逗留寄宿在故人家里，黑夜迷了路，不知路径。忽然望见草丛中有亮光，于是向那儿走去。走到一家，便寄宿，见一个少年，风姿优美，一道谈《老子》，言辞深远。天快亮时辞去，走了十几里，到故人家，故人说这几十里内无人居住，陆云才明白。去寻找昨夜寄宿的人家，原来是王弼的坟墓。陆云本不通玄学，从此谈《老子》大有长进。
陆云的弟弟陆耽作平东祭酒，也有美名，与陆云一道被害。大将军孙惠给淮南内史朱诞的书信中说：“没想到陆家三兄弟一起在昏暗的朝代入仕，都遭残害，道业沦丧，惨痛至极，生灵涂炭难以言表。国家丧失美好的声望，悲伤的何止一人？”陆氏兄弟就是这样为乡闾所悲悼。后来东海王司马越讨伐司马颖，给天下发声讨的檄文，把他枉害陆氏兄弟也作为一条罪状。