咸和四年（329年）前后，王羲之为临川太守。临川地僻民稀，远离频有战乱的长江两岸，生活相对比较平静。王羲之携母亲与妻子一同上任。他着力清理积弊，勤求民隐，为民请命，享誉一方。
晋成帝咸和九年（334），庾亮拜征西将军，王羲之守丧期满，慎重考虑后入庾亮幕府为征西参军。
咸康二年（336年）二月，叔父王彬在建康逝世。王羲之请假料理丧葬事务。其间，率妻子赴广陵看望郗鉴。郗鉴与其谈及庾亮与王导不和一事，从稳定大局出发，希望羲之设法从中加以疏导，减少二人的敌意。临回武昌前王导劝羲之回建康仼职，拟上表荐他为侍中，王羲之再次谢绝，只身返回武昌幕府。
咸康八年（342年）五、六月间，王羲之接任江州刺史，扦加宁远将军武职。关于王羲之仼职江州刺史一事，有诸多说法，但任仼期很短则是共识，或者只是“推迁未拜”根本没上任。
永和七年（351年），原会稽内史王述丧母，因丁艰而去职，诏令王羲之为右军将军、会稽内史。
永和九年（353年），农历三月三日，王羲之和谢安、孙绰等四十二人在绍兴兰亭修褉（一种祓除疾病和不祥的活动）时，众人饮酒赋诗。最终二十六人留下《兰亭》诗，王羲之作四言及五言诗各一首。众人之《兰亭》诗汇成诗集，王羲之即兴挥毫为此诗集作序，记述了当时文人雅集的情景。这便是有名的《兰亭序》。
永和十一年（355年），王羲之采用令世人吃惊的做法，在父母墓前立誓，永远不再出仕。三月称病弃官，辞去会稽内史。[16]王羲之辞官，在琅邪王氏家族中没有先例，在朝廷也引起不小震动。一时者老士庶，纷纷劝慰，但羲之心志已决。以后有人提起他再出山之事，“朝廷以其誓苦，亦不复徴之”。王羲之彻底告别了官宦生涯。
辞官之后，王羲之“携子王操之由无锡徙居绍兴金庭。建书楼，植桑果，教子弟，赋诗文，作书画，以放鹅弋钓为娱”，“暹游东中诸郡，穷诸名山，泛沧海”。他和许询、支遁等人，开始遍游剡地山水，最远处到了临海郡（郡治在今浙冮临海县东南）。可能还曾到过永嘉郡（郡治在今浙江温州市北），此地至今尚有很多与王羲之有关的名胜古迹。王羲之陶醉其间，常自叹“我卒当以乐死”（《晋书·王羲之传》）。此后几年，王羲之过的是种桑植树、教养儿孙的归隐生活。
王羲之定居金庭后，书法兴起。其后裔多擅书画，作品挂满厅堂、书房，人称“华院画堂”。后人定村名为“华堂”，沿称至今。
据今嵊州所存《金庭王氏族谱》记载，王羲之晩年，永和十一年（355年）之后移居剡县。不幸的是，王羲之的孙女，延期四岁女儿夭折，不到十天，官奴的新生小女儿玉润又相继死去。王羲之哀痛异常。
王羲之虽然对隐遁优游的生活颇为满意，但不仕乃无奈的选择。不得已辞官后，他仍对国家大事和朝臣进退关注有加，难以忘怀。东晋升平二年（358年），谢万被仼命为西中郎将，监司、豫、冀、并四州诸军事，豫州刺史。王羲之了解谢万不是将帅之才，便与桓温一笺。又直接写信与谢万说，告诫谢万带兵的要领，要与军土共甘苦，不可过度注重个人享受。但是谢万没有听王羲之劝告致败，被废为庶人。