谭友林出生于1916年，湖北江陵人。1930年，14岁的谭友林参加了红军，参加红军之后，他前往湖北石首洪湖军校学习，后担任了洪湖苏区警卫营通讯员、宣传员以及红3军军部警卫员等职务，投身洪湖根据地的建设与巩固当中。
1934年，谭友林调任红3军政治部青年干事，开始从事青年与宣传方面的工作，期间，他积极扩红，做好宣传工作，为苏区根据地的发展壮大贡献了一份力量。1935年，谭友林担任了红二军团红五师政委，并跟随红二军团与红六军团踏上了长征之路。
红二方面军成立之后，谭友林被调到红三十二军，此后他继续北上，于1936年10月取得长征的胜利。长征胜利后，谭友林进入抗日军政大学学习，抗日战争全面爆发后，他被派到南方，进入新四军战斗。皖南事变后，谭友林改任新四军第四师十二旅旅长，率部参加了豫皖苏根据地的反“扫荡”以及反顽作战，为抗战的胜利作出了积极的贡献。
解放战争时期，谭友林前往东北，担任了东北野战军第12纵队34师政委、49军145师政委等职务，参与指挥了东北的剿匪以及解放东北的一系列作战，不仅歼灭了大量敌人，而且也使我军有了一个更加稳定的后方。
1949年4月，谭友林晋升为四野39军副军长，此后他跟随四野进军中南，新中国成立后，谭友林继续担任39军副军长，抗美援朝爆发后，39军是第一批跨过鸭绿江进入朝鲜作战的志愿军部队，谭友林也随军进入朝鲜战场，投身保家卫国的战斗当中。
在朝鲜期间，谭友林参与指挥了著名的云山战役，利用美军不习惯夜战的缺点，在渚仁桥地区几乎全歼了美军王牌骑兵第一师。除了毙俘敌4000多人之外，还缴获飞机4架、击落飞机3架，击毁与缴获坦克28辆，各种火炮119门以及大量枪支弹药，打得美军落花流水。
1951年，谭友林返回国内，担任了东北军区公安部队副司令员，1955年，东北军区改为沈阳军区，他担任了沈阳军区公安部队司令员。也是这一年，39岁的谭友林被授予少将军衔，成为开国少将。
值得一提的是，在授衔之后不久，总政治部主任罗荣桓元帅专门找到谭友林谈话，对他说：“友林同志，你的军衔授低了。凭资历、职务，与你同期的战友授的都是中将军衔。我向你承认错误，我们的工作做得不够细致。”此后，原红二方面军的八位老同志还专门联名写信，希望能授予谭友林中将军衔，但都被谭友林拒绝。
1957年，谭友林进入高等军事学院高级指挥系学习，毕业后，他担任了工程兵副司令员兼工程兵特种工程指挥部司令员。在1966年开始的那段特殊历史时期中，谭友林也受到迫害，不仅被暂停了工作，而且还被关押起来。造反派用各种手段批斗他，还把他打成重伤，留下了终身残疾。
1972年，在不断被迫害下，谭友林病情加重，不久后，在总理的关怀下，他返回北京治病，直到1975年才重新复出。复出之后，谭友林担任了新疆军区副司令员、乌鲁木齐军区副政委以及政委、兰州军区政委等职务，继续投身我军的正规化与现代化建设，并作出了突出贡献。晚年的谭友林主要生活在北京，于2006年因病去世，享年90岁。
