1953年，全国人民在中国共产党的领导下，经历了土地改革、抗美援朝、镇压反革命斗争等历史阶段、逐步恢复了国民经济。为了适应经济建设和法制建设的需要，根据1953年第二届全国司法会议确立 “要有计划、有重点地逐步建立健全工矿和铁路、水运等专门检察署”的决议，自1954年第四季度起，先后在北京、哈尔滨等铁路局试点，在总结经验基础上，全面建立起铁路检察院。吉林铁路局于1954年9月3日开始筹建吉林铁路运输检察院及下属各铁路分局检察分院（基层院），于1956年7月1日正式开院办案。

　　1957年6月6日，司法部向国务院提交了《关于撤销铁路、水上检察院的报告》，提出：铁路、水上运输检察院建立以来，运输系统的犯罪案件一直是不多的，去年更为减少，因而几年来运输检察院事少人多的现象很普遍。经与最高人民法院、最高人民检察院研究一致认为可以撤销铁路、水上运输检察院。其理由：1、运输系统内发生的刑事案件数量最少，因而可以不必专设运输检察院；2、运输系统内发生的案件是完全可以由地方审判机关处理的；3；为了更好地依靠当地党政领导与发挥地方检察机关的作用。至此，吉林铁路运输检察分院于1957年9月15日撤销。

　　党的十一届三中全会拨乱反正，做出了把全党工作的着重点转移到社会主义现代化建设上来的重大决策。为了适应发展社会主义民主，健全社会主义法制和进一步维护安定团结、加快经济建设步伐的需要，1979年7月，全国五届人大二次会议通过了《中华人民共和国人民检察院组织法》。其中第二条规定，关于专门人民检察院包括：军事检察院、铁路运输检察院、水上运输检察院、其他专门检察院。同年9月，铁道部党组召开全路法院、检察院筹备工作电话会议，并于1980年2月28日下发《关于成立全国铁路运输法院、全国铁路运输检察院筹备组的通知》，全国铁路系统建立了三级铁路运输检察院筹备组。

　　铁路运输检察院重建是以铁道部、铁路局、铁路分局三级设置。吉林铁路运输检察院与通化铁路运输检察院、图们铁路运输检察院（铁路分局）同属全国铁路运输检察院吉林分院（铁路局）管辖。

　　吉林铁路运输检察院筹备工作分为三个阶段：

　　1980年10月以前为第一阶段。主要按照定编选配干部和购置办公用品。办公地点为吉林铁路分局机关和第二招待所（部分房间）。经过组织部门考核，干部选配来源：一是公安干警；二是铁路局下属机关、铁路分局基层站段党群政工干部，学校教师；三是从工人中经政治审查和文化考核选拔。

　　1980年10月至1982年3月为第二阶段。干警调入来自四面八方，大多对法律是“门外汉”，本阶段重点主要放在业务培训上。一是采取集中与自学相结合，掌握《刑法》《刑事诉讼法》等法律知识；二是培训和实践相结合，组织人员参加吉林市司法局举办的司法培训班系统学习；组织全员到吉林市昌邑区人民检察院实习，参与办案，独立办结十几起铁路刑事案件和经济案件，增长和积累了实战经验。

　　1982年3月至1982年4月为第三阶段。按照要求，进行规章制度的建立。逐步建立和完善了多项岗位职责和工作制度，为开院办案做好了充分准备。

　　1979年4月， 经吉林铁路分局政治部研究决定，成立吉林铁路运输检察院筹备组临时党支部，归分局机关党委领导（原吉林铁路分局副局长朴相赫、吉林铁路公安分处科长苏彦文同志为筹备组成员）。同年11月，经吉林铁路分局党委第38次常委会讨论决定，吉林铁路运输检察院成立直属党支部，朴相赫同志任书记，苏彦文同志任副书记。

　　1981年2月，吉林铁路分局党委常委研究决定：苏彦文同志任吉林检察院筹备组副组长。

　　1981年4月，铁道部政治部通知：朴相赫同志任吉林检察院筹备组组长。

　　1982年4月23日，最高检下发《关于各级铁路运输检察院开始正式办案的通知》。1982年5月1日，吉林铁路运输检察院结束筹备工作，正式开始办案。

　　2012年9月，国家司法体制改革，将吉林铁路运输检察院由铁路企业管辖，回归于国家正式司法序列，隶属于吉林省人民检察院并成立了新一届党总支，下辖两个党支部。

    2014年8月28日，吉林省人民检察院铁路运输分院机构正式设立，2015年1月，吉林省人民检察院铁路运输分院正式接管检察业务，所属基层院从人财物到办案由吉林省人民检察院领导，全面实现铁检体制改革任务。