《钢铁是怎样炼成的》的故事情节是围绕主人公保尔·柯察金展开的。保尔出身于乌克兰的工人家庭，早年丧父，母亲替人洗衣、做饭，哥哥是工人。在小学念书时，神父无理惩罚他，他把烟灰撒在神父厨房里的面团上，因而被学校开除。为了维持生活，保尔开始到车站食堂当小伙计。
十月革命爆发了，一位老布尔什维克朱赫来在保尔家住了几天，给他讲了许多革命道理，使他懂得了不平等生活的社会原因，这对保尔思想的成长起到了决定性的作用。一天，保尔在路口看到一个匪兵押着朱赫来走来，他猛扑上去，抱住押送兵，救出了朱赫来。保尔被抓进监狱，受尽严刑拷打，却没有泄露任何革命秘密。不久，他被敌人错放了出来，躲进了冬妮亚的家里。
冬妮亚是本地林务官的女儿，有一次，她看见保尔把蛮横无理的铁路工厂主的公子狠狠地教训了一顿，就喜欢上了这个倔强、勇敢的工人的儿子，两人渐渐地产生了感情。后来，冬妮亚向保尔表白了自己的感情，但是，保尔没有沉湎于个人感情，他参加了红军。
在红军队伍里，保尔阅读了许多革命书籍，思想觉悟提高得非常快。冬妮亚这个资产阶级小姐和他之间的距离越来越远，保尔毅然斩断了这份情感。
在工作中，保尔与优秀的共产党员丽达建立了真正的爱情，可他以为丽达已经有了爱人，不想陷入庸俗的情场角逐，就躲开了。后来，误会虽然消除了，但保尔认为革命者应该完全献身于事业，不能纠缠在琐碎的个人感情中，便抑制住自己，中断了与丽达的感情。
由于在战场上多次负伤，加上忘我的工作和劳动，保尔的病情加重，彻底丧失了工作能力，党组织不得不解除了他的工作，送他住院治疗。为了重返工作岗位，保尔与疾病进行了顽强的斗争，可是，他几乎全身瘫痪，接着双目失明，终日不得不躺在病床上。离开工作和集体，保尔感到极大的痛苦，一度想到自杀，但他很快控制住了自己的怯懦念头，他告诉自己：要活下去，继续为党和人民作贡献。
这时，保尔结识了一个女工达雅，他帮助她读书，提高思想觉悟，使她摆脱了庸俗的家庭，加入了党组织。后来，达雅成了保尔的妻子，虽然他非常需要照顾，但还是支持妻子做更多的工作，他为她的进步而高兴。
保尔潜心阅读了大量书籍，逐渐走上了文学创作之路。他克服一切困难，以钢铁般的意志战胜病魔，从事写作。1934年，小说终于出版，并受到广大读者的热烈欢迎，保尔终于又回到革命队伍行列。他计划再写一部小说，在这一新的阵地上继续为社会主义革命事业贡献自己的力量。