司马迁做了太史令以后，就有了阅读外面看不到的书籍和重要资料的机会。这为他以后著史记提供了良好的条件。可是，资料整理工作非常繁复。由于当时的那些藏书和国家档案都杂乱无序，连一个可以查考的目录也没有，司马迁必须从一大堆的木简和绢书中找线索，去整理和考证史料。司马迁几年如一日,绞尽脑汁，费尽心血，几乎天天都埋着头整理和考证史料。

司马迁一直记得父亲的遗志，他决心效法孔子编纂《春秋》，写出一部同样能永垂不朽的史著。公元前104年，司马迁在主持历法修改工作的同时，正式动手写他的伟大著作史记

二、直言受宫刑

天汉二年(公元前99年)，正当司马迁全身心地撰写史记之时，却遇上了飞来横祸，这就是李陵事件。

这年夏天，武帝派自己宠妃李夫人的哥哥、二师将军李广利领兵讨伐匈奴，另派李广的孙子、别将李陵随从李广利押运辎重。李广带领步卒五千人出居延，孤军深入浚稽山，与单于遭遇。匈奴以八万骑兵围攻李陵。经过八昼夜的战斗，李陵斩杀了一万多匈奴，但由于他得不到主力部队的后援，结果弹尽粮绝，不幸被俘。

李陵兵败的消息传到长安后，武帝本希望他能战死，后听说他却投了降，愤怒万分，满朝文武官员察言观色，趋炎附势，几天前还纷纷称赞李陵的英勇，现在却附和汉武帝，指责李陵的罪过。汉武帝询问太史令司马迁的看法，司马迁一方面安慰武帝，一方面也痛恨那些见风使舵的大臣，尽力为李陵辩护。他认为李陵平时孝顺母亲，对朋友讲信义，对人谦虚礼让，对士兵有恩信，常常奋不顾身地急国家之所急，有国士的凤范。司马迁痛恨那些只知道保全自己和家人的大臣，他们如今见李陵出兵不利，就一味地落井下石，夸大其罪名。他对汉武帝说:"李陵只率领五千步兵，深入匈奴，孤军奋战，杀伤了许多敌人，立下了赫赫功劳。在救兵不至、弹尽粮绝、走投无路的情况下，仍然奋勇杀敌。就是古代名将也不过如此。李陵自己虽陷于失败之中，而他杀伤匈奴之多，也足以显赫于天下了。他之所以不死，而是投降了匈奴，一定是想寻找适当的机会再报答汉室。"

司马迁的意思似乎是二师将军李广利没有尽到他的责任。他的直言触怒了汉武帝，汉武帝认为他是在为李陵辩护，讽刺劳师远征、战败而归的李广利，于是下令将司马迁打入大牢。

司马迁被关进监狱以后，案子落到了当时名声很臭的酷吏杜周手中，杜周严刑审讯司马迁，司马迁忍受了各种肉体和精神上的残酷折磨。面对酷吏，他始终不屈服，也不认罪。司马迁在狱中反复不停地问自己"这是我的罪吗?这是我的罪吗?我一个做臣子的，就不能发表点意见？"不久，有传闻说李陵曾带匈奴兵攻打汉朝。汉武帝信以为真，便草率地处死了李陵的母亲、妻子和儿子。司马迁也因此事被判了死刑。