张轨，字士彦，安定乌氏县人，为汉朝常山景王张耳的第十七代孙。家族世代举孝廉，以专攻儒学著名。父张温，为太官令。张轨年少聪明好学，颇有才能声望，姿态仪表文雅端庄，与同郡人皇甫谧相好，隐居在宜阳女几山。泰始初年(265)，继承了叔父恩荫的五品官。中书监张华与张轨谈论经义及政事利弊，十分器重他，认为安定郡的中正压制蒙蔽了人才，对张轨的言谈为人大为赞美，觉得他就是在二品等级里也是很优秀的。卫将军杨珧召他为属官，授职为太子舍人，累迁散骑常侍、征西军司。
张轨因为时世多灾难，便暗自图谋占据河西之地，为此占卜预测吉凶，得到六十四卦中的泰卦与观卦相遇合，便扔掉蓍草大喜道：“这是霸者之吉兆啊。”于是请求朝廷让他做凉州刺史。公卿大臣们也推举张轨，认为其才干足能统辖远方。永宁初年(301)，张轨出任护羌校尉、凉州刺史。当时鲜卑族反叛，盗匪纵横州里，抢劫财物，张轨到任，立即予以讨伐，剿灭了盗匪，斩首万余级，于是张轨威名大显凉州，教化施行于河西。张轨以宋配、阴充、..瑗、阴澹为左右得力谋士，征召九郡贵族的长子五百人，建立学校，开始设置崇文祭酒，其地位和别驾一样，春秋两季实行以射选士的礼仪。秘书监缪世征、少府挚虞夜里观测星象，聚在一起说：“天下将乱，避难之所唯有凉州而已。凉州张刺史德行气量不凡，莫非应在此人身上！”及至河间王、成都王叛乱，张轨派兵三千，东奔京师保卫天子。当初，汉末金城人阳成远杀太守叛乱，郡里人冯忠前往为太守收尸，抚尸号哭，吐血而死。张掖人吴咏被护羌校尉马贤征召为佐吏，后来吴咏又做了太尉庞参的属官，庞参、马贤彼此捏造罪状互相陷害，按其罪状应处以死刑，二人都召引吴咏作证，吴咏考虑到无法使二人都有理，便自杀而亡。庞参、马贤惭愧后悔，相互之间自行和解。张轨祭扫冯、吴二人之墓并优待他们的子孙。永兴年间(304～305)，鲜卑贵族若罗拔能反叛骚乱，张轨派司马宋配征讨叛敌，斩杀拔能，俘虏十余万人，张轨威名大震。晋惠帝遣使任张轨为安西将军，并封安乐乡侯，食邑千户。于是大规模修建姑臧城。其城本为匈奴人所建，南北长七里，东西长三里，地势有龙的形状，所以又称卧龙城。当初，汉末博士敦煌人侯瑾对他的门徒说：“日后城西边的泉水会枯竭，将有双座楼台立于泉水潭上，与城东门相望，其中定有霸者出现。”到魏嘉平年间(249～254)，郡里长官果然建造学馆，在城西泉水潭上筑起两座楼台，与城东门正好相遥望。至此时，张氏便成为河西霸主。
永嘉初年(307)，东羌校尉韩稚诛杀秦州刺史张辅，张轨属下少府司马杨胤向张轨进言说：“今日韩稚违抗上命，擅自诛杀张辅，明公手握重兵镇守一方，应惩罚那些不法之徒，这也是《春秋》倡导的大义，春秋诸侯之间互相残杀互相吞并，桓公不能救助，则桓公以此为耻。”张轨听从了这一建议，派中督护..瑗率二万兵马讨伐韩稚，先派人给韩稚送去一封信说：“当今朝廷纲纪混乱不堪，各方诸侯应并力勤王。适才得到雍州文书，说你兴兵内讧。鄙人督察经略一方，义在讨伐叛乱之徒，将士三万，络绎进发，朋友故旧受害之痛，心中怎可言状！古人作战，以保全国家为上，你若单人匹马来军门谢罪，你我尚可共事平定世难。”韩稚得到书信后向张轨投降。张轨派主簿令狐亚聘问南阳王司马模，司马模十分高兴，将天子所赐之剑送给张轨，对张轨说：“自陇地以西，一切军政大事皆委托于你，此剑如同权杖。”不久王弥侵犯洛阳，张轨派北宫纯、张纂、马鲂、阴氵睿等率凉州军马攻破王弥，又在河东击败刘聪，京师歌谣道：“凉州大马，横行天下。凉州鸱苕，寇贼消；鸱苕翩翩，怖杀人。”天子嘉奖张轨的忠诚，晋封他为西平郡公，张轨推辞不受。张掖临松山石块上有“金马”字，字迹湮灭大体可识，而“张”字字迹分明，又有刻文说：“初祚天下，西方安万年。”姑臧又有块大黑石，其上白点构成二十八宿。当时天下已乱，各方诸侯不听朝廷使命，张轨派遣使者朝贡天子，一年四季从不废止。朝廷嘉奖张轨，一再降诏慰劳。
张轨后来中风，口不能说话，让儿子张茂代理州事。酒泉太守张镇暗中召引秦州刺史贾龛以取代张轨，秘密遣使到京师，请求尚书侍郎曹苮任西平太守，图谋构成相依互佐之势。张轨别驾麴晁想独断专行作威作福，又派使者到长安，告诉南阳王司马模，声称张轨身体残废，请求朝廷让贾龛代替张轨，而贾龛也准备接受这一任职。其兄责备贾龛道：“张公是当今名士，在凉州威名卓著，你有何德何能可去代替他！”贾龛便打消了这一念头。朝廷又任命侍中爰瑜为凉州刺史。治中杨澹快马奔驰到长安，将自己的耳朵割下来放在盘子上，诉说张轨遭人陷害，南阳王司马模便上疏朝廷制止了更换刺史之事。
晋昌人张越，是凉州的大族，有谶言说张氏雄霸凉州，张越自以为自己的才干能力可以应验此言。张越从陇西内史升任梁州刺史。张越志在统辖凉州，便托病回到河西，暗中谋划取代张轨，派其兄张镇及曹苮、麴佩传书各郡废免张轨刺史之职，以军司杜耽代理州事，让杜耽上表朝廷请求任命张越为凉州刺史。张轨发出命令道：“鄙人在凉州八年，不能安定地方，又适值中州叛军作乱，秦陇危急，加之身患重病命在旦夕，因而真心考虑隐退让贤。只是职位所在责任重大，不便马上了结心愿。不料有人无端兴起今日事变，这实在是不明白鄙人之心。鄙人把离开凉州贵地看作如同脱掉脚上的鞋子而已！”张轨打算派主簿尉髦拿着疏表进京，同时准备车马，预备回宜阳养老。长史王融、参军孟畅用脚踩断张镇发送的文告，推门而入劝谏张轨道：“晋室多变，人民涂炭，实在依仗明公安抚西方。张镇兄弟胆敢放肆作乱，应宣明其罪行而诛杀叛党，不能成全他们的野心。”张轨默然。王融等实行戒严。武威太守张..派儿子张坦快马奔赴京师，上表朝廷说：“魏尚安抚边疆反而获罪，赵充国尽忠报国反而遭贬，这都是前代历史中值得讥讽而当今可引为借鉴的事。顺阳吏民怀念太守刘陶，为他守墓者多达千人。张刺史来治理凉州，好比慈母抚育赤子，凉州百姓爱戴张轨，好比干旱季节的禾苗迎得甘雨。听说朝廷听信流言，打算更换刺史，百姓惊慌不安，如同将要失去父母。当今戎夷胡人扰乱华夏，不宜轻率搔动一方。”不久张轨任命其子张萛为中督护，率兵讨伐张镇。又派张镇的外甥太府主簿令狐亚前往劝导张镇说：“舅舅何不审时度势看清成败安危？张公在凉州德高望重，兵马如云，这就像烈火已熊熊燃烧，你却等待江汉之水来浇火；溺于洪流，指望越地之人来救助，岂不是鞭长莫及！现在数万大军已兵临城下，惟有诚心诚意归顺官府，才能使亲人平安，延续门户，保全家族幸福。”张镇痛哭流涕说：“我这是为他人所误！”便将罪名加到功曹鲁连身上并将鲁连斩首，向张萛投降谢罪。张萛率部南进讨伐曹苮，赶走了曹苮。张坦从京师赶回，晋怀帝特下诏慰劳张轨，依准司马模所奏，下令诛杀曹苮。张轨大喜，赦免州内死罪以下的叛党。命令张萛率尹员、宋配领步兵骑兵三万余众讨伐曹苮，另派从事田迥、王丰率八百骑兵从姑臧西南出石驴，占据长宁。曹苮派麴晁在黄阪一线设防抵抗张萛大军。张萛从隐秘小道通过浩..，在破羌与曹祛交战。张轨斩杀曹苮及其牙门将田嚣。
张轨派治中张阆送五千义兵及郡国秀才孝廉、赋税账簿、器甲土产交付京师。命令主管官吏详细察问凉州自建州以来高洁纯正遗弃富贵退隐世外以保持节操者；高才硕学著述经史者；为国为君临危不惧杀身殉义者；忠心进谏而获罪者；交涉应对随机行事而避免祸患者；武勇机智为时世排除灾难者；奸谄误主陷害忠贤者；等等都用文状呈报到州府。凉州父老莫不庆贺。光禄卿傅祗、太常挚虞送信给张轨，告诉京师饥荒匮乏，张轨马上派参军杜勋给朝廷献马五百匹、毯布三万匹。晋怀帝派使者进拜张轨为镇西将军、都督陇右诸军事，封霸城侯，又升张轨为车骑将军、开府辟召、仪同三司。授封的文书未到，而王弥就兵临洛阳，张轨派将军张斐、北宫纯、郭敷等率精锐骑兵五千人来保卫京师。及至京师陷落，张斐等皆被贼军杀害。中州人纷纷逃到凉州避难，张轨分割武威一部分设立武兴郡让避难者居住。太府主簿马鲂向张轨进言道：“四海动荡，天子未得反正，明公率凉州之兵直捣平阳，必将所向披靡，有征无战。不知明公担心什么而不采取这一行动？”张轨道：“这正是我所想的事。”又听说秦王已进入关中，便迅速传檄至关中，檄文说：“主上遇险，流落贼营，普天分崩，举国丧气。秦王天资卓越圣明仁德，神机武断以应天时。世祖之孙中，秦王今为长者。凡我大晋之人，食粮之民，占卜取卦克期效忠，光明险恶同心同步。应选择吉日，奉尊秦王登基继位。今日派前锋督护宋配率步兵骑兵二万，直抵长安，护卫天子，击退左右之敌。西中郎将张萛率中军三万，武威太守张..率胡人骑兵二万络绎进发，将于仲秋中旬在临晋会师。”
不久秦王为皇太子，派使者前往凉州拜张轨为骠骑大将军、仪同三司，张轨坚决辞谢。秦州刺史裴苞、东羌校尉贯与占据险要与朝廷断绝往来，张轨命令宋配率兵讨伐。西平人王叔与曹苮余党麴儒威逼前福禄令麴恪为君主，逮捕太守赵彝，与东边的裴苞等人相呼应。张萛回师讨伐，斩杀麴儒等。左督护阴预与裴苞在狭西交战，大败裴苞，裴苞逃到桑凶坞。这一年，北宫纯投降刘聪。皇太子派使者向张轨重申先前的授命，张轨坚决推辞。左司马窦涛向张轨进言道：“周公旦封于曲阜而不辞，姜子牙封于营丘而受命，这就是所谓明确国家法令，奖励有大功者。天下崩溃，主上流亡，凉州虽为边远之州，但明公不忘匡扶朝廷，因此朝廷推诚相待，嘉奖任命再三传送至州。明公应遵从朝廷旨意，以满足众人之心。”张轨依旧坚决不从。
当初，张萛平定麴儒，将首恶六百余家改迁别处。治中令狐浏说：“清除恶人，如同农夫除草，务必锄去草根，使草不能再滋生成长。今日应将叛党之家全部迁走，以绝后患。”张萛未加采纳。麴儒余党果然反叛，张萛进兵平定了此乱。
晋愍帝即位，晋封张轨为司空，张轨坚辞不受。太府参军索辅向张轨进言道：“从前用金贝皮币作买卖货币，消除了用粮食布帛度量交换的损耗。两汉制造五铢钱，贸易流通不息。泰始年间(265～274)，河西地区荒废不堪，便不再使用钱币，割布分段来计钱数。绢布既被毁坏，交易起来又困难，只会徒然破坏女工的作业，使布帛不能制作衣服，实为严重的弊病。如今中州虽战乱不休，但凉州安定，应恢复使用五铢钱以畅通买卖贸易。”张轨采纳这一建议，建立制度，以布帛为标准，用钱交易，钱币便大为流行，凉州百姓获得便利。这时刘曜寇犯北地，张轨又派参军麴陶率三千人马保卫京都长安。晋愍帝派大鸿胪辛攀拜张轨为侍中、太尉、凉州牧、西平公，张轨又坚决辞谢。
张轨在凉州为官十三年后，卧病不起，临终前留下遗言道：“我平生对他人无甚恩惠，今日疾病垂危，大概命将告终了。我死后，文武将佐都应尽忠尽义，务必安抚百姓，上报国家，下安家室。我死后以普通棺木从简安葬，墓中不藏金玉。好好辅助我儿安逊，听从朝廷旨意。”上表朝廷请求立其子张萛为世子。终年六十。朝廷所赠谥号为武公。