后来，詹天佑几经周折，转入中国铁路公司担任工程师，从此献身中国铁路事业。
刚上任不久，詹天佑就遇到严峻考验。当时的滦河铁路桥方案经英、日、德三国工程师先后设计，均告失败。詹天佑认真总结了三国工程师失败的原因之后，亲临一线与工人们一起进行实地调查，精密测量。经过仔细比较，他最后确定了桥墩的位置，并且大胆采用新方法——“压气沉箱法”完成了桥墩的施工。詹天佑的建桥方案果然成功了。
滦河大桥初战告捷，但他却面临着更为严峻的考验。1905年，清政府决定兴建北京至张家口的铁路。关键时刻，詹天佑勇敢地接下了这个艰巨的任务，全权负责京张铁路的修筑。消息传来，举世皆惊，一些人甚至攻击詹天佑“狂妄自大”、“不自量力”。詹天佑顶着压力，表示：“中国已经醒过来了，中国人要用自己的工程师和自己的钱来建筑铁路。”
1905年8月，京张铁路的勘探、选线工作开始了。詹天佑亲自带着测量人员，背着各种仪器，日夜在崎岖的山岭上奔波。一天傍晚，狂风卷着沙石，刮得人睁不开眼。测量人员着急回去，填个数字就从岩壁上爬下来。詹天佑问：“准确吗？”测量队员说：“差不多。”詹天佑严肃地说：“技术的第一个要求是精密……”说着，他冒着风沙，背上仪器重新攀到岩壁上，认真地复勘一遍，修正了一个误差。当他下来时，嘴唇都冻青了。