有力气，以骁勇闻，善射箭，后周时为赵匡胤的大将，屡建奇功，因功担任殿前都虞侯。宋太祖说：“殿前卫士如狼似虎者不下万人，非张琼不能统制。”
张琼性情暴躁，轻侮石汉卿，骂石汉卿是老巫婆。汉卿怀恨不已。乾德元年（965年）八月，石汉卿与军校史珪等诬告张琼擅乘官马，蓄奴过百，擅作威福，且诽谤赵光义。太祖召张琼面讯，张琼不认罪，倒反顶撞起来。太祖大怒，喝令左右掌嘴，石汉卿以金瓜锤打击张琼。太祖令御史案查，张琼于狱中撞壁死，头破脑裂 （自杀记载出自《续资治通鉴》；《宋史》记载则称太祖赐死张琼）。抄家时无余财，仅有仆三人。太祖问石汉卿：“你说张琼有仆百余，何在？”石汉卿说：“琼所养者一敌百耳。”太祖特赦张琼以表其冤，厚恤琼家，擢其兄张进为龙捷副指挥使。