此人是学霸，19岁考取秀才，为广州儒学生员。22岁乡试中举人，29岁（明崇祯十六年(1643)）中进士，授翰林院庶吉士。

翌年三月，农民起义军李自成部攻入北京，张家玉逃回广东，随即投靠了南明政权，在颜常武座下听用，入兵部为官，合乎他的心意。

颜常武并不反明，他手握大义名份，且东南府自过往起对两广、闽省和江浙地区影响力庞大，张家玉不象其他文官那样高姿态看不起颜常武这个