破黄巾，被陶谦封为骑都尉，按说这也是不小的官职了，但臧霸毕竟是武将，虽然手中有兵，却为文官所看不起，年轻气盛的臧霸如何受得了这个气，于是决定与徐州决裂，以剿灭黄巾余孽为由，将大军驻扎在琅琊郡的开阳，拥兵自重，不听从州牧府的号令，这些兵马都是臧霸一手带出来的，对于臧霸的本领也是十分服气，在琅邪军渐渐的成为了一支不属于徐州管辖的军队。

陶谦对此也是无可奈何，有心无力之下，只能任由