于清末，由于担心太平军对上海租界可能发起的攻击，由英美两国驻沪领事牵头，组建起一支意在保卫租界的武装部队，那时候所有侨居上海的外国男性公民都被征召入内，美其名曰上海本埠义勇队】。

因为其初始成员大都是各国商会和洋行里的西洋职员，这支武装被戏称为“万国商团”，随着这支武装日后变得常规化，这个名字也同样被保留了下来。

从镇压小刀会起义一直到一二八抗战，这支部队在上海租界历史上表现的