1860年春天，为了阻止太平军进攻上海，清朝雇佣了一支洋枪队来保护上海的安全。这支洋枪队后来命名为“常胜军”。
1862年10月，常胜军统领华尔在与太平军作战时负伤死去，由白齐文继任统领。
白齐文是美国北卡罗来纳州人，生于1836年，时年26岁。白齐文在法国部队里服过役，还参加过克里米亚战争。他是一个典型的冒险家，在澳大利亚、印度等国游历，寻找发家致富的机会。最后，白齐文来到了上海这个冒险家的天堂，停留下来，直至加入常胜军。
白齐文是一个脾气暴躁的人，甚至可以用“无法无天”来形容。虽然从编制上来说，常胜军属于江苏巡抚李鸿章管辖，可李鸿章根本就管不了白齐文，很难调动常胜军。
1862年11月，李鸿章想把白齐文和常胜军调动到南京去，参与进攻太平军。白齐文趁此机会去找道员杨坊索要拖欠的军饷，将他痛揍一通，又抢走了4万元洋银，闹出了一场轩然大波。
李鸿章当即奏报朝廷，撤掉白齐文的职务，悬赏5万两银子通缉，并对常胜军进行整顿，以英国军官戈登担任统领。朝廷完全支持李鸿章的建议。12月24日，朝廷在上谕中要求李鸿章与英国方面进行交涉，将白齐文缉捕归案：“白齐文以劫饷殴官之犯，自应按中国军法惩办，现经英国提督士迪佛立押解来沪，由英国兵船看管，并未交出……仍着李鸿章饬将白齐文迅速交出，毋得任令含糊了事，将此由六百里各谕令知之。”
这时候，朝廷对白齐文的态度是强硬的，一定要李鸿章将他抓捕归案，进行惩处。
可是，短短一个多月后，朝廷的态度就发生了变化。
原来，白齐文闯下这么大的祸，并没有看在眼里。他居然大摇大摆跑到京城去，见到了美国和英国公使，请他们出面为自己说话。美国和英国公使罔顾白齐文殴打中国官员，并抢走库银的事实，联合为他说情。
朝廷惹不起两国公使，只好在1863年2月15日重新颁发了一道上谕，将案子发还给江苏巡抚李鸿章，要求对白齐文从宽处理：“现在白齐文赴沪，该抚（李鸿章）即欲稍宽其罪，必当使所犯各节一一认伏，然后量为施恩，则白齐文既感该抚之恩，又感不杀之惠。”
朝廷不能始终坚持强硬态度，让李鸿章感到无可奈何。既然朝廷靠不住，那就靠自己吧。
李鸿章唯一能做的事情，是尽量堵住白齐文回任常胜军统领的道路。
那时候，白齐文自以为有美国和英国公使撑腰，产生了回任常胜军统领的想法。3月4日，白齐文回到上海，趾高气扬地去找李鸿章，要求官复原职。李鸿章又好气又好笑。他可没有想到，世界上居然有如此厚颜无耻的人。李鸿章没有跟白齐文废话，吩咐手下将他赶出去。
白齐文被李鸿章拒绝后，一怒之下，带着十几个手下抢走了常胜军的“高桥号”轮船，购买了大量军火，跑到苏州去投靠忠王李秀成的部将慕王谭绍光。
白齐文投奔太平军的消息传来，让李鸿章震怒不已。好家伙，白齐文又挑战了他的底线。李鸿章下令贴出海捕文书称:“不拘军民及外国人等，有将白齐文擒斩者，赏银三千两。”
谭绍光见白齐文懂得一些军事训练知识，便拨给1000多人让他进行军事训练。白齐文投奔太平军，是想独立带领一支军队，可不是当什么训练官。可是，他作为一名曾经与太平军作战的常胜军前任统领，刚刚投奔太平军，谭绍光怎么可能委以重任？谭绍光只允许他统领自己带来的十几号人。白齐文很失望，很快就离开了苏州。
白齐文刚到上海，就被美国领事抓住，送到日本横滨治病，不允许他再到中国。这种做法看似限制白齐文的行动，实际上是对他的保护。因为李鸿章下定决心要抓捕他，谁也阻拦不了。白齐文在日本呆了一年多时间，于1865年2月回到上海，又被美国领事遣返回日本了。
白齐文没有死心，还想到中国来“捞一把”。当他得知太平天国侍王李世贤在福建漳州一带活动时，从日本乘坐轮船直接去了福建。没想到，白齐文还没有找到太平军，一到厦门就被闻风而动的清军抓获了。
李鸿章获悉后，派人将白齐文押送苏州。当他们来到浙江兰溪时，押送的清军悄悄地将白齐文淹死了。当尸体运送到上海时，已经腐烂不堪，难以辨认，人们只能根据尸体嘴里的金牙判断是白齐文。
美国领事找不到证据，算是吃了哑巴亏，此事不了了之。