开老虎灶卖开水,父亲去世后,随姊夫在上海跑马厅牵马。二十几岁时身量高大,担任汽车司机,娶妻生子,并加青帮,称“马立司小四宝”,获得在租界佩枪的执照。后因杀死妻子的夫,带着儿到山东参加张宗昌的部队,后来又加国民革命军白崇禧的部队参加北伐。
上海孤岛时期,吴四宝不仅