1928年，蔣、馮、閻、李發(fā)動(dòng)第二次北伐，集中兵力解決山東問(wèn)題。4月30日，北伐軍三面包圍濟(jì)南城。張宗昌讓出商埠一帶交給日軍接防，然后出逃。5月1日，北伐軍攻入濟(jì)南。5月3日，日軍借機(jī)制造了震驚中外的“濟(jì)南慘案”，大肆虐殺濟(jì)南軍民。

后來(lái)張宗昌部隊(duì)全部瓦解后，見(jiàn)東山再起無(wú)望，張于1930年夏赴日本當(dāng)了寓公。“九一八”事變后，張宗昌于1932年初從日本回國(guó)，并打起“抗日”招牌，希圖重返山東，卷土重來(lái)。此時(shí)，正值韓復(fù)榘任山東省主席，他怎能容下張宗昌這個(gè)心頭之患。韓復(fù)榘親自趕到泰山普照寺，與正住在這里的馮玉祥密商殺張方案，決定由馮玉祥舊部將領(lǐng)鄭金聲的養(yǎng)子鄭繼成去刺殺張宗昌。

鄭繼成者，濟(jì)南城北華山人也，系國(guó)民革命軍第二集團(tuán)軍第八方面軍副總指揮鄭金聲的侄子，也是他的過(guò)繼兒子。1927年11月，鄭金聲被張宗昌殺害。鄭繼成早就發(fā)誓要為先父報(bào)仇，如今機(jī)會(huì)來(lái)了，鄭繼成欣然領(lǐng)諾。

不久，張宗昌被幾個(gè)所謂把兄弟騙至濟(jì)南“舊地重游”。韓復(fù)榘也假意隆重接待，每日都有酒肉宴請(qǐng)。1932年9月3日，鄭繼成與好友陳鳳山提前埋伏在濟(jì)南火車(chē)站內(nèi)。這天下午，張宗昌帶兩個(gè)護(hù)兵要回北平。6點(diǎn)左右開(kāi)車(chē)前，張宗昌站在車(chē)廂口向送行者招手告別時(shí)，身穿灰色大褂的陳鳳山從人群中一躍而出，舉槍瞄準(zhǔn)張宗昌喝道：“我打死你個(gè)王八蛋！”

但槍未打響。身高近兩米的張宗昌見(jiàn)勢(shì)不妙，隨身攜帶的新式德國(guó)造手槍又在餞行宴會(huì)上送了別人，只好掉頭就跑。跑到餐車(chē)盡頭，張宗昌啟門(mén)跳下，向北逃命。此時(shí)四面槍聲大作，鄭繼成、陳鳳山緊追不放，追至三站臺(tái)北面7股道時(shí)，連向張開(kāi)數(shù)槍?zhuān)瑩糁幸Γ瑥堊诓S即斃命。

張宗昌死后，山東各界紛紛電請(qǐng)南京政府赦免鄭繼成的殺人罪。翌年1月，鄭繼成被赦免，后被送進(jìn)陸軍大學(xué)將校班學(xué)習(xí)，抗日戰(zhàn)爭(zhēng)開(kāi)始時(shí)，鄭繼成在第三戰(zhàn)區(qū)司令長(zhǎng)官馮玉祥將軍麾下任軍法總監(jiān)。

張宗昌在濟(jì)南火車(chē)站被刺斃命后，曾長(zhǎng)時(shí)間露天暴尸。《濟(jì)南文史精華》王丕廉撰文說(shuō)，張?jiān)跐?jì)南火車(chē)站被暴尸三天。實(shí)際情況是，張宗昌暴尸一天后于1932年9月4日移柩館驛街西首皖新街安徽鄉(xiāng)祠。