애국지사들은 국내외 독립단체들의 통합에 나서는 한편 독립자금을 모집했지만, 사정은 매우 열악했다. 임시정부의 김구 주석은 무장 투쟁이 불가능하자, 1931년 소규모 결사대인 한인애국단을 조직했다. 이때 서울 출신 애국청년 이봉창(李奉昌: 1900~1932)이 찾아와서 제1호 애국단원이 되었다. 김구 주석은 그에게 일본인들이 신으로 추앙하는 일왕의 폭살을 지시하니, 이봉창은 그해 12월 일본으로 건너갔다.
1932년 1월 8일 도쿄 사쿠라다몬(櫻田門) 앞에서 요요기(代代木) 연병장에서 신년 관병식에 참석하고 돌아가는 일왕 히로히토에게 폭탄을 던졌으나 실패했다. 그렇지만, 일제가 신격화하던 일왕을 겨냥하고, 또 일본 경시청 앞에서 일어났다는 점에서 일본에 준 충격은 매우 컸다. 이봉창은 현장에서 체포되어 그해 10월 10일 사형 당했다.
한편 1931년 9월 일본은 만주사변을 일으키고, 1932년 1월 28일 상하이에서 조계를 경비하던 일본해군 육전대와 중국의 십구로군(十九路軍) 간에 벌어진 제1차 상해사변에서 패한 직후 상하이는 매우 어수선했다. 이때 조국의 광복을 위해 몸과 목숨을 바치겠다는 결의를 안고 26살 난 충청도 예산 출신의 애국청년 윤봉길(尹奉吉: 1908~1932)이 1930년 3월 고향을 떠난 지 1년 만에 상하이에 도착했다.
그는 상하이에서 1년여 동안 중국인의 세탁소에서 일하며 망명 노자 빚을 갚는 한편, 김구 주석에게 조국을 위해 희생할 기회를 달라고 부탁했다. 마침 1932년 4월 29일, 일본이 상하이의 자국 조계지인 훙커우 공원에서 상하이사변 전승 기념식과 일왕 생신인 천장절(天長節)을 대대적으로 거행한다는 신문 보도가 나왔다. 김구 주석은 윤봉길에게 임무를 부여하고, 의거 3일 전인 4월 26일 윤봉길의 개인행동이 아닌 임시정부가 주도한 의거임을 분명히 하기 위하여 윤봉길의 한인애국단 가입식과 윤봉길의 서약서를 받았다. 윤봉길은 4월 27일과 28일 두 차례나 훙커우공원을 사전 답사하였으며, 김홍일 장군은 도시락과 물통 모양의 폭탄을 만들어 주었다. 물통은 투척용이고 도시락 폭탄은 체포되기 전에 자결하기 위한 것이었다.
의거 당일 김구 주석과 조반을 함께 한 윤봉길은 자신의 시계와 김구 주석의 낡은 시계를 바꾸어 찬 뒤, 일본군의 경비가 삼엄한 훙커우 공원에 도시락과 물통 모양의 폭탄을 메고 들어갔다. 그리고 경축 행사가 진행 중인 행사장 무대에 폭탄을 던지자, 순식간에 아수라장으로 변했다. 일본군 상하이 파견대장 시라카와, 상하이 일본거류민단장 가와바타 등이 즉사하고, 제3함대 사령관 노무라, 제9사단장 우에다, 주중공사 시게미쓰, 총영사 무라이 등은 중상을 입었다.
윤봉길은 거사 직후 현장에서 체포되어 군법회의에서 사형선고를 받고, 11월 18일 일본 오사카형무소로 이송되어 그해 12월 18일 가나자와(金澤) 형무소에서 총살되었다. 당시 장제스 국민당 총통은 만주사변과 상해사변 패전으로 기가 죽어 있다가 윤봉길의 의거에 "중국의 100만 대군도 하지 못한 일을 조선의 한 청년이 해냈으니, 참으로 대단하다"고 감탄하면서 황포군관학교에 독립군 장교 양성을 받아들이는 등 임시정부를 적극적으로 지원하게 되었다.
윤봉길 의사의 의거는 침체에 빠진 임시정부의 항일투쟁에 활기를 주었지만, 일본의 무자비한 보복이 강화되어 안창호가 체포되어 국내로 압송되고, 윤봉길과 이봉창 의사의 배후인 김구 주석은 20만 원의 현상금을 내걸고 수배되었다. 결국, 상해 임시정부는 상해에서 멀리 항저우(杭州)로 옮겨가게 되었다. 상하이 임시정부청사나 윤봉길 의사 기념관에 대한 우리 정부의 적극적인 지원이 많이 아쉽다.(3월 4일 자 '상해임시정부' 참조)
