Abstract: This paper briefly describes the Japanese government’s reform process and efforts at the central level after the Second World War. Through this reform, by 01/01/2001, the current central government structure, which consists of the Prime Minister’s Office and 22 ministerial-level organizations under the Cabinet, will be changed into the Cabinet Office and 12 ministerial-level organizations. From the experience of Japan, this paper provides some policy suggestions for Vietnam in order to successfully implement the Resolution No.18-NQ/TW dated October 25th, 2017 of the 6th Central Committee Meeting and the Resolution No. 56/2017/QH14 dated November 24th, 2017 of the National Assembly on continuing to reform the organization of state administrative apparatus.Bài viết này mô tả ngắn gọn tiến trình cũng như nỗ lực cải cách tổ chức bộ máy hành chính của chính phủ Nhật Bản ở cấp Trung ương giai đoạn sau Chiến tranh Thế giới thứ hai. Theo đó, kể từ ngày 1/1/2001, cơ cấu bộ máy Chính phủ ở Trung ương bao gồm Văn phòng Thủ tướng, 22 Bộ và cơ quan ngang Bộ, sẽ tinh giản còn Văn phòng Nội các, 12 Bộ và cơ quan ngang Bộ. Từ kinh nghiệm của Nhật Bản, bài viết đưa ra một số gợi ý chính sách cho Việt Nam để thực hiện thành công Nghị quyết số 18-NQ/TW ngày 25/10/2017 của Hội nghị lần thứ sáu Ban Chấp hành Trung ương Đảng khóa XII và Nghị quyết số 56/2017/QH14 ngày 24/11/2017 của Quốc hội về việc tiếp tục cải cách tổ chức bộ máy hành chính Nhà nước tinh gọn, hoạt động hiệu lực, hiệu quả.