Lực lượng phòng vệ trên không Nhật Bản (JASDF) hiện đang vận hành hai phiên bản chính của F-4 Phantom II, bao gồm F-4EJ và RF-4EJ, chúng được sử dụng cho nhiệm vụ chiến đấu và tuần tra không phận.
Các phiên bản F-4 đời đầu đã "nhận sổ hưu" và được thay thế bằng F-15J cũng như F-2, tuy nhiên những biến thể mới hơn vẫn còn đang triển khai trong vai trò trinh sát, tác chiến điện tử, cũng như bảo vệ an toàn cho các hoạt động của Không quân Nhật Bản.
Giai đoạn 1968 - 1981, Lực lượng phòng vệ trên không Nhật Bản đã mua tổng cộng 140 chiếc F-4E và F-4EJ (đây là phiên bản sản xuất theo giấy phép dựa trên nguyên mẫu F-4E của Mỹ).
Tuy nhiên so với F-4E của Mỹ, F-4E Nhật Bản đã bị loại bỏ một vài thành phần quan trọng như hệ thống DCU-9/A, máy tính AN/ASQ-91, thiết bị điều khiển tên lửa không đối đất ARW-77, khả năng tiếp liệu trên không cũng như mang vũ khí hạt nhân... để tránh gây căng thẳng với láng giềng.
Theo hợp đồng, 10 máy bay F-4E đầu tiên sản xuất tại Mỹ, sau đó Tập đoàn Công nghiệp nặng Mitsubishi (Mitsubishi Heavy Industries - MHI) triển khai lắp ráp 130 chiếc khác tại Nhật Bản trong giai đoạn 1971 - 1981. Ngoài ra trong năm 1974, họ còn mua tiếp 14 chiếc bản trinh sát RF-4E (hiện 12 chiếc vẫn còn hoạt động), đưa tổng số F-4 phục vụ trong Không quân Nhật Bản lên tới con số 154.
RF-4E được trang bị radar trinh sát phía trước AN/APQ-99, radar AN/APD-10 để tìm kiếm xung quanh, hệ thống dẫn đường quán tính AN/ASN-55, thiết bị phát hiện hồng ngoại AN/AAS-18A, thiết bị cảnh báo radar J/APR-2 và camera giám sát dạng pod treo ngoài.
Trong khi đó RF-4J là bản hiện đại hóa, nó mang radar AN/APQ-172 với khả năng xử lý hình ảnh để thay thế loại nguyên bản AN/APQ-99, nâng cấp thiết bị điều hướng, thiết bị cảnh báo radar J/APR-5 cũng chiếm chỗ loại J/APR-2, nó thực hiện được đa dạng các nhiệm vụ tùy thuộc yêu cầu.
Ngoài ra Nhật Bản còn duy trì khoảng 92 chiếc F-4EJ "Kai", chúng được nâng cấp vào năm 1987, cung cấp khả năng không chiến và tấn công mặt đất/ mặt biển rất mạnh, nó mang được 8 tên lửa không đối không AIM-9P/L Sidewinder hoặc AIM-7E/F Sparrow, 2 tên lửa chống tàu ASM-1, thậm chí cả bom hạt nhân.
Gói nâng cấp bao gồm tích hợp radar điều khiển hỏa lực AN/APG-66, hệ thống dẫn đường quán tính LN-39, mà hình hiển thị trước mặt phi công, máy đo áp suất khí quyển CP-1075/AYR, hệ thống nhận dạng địch - ta AN/APX-79A và hệ thống cảnh báo radar J/APR-4 Kai.
Những cải tiến trên được cho là xuất phát từ sự kiện chiếc MiG-25 của Liên Xô đào thoát sang Nhật năm 1976, mặc dù không thể phủ nhận sự lơ là trong công tác sẵn sàng chiến đấu nhưng năng lực hạn chế của các trang thiết bị mà Mỹ cung cấp cho JASDF để gắn trên Phantom cũng góp phần không nhỏ dẫn tới thất bại của công tác đánh chặn.
Hiện nay F-4EJ vẫn cùng với F-2 là lực lượng chủ chốt trong tác chiến không đối hải của Nhật Bản nhờ khả năng mang tên lửa chống tàu, tiêm kích F-15J có sức mạnh đối không tốt hơn nhiều lần nhưng hạn chế của nó là radar không có kênh đánh biển.
Trước những căng thẳng gia tăng liên tục gần đây liên quan đến tranh chấp quần đảo Senkaku/ Điếu Ngư với Trung Quốc, phi đội F-4EJ và RF-4EJ của Nhật Bản có lẽ còn phải phục vụ thêm một khoảng thời gian tương đối dài nữa. Trong ảnh là F-4EJ bay cùng AV-8B Harrier.