Kiếm được giới thiệu tới Nhật Bản từ Trung Quốc, thông qua bán đảo Triều Tiên. Bắt đầu bằng việc luyện lưỡi kiếm thẳng giống của Trung Quốc, người Nhật Bản qua nhiều thế hệ đã tìm tòi, sáng tạo ra loại kiếm lưỡi cong của riêng mình. Kĩ thuật luyện kiếm của người Nhật cũng đã đạt tới trình độ điêu luyện, được thế giới thán phục.
Kiếm lưỡi cong không chỉ được người Nhật xưa sử dụng để trang trí, biểu diễn, phòng thân... mà còn được sử dụng trên chiến trường bởi khả năng sát thương cao của nó.
110 thanh kiếm quý từ thời cổ đại tới phong kiến Nhật Bản đã được công nhận là bảo vật quốc gia, bởi giá trị lịch sử và vẻ đẹp của nó. Hầu hết thanh kiếm bảo vật quốc gia đều là những thanh kiếm trong thời kì Heian và Kamakura (thế kỉ 10 - 13) - cũng là thời kì mà kĩ thuật làm kiếm được cải thiện vượt bậc.
Những báu vật này tới nay đa phần được cất giữ trong các ngôi chùa, đền, bảo tàng hoặc thuộc sở hữu tư nhân.
Không chỉ bởi sự thanh thoát một cách tự nhiên, kiếm Nhật nổi tiếng thế giới bởi nó gắn liền với cuộc đời của samurai, là biểu tượng thiêng liêng cho tác phong và danh dự của người võ sĩ. Chính vì thế mà đối với người Nhật, thanh kiếm có ý nghĩa tinh thần rất lớn lao.
Bộ "Thiên hạ đệ nhất kiếm" và một số thanh kiếm được phong là bảo vật quốc gia Nhật Bản:
Mikazuki Munechika, hay còn được gọi là kiếm Trăng lưỡi liềm, dài 80 cm, cong 2,7 cm, là một trong 5 thanh kiếm được mệnh danh là "Thiên hạ đệ nhất kiếm". Thanh kiếm huyền thoại từng thuộc sở hữu của Kodai-in, vợ của Toyotomi Hideyoshi - người có công thống nhất Nhật Bản vào thế kỉ 16 - sau đó được truyền lại cho gia tộc Tokugawa và ngày nay đang được trưng bày tại Bảo tàng Quốc gia Tokyo.
Otenta, một "Thiên hạ đệ nhất kiếm" của Nhật Bản, từng là kho báu của Mạc phủ Ashigaka. Thanh kiếm này nổi bật bởi vẻ uy nghi mà không kém phần tinh tế của mình.
Dohjigiri, một trong 5 thanh kiếm được mệnh danh là "Thiên hạ đệ nhất kiếm" của Nhật Bản. Sở dĩ thanh kiếm huyền thoại này có tên là Kẻ diệt quỷ bởi theo lưu truyền, nó đã giúp Minamoto no Yorimitsu giết chết thủ lĩnh quỷ Shuten-dōji trong truyền thuyết Nhật Bản. Thanh kiếm hiện đang được trưng bày tại Bảo tàng Quốc gia Tokyo.
Thanh kiếm Onimaru, một trong "Thiên hạ đệ nhất kiếm" của Nhật Bản thuộc sở hữu của gia tộc Hojo, một trong những gia tộc có công lớn trong việc truyền bá võ sĩ đạo ở Nhật. Thanh kiếm này hiện nay đang do Hoàng gia Nhật Bản bảo quản.
Thanh kiếm cuối cùng được mệnh danh "Thiên hạ đệ nhất kiếm" là Juzumaru, hiện đang được cất giữ tại chùa Honkohji.
Thanh kiếm đồng mạ với núm chuôi kiếm tròn là báu vật lâu đời nhất của Nhật Bản được truyền từ thế hệ này sang thế hệ khác. Thanh kiếm lưỡi kép này có xuất xứ từ thời kỳ Kofun (năm 250 - 538), nặng 527 gam, cán kiếm dài 7,5 cm và bao kiếm dài 92,1 cm. Hiện thanh kiếm này được cất giữ tại đền thờ Omura.
Thanh kiếm Shichiseiken còn được gọi là Kiếm Gấu Lớn, hay Kiếm 7 Ngôi sao, bởi nó được khảm hình đám mây và 7 ngôi sao, tạo thành hình chòm sao Gấu Lớn. Thanh kiếm này hiện nay đang được cất giữ tại chùa Shitenno-ji (Osaka).
Thanh kiếm này được đặt theo tên của dòng chữ khám vàng trên lưỡi kiếm: Heishi Shōrin và đang được cất giữ tại chùa Shitenno-ji.
Thanh kiếm 7 ngạnh huyền thoại Nanatsusaya-no-Tachi từ thế kỉ thứ Tư đang được cất giữ bí mật tại đền Isonokami (Nhật Bản). Kiếm dài 74,9 cm với lưỡi kiếm chính dài 65,5 cm, chỉ được dùng trong các nghi lễ chứ không phải trong chiến đấu. Hiện nguồn gốc của thanh kiếm này vẫn chưa thực sự rõ ràng. Có nhiều tài liệu cho rằng, đây là đồ cống nạp của nhà vua xứ Baekje (tây nam Trung Quốc cống nạp cho Nhật Bản, song cũng có nguồn tin cho rằng nó có xuất xứ từ triều nhà Tấn (Trung Quốc). Trong ảnh: Bản sao của thanh kiếm 7 ngạnh được trưng bày tại bảo tàng ở Hàn Quốc.
Cùng với chiếc gương và viên ngọc, thanh kiếm Kusanagi no Tsurugi là biểu tượng cho sự dũng cảm được mệnh danh là Tam Chủng Thần Khí của Nhật Bản. Theo truyền thuyết, kiếm Kusanagi no Tsurugi được mọc ra từ đuôi con Bát Kỳ Đại Xà sau khi nó bị thần gió Susanoo giết chết. Sau này, thanh kiếm đã cùng với Ninigi-no-Mikoto thành lập nên quốc gia Nhật Bản. Nơi cất giữ của thanh kiếm này cùng 2 báu vật kia vẫn còn là một bí ẩn.
Thanh kiếm Honjo Masamune do bậc thầy luyện kiếm Masamune người Nhật Bản tạo ra. Nó là bảo vật được các đời Mạc chúa (chính di Đại tướng quân) Nhật Bản truyền lại cho nhau và là biểu tượng cho chế độ Mạc phủ, thời kì Edo tại Nhật. Kể từ khi bị thất lạc sau Chiến tranh Thế giới thứ Hai tới nay, người ta vẫn chưa xác định được thanh kiếm này đang ở đâu.
Thanh kiếm Hyuga Masamune từng ở bên cạnh Ishida Mitsunari - nhà chỉ huy quân sự Nhật Bản giữa thế kỉ 16, người đứng đầu thành trì vững chắc nhất một thời - trước khi nó được trao lại cho em rể ông. Thanh kiếm này dài 24,8 cm và hiện đang được cất giữ tại Bảo tàng tưởng nhiệm Mitsui (Tokyo).
Thanh Tomonari có từ thời kì Heian (thế kỉ 11) và hiện đang được trưng bày tại Bảo tàng Quốc gia Tokyo (Nhật Bản). Kiếm dài 80,3 cm với độ cong 2,4 cm.
Thanh kiếm Atsushi Toshiro được đặt tên là Atsushi bởi độ dày bất thường cửa lưỡi kiếm ("atsushi" theo tiếng Nhật nghĩa là "dày"). Thanh kiếm từng được truyền lại qua các đời Mạc chúa của gia tộc Ashikaga trước nằm trong tay nhiều lãnh chúa phong kiến Nhật Bản. Thanh kiếm đang được trưng bày tại Bảo tàng Quốc gia Tokyo.
Kiếm Tsurugi là của hồi môn của Mạc chúa Tokugawa Iemitsu tặng cho con gái nuôi Seitaiin. Sau khi Seitaiin qua đời, con trai bà đã tặng thanh kiếm này cho ngôi đền Shirayamahime để cầu chúc cho bà được hạnh phúc ở kiếp sau. Thanh kiếm hiện đang được cất giữ tại Bảo tàng Nghệ thuật tỉnh Ishikawa, Nhật Bản.