Criado en el bosque por su padre Kenjuurou, con una espada en la mano y nada de mundo, Kurogane Yaiba llega a Tokio dentro de un cargamento de piñas. La familia Mine lo acoge, Sayaka Mine lo obliga a ir a la escuela y ahí se cruza con Takeshi Onimaru, prodigio del kendo: el primer duelo entre los dos queda en empate. Cuando Onimaru encuentra una katana maldita y apunta al mundo entero, Yaiba sale a buscar espadas legendarias para responderle.