Sword Gai conta a história de Gai, ainda jovem perdeu sua mãe, que encontrou a morte num bosque, ele então foi adotado pelo espadachim Amon. Anos depois, Gai se torna aprendiz de Amon e durante a forja de uma espada acaba perdendo o braço direito. Amon então, para ajudá-lo, molda a espada demoníaca Shiryu com a forma de um braço, para assim substituir o braço de Gai, que agora pode se fundir com a arma e lutar contra seus inimigos.