Chữ Kana được tạo ra bằng cách đơn giản hoá chữ Hán sau khi đã loại bỏ nghĩa của chữ Hán đó, chỉ giữ lại âm. Tác phẩm Vạn diệp tập (Man'yoshu) được biên soạn vào khoảng giữa thế kỷ thứ 8 bao gồm khoảng 4500 câu ca, toàn bộ được viết bằng chữ Hán (Kanji) theo kiểu ateji (Hoạt tự - chỉ dùng âm, không quan tâm đến nghĩa của chữ đó để biểu thị một từ). Sau đó Kana được hoàn thiện dần dần và vào cuối thế kỷ thứ 9, bộ chữ mềm Hiragana được hoàn thành. Chữ cứng Katakana là bản đơn giản hoá hơn nữa của Hiragana. Katakana cũng được tạo ra cùng thời với Hiragana. Ngay từ đầu thế kỷ thứ 9 đã có nhiều văn tự viết bằng Katakana