日語雖然大量使用漢字，可是，從語言譜系看，日語與漢語這兩種語言沒有任何親緣關(guān)系。漢語屬于漢藏語系（漢語的“兄弟姐妹”非常多：我國南方許多少數(shù)民族的語言、中南半島若干民族的語言也屬于漢藏語系），而日語卻不屬于全世界語系中的任何一種語系，在世界語言大家族中特立獨行，尤其是，語法上，漢語、日語的差異大得驚人。一個突出的例子：日語句子里的順序：主語＋賓語＋謂語。日語中，否定、時態(tài)都放在謂語后面作為其詞尾（也就是整句話的結(jié)尾處），以至于日語句子的結(jié)尾處高度堆砌，有頭輕腳重之感。形象的例子：漢語里的“我 還沒有 吃飯”，到日語里，順序就成了“我 飯 吃還沒有”。
對于日本來說，在日本發(fā)展初期大量引進其文化母國——中國的漢字與漢字詞，只是用來豐富日語的詞匯，彌補日語早期詞匯的極度貧乏，而不是引進漢語。這與我國近代以來大量引進英語詞其實是一樣的道理。
無論日語如何大幅度引進漢字以及漢字詞匯，日語在語法方面與漢語的天壤之別并不會因此有任何的大改變。
此外，漢字與漢字詞進入日語之后，漸漸出現(xiàn)了不同程度的“日本化”，與中國本土漢字、漢字詞的意思、發(fā)音甚至寫法都有差異。著名的例子，例如，日語“手紙”是信紙的意思，現(xiàn)代漢語卻是“衛(wèi)生紙”的意思。同樣是用漢字，兩國人之間不見得能夠相互看懂，更談不上聽懂。
日語還自創(chuàng)了一些漢字，例如“辻”、“麿”之類。這是不熟悉日語的中國人感到很棘手的。
日語里還存在大量“假名”（日語字母），它們分別起到詞的作用、漢字詞的補充作用以及語法作用（尤其是語法作用，例如主語詞尾は、賓語詞尾を、形容詞尾ぃ、動詞的一整套極其復(fù)雜的詞尾……）。而傳統(tǒng)漢語是全部用漢字表達一句話的意思（包括表達語法），不使用字母，更不使用“假名”。假名在日語中大量存在，使得沒學(xué)過日語的中國人面對日文時，仍然像是看天書。同樣，日本人面對一篇沒有假名、全部是漢字組成的漢語文章，由于語法被搞蒙了，就算里面的漢字全認識，照樣看不懂，同樣也是一頭霧水。
綜上所述，日本人與中國人交往中，如果彼此不熟悉對方語言，必須借助翻譯。
