中国内部是一个多民族的国家，外部与境外异族往来也很频繁，因此历代朝廷都设有专职或机构，从事翻译工作，不过大都是地位不高。

周朝
在周代以前，长四方之语，各有其官。《礼记》：“东方曰寄，南方曰象，西方曰狄鞮（读低），北方曰译”。宋法云《翻译名义集》：“像胥氏通六蛮语，狄鞮主七戎，寄司九夷，译知八狄”，到了周朝以后，这些“通夷狄之言”的人，才统称为“像胥” 。
《周礼?秋官》中的“像胥”一职，负责出使蛮夷闽貉戌狄之国，掌握这些周边民族事务之人，就是最早见诸文字记载的翻译官。像胥按照对外族语言熟悉的程度，还分“上士一人、中士二人、下士八人及徒二十八人”，要负责传达王命，也要上传各地情势，以利国王统治与安抚邦国诸侯。


汉朝
到了汉朝武帝时，朝廷设立主管少数民族与外国事务的的部门——大鸿胪，其下设有属官有译官令（九译令）及丞，专责翻译。有学者认为，从秦汉以来，北方匈奴始终是朝中心腹之患，处理北方事务是朝中重要政务，把周制的“像胥”改以北方的“译”为官名。此外，为了配合中外交往的需要，汉代在学校中还开展了外语教育，培养翻译人才。《汉书?食货志上》：“八岁入小学，学六甲五方书计之事”，五方之书即相当于今之外语书。

魏晋南北朝唐
魏晋南北朝时，各民族进一步大融合，会外族语言的人愈来愈多，到了唐代，与外国关系更密切，翻译人员也就更多了。不过，整体来说，从南北朝至唐代，官方的翻译机构和译员主要从事佛经的翻译工作，唐代译人和译经数量的是历代之冠。相比之下，官方编制的翻译人员就十分有限，在《唐六典》中记载，“鸿胪寺译语并计二十人，”此外，中书省也配置译语人，称“直中书译语”。译语人品级地位不高，其升迁不超过从七品下的典客署令职位。但是，他们往往被委派出使西域等重要任务。

宋辽金
宋辽金对峙时期，为了知已知彼的需要，宋朝在生员考试中增加了翻译女真文、契丹文和西夏文的内容。而西夏、辽和金国，为了吸收中原地区的先进文化，特别重视翻译工作。
党项族李元昊建立西夏，创制西夏文字，重儒兴佛。官方选派贵族官僚子弟翻译《孙子兵法》、《六韬》、《贞观政要》等大量汉文典籍与佛教经典。佛教是西夏的国教，刻字司只是负责印制佛经佛画的官方机构，与翻译工作没有关联。
契丹族耶律阿保机建立辽国，除了仿效汉字创制契丹文字，也仿效汉制设立百官。官方不仅重视汉文书籍的收集，也很注重翻译的工作 在州以上行政机关设立专门的译文机构。辽道宗下诏制定了译史的升迁等级，按照供职时间长短和工作水平的高低决定其是否升职，藉以激励译员。