论Token一词的翻译¶
——读〈囤Token能暴富?gj安全部提醒〉有感
Tip
此文章于2026年4月7日在手机备忘录上创作,于2026年8月3日搬运到博客上。
这几周,最热闹的翻译讨论莫过于Token一词怎么翻译, RM日报一锤定音 , 说 “词元(Token)是大模型处理信息的最小信息单元,具有智能时代可计量、可定价、可交易的特征”。 一开始我觉得这个翻译挺好的,但是过了一段时间之后,我心里长出来一个大大的问号。
原因就在于我看到 新闻 说 “词元有被泄露劫持的风险和伪造篡改的风险”“词元可作为身份凭证” 。 在说清楚为什么我一头雾水之前,我想先讨论Token一词在人工智能(确切的说是大语言模型)爆发之前是什么意思。
对于00后(甚至可能更早)而言,最早不知情地接触到Token一词,可能是在Steam的令牌验证里。 打开邮箱令牌验证功能之后,在新设备登录时,Steam会给我们邮箱发一串随机的英文/数字,只有输入了这串英文/数字你才能成功进行登录操作。
听起来很熟悉是不是?这其实就是验证码。那么令牌是怎么来的呢?让我不妨假装很有文化一点,根据百度百科, 令牌是一种道教法器,起源于中国古代军队发号施令用的虎符——从这个角度来说,令牌是一种身份证明,因此将Token翻译成令牌也说得过去。
Token的另一个含义¶
但是在计算机技术领域,Token还有1个含义(甚至可能还有别的含义),这就不得不提数十年前那些大佬还在畅想人工智能的时候, 他们认为要想让计算机理解人类的语言, 应该把句子拆分成一个一个的“词” ,然后判断“词”的词性,比如主语/谓语/宾语这类的听了让初高中生发指的老一套 (这个思想还被继承到了编程语言里)。然后他们怎么称呼这个可以按特定顺序串联起来组成一个句子的东西呢?
答案是Token。这个时候的Token的含义才(应当)能与RM日报提出的“词元”的含义相同。
二十世纪结束了,二十一世纪也走完了五分之一,Token一词的不同含义,在大语言模型大爆发的时代里奇妙地碰到了一块。 以Deepseek公司和大模型为例,使用官方APP调用模型是免费的,但是很多企业、高校、个人个体等, 喜欢把Deepseek大模型的功能接入他们自己的软件当中,这就需要绕过官方APP,选择通过API(一套对接的规范) 来使用大模型。
这个API,大多数情况下,是收费且有额度限制的。用什么来衡量额度呢?答案显然是 Token(词元) 。
既然有额度限制,所以Deepseek公司需要通过一个东西来区分使用这个API的个体是谁——说到身份证明,这就很熟悉了——答案又是 Token(令牌) 。
破案¶
这下破案了,即使把范围限制在计算机领域,Token一词在不同语境下也有不同的意思—— 一种是作为类似货币的东西 , 用来衡量你使用某个大模型的强度; 一种是身份证明 ,向大模型的运营公司证明你是谁,你买了什么套餐, 你有权限通过这个API以多大的强度使用这个大模型。
在了解了以上内容之后,你再去看所谓“窃取/篡改词元”,就会和我一样一头雾水——词元这个东西,订阅制词元套餐就和流量套餐一样, 这个月词元额度用不完,只要你续费下个月还是有那么多词元额度给你用。词元究其根本是一串串在推理过程中被反复计算的数字,谈何窃取和篡改? (如果是窃取个人信息,那也应该是窃取你发给AI的信息)
但是如果你把这个“窃取/篡改词元”看作是窃取/篡改令牌呢?因为令牌这个东西,是你去申请注册, 由大模型的运营公司(现在有人管这个叫推理提供商)发给你的。说得更广泛一些是某个公司给你开的身份证明, 可以通过这个身份证明使用他们提供的服务。自古以来就有偷身份凭证或者伪造身份凭证,然后盗号或者顶人的事情。这就解释得通了。
总结¶
再说回这个RM日报给出的翻译,我们应当搞清楚谁是真正被定义的那个。RM日报定义的词元是“大模型处理信息的最小信息单元”, 对应英文译名为Token——不是所有的Token都叫词元。
或者说,词元一定是Token(至少目前大概如此),但是Token不一定是词元。
(完)
Tip
以下内容新增于2026.8.3。
支线任务:编译理论中的“令牌”与Token¶
高中的时候我对编译器的开发非常感兴趣。那个时候找了一堆中英文文档来啃,我频繁地看到 Token 和 令牌 这个词。
每当我去搜Token的中文翻译的时候,我都会再度看到那个熟悉的中文词汇: 令牌 。
然后就会有一万只草泥马在我脑海里奔腾而过。
如果你认真看完了本篇文章前面的正文部分的话,那你就会猜到这是怎么回事了。
还记不记得我前面说过,编程语言继承了 “把句子拆分成一个一个的“词” ,然后判断“词”的词性” 的思想。
因为在历史上,编程语言就是那些大佬畅想人工智能的副产物,编程语言实际上就是一种语法比较死板比较贴近数学和逻辑表达的语言。
而在这个情景里, Token 再怎么着都不可能翻译成 令牌 ——一个表示身份证明的词汇。
编译器相关文献中提到的 Token ,其实是类似 词元 的 东西 ,
撑死了也只能翻译成 词元 。