中文与有限表示:一个矛盾在四代技术里的轮回

从林语堂 1947 年的明快打字机到 2026 年的大模型 token 词表,中文一直在被塞进只能放下有限单元的信息系统:键盘、编码、tokenizer、神经网络表征。每一代都声称自己解决了问题,下一代会发现问题只是被搬到了新的房间。这是一篇关于代价守恒的长文。

2026年5月6日 · 18 分钟 · Cui Liang