京公网安备 11010802034615号
经营许可证编号:京B2-20210330
巴别塔的轰塌
圣经旧约第十一章,讲到了巴别塔的故事:人类联合起来兴建希望能通往天堂的高塔;为了阻止人类的计划,上帝让人类说不同的语言,使人类相互之间不能沟通,人类的宏伟计划因此失败,自此各散东西。
圣经在这里解释了为什么人类会产生不同语言和种族,当然在今天,考古与进化论已经告诉我们原因并不是上帝之怒。当然,无论怎么解释,语言的隔阂对人类社会产生的影响是如此之深与如此之广,以至于时至今天仍然不能例外。
人类对于信息是有着基本的需求,就如吃饭睡觉一样,而语言的产生刚好满足了这些需求,可是不同语言的隔阂却又阻碍了这种基本需求,于是翻译职业成为了沟通两个社会与文化的桥梁。翻译精通各种语言,游走于各种人群中,加强了了不同文化间的各种信息交流。但是精通各个语言的技能对于一个人来讲需要多语言环境与很长时间的训练,而普通人往往无法做到,所以,人类这种基本需求虽然得到了改善,但显然还不够,还需要一种更加容易的方法或载体去满足这个需求。上个世纪计算机的产生,为这种需求提供了一种可能的途径:机器翻译。
机器翻译的序幕与低潮-人类的自我否定
上个世纪之初,图灵大神提出计算机的可行性理论,约翰·冯·诺依曼大神提出了具体实现的方案,1946年,宾夕法尼亚大学的两位教授发明了人类历史的第一台计算机,几乎是在同时,美国洛克菲勒基金会副总裁韦弗在讨论计算机的应用范围时,提出了利用计算机实现语言的自动翻译的想法,并且很多学者与实业家表示支持。可见,人类对信息能够互通的这种渴望有多么强烈!
不同语言都在于描述客观世界与人类社会,其本质一致,唯一不同在于编码与解码的方式。同样是我,英语常用“I”,汉语常用“我”,无非是读音与字形不一。另外,可以尝试通过一个中介语言去统一所有语言的编码从而作为计算机输入输出的中间层从而实现翻译,这也就是韦弗当初的想法,也是当时的主流思想:直接按词翻译。
于是机器翻译大热与政治因素,美国、苏联、欧洲政府都投入了大量的资金支持机器翻译的研究,中国也在1956年将机器翻译列入了全国科学工作发展规划,1957 年,中国科学院语言研究所与计算技术研究所合作开展俄汉机器翻译试验,翻译了9 种不同类型的较为复杂的句子。
但是, 1964年,美国科学院成立语言自动处理咨询委员会,调查机器翻译的研究情况,给出了“在目前给机器翻译以大力支持还没有多少理由”的结论,全面否定了机器翻译的可行性,并建议停止对机器翻译项目的资金支持,这也是由于当时的计算机性能不佳与自然语言本身的复杂所致。由此机器翻译由此陷入低潮,此时上帝笑了,你们永远别想再造巴别塔,那么机器翻译之路就这么被打断吗,人类的动力来自希望,可此时,希望变成了绝望…
基于规则的机器翻译-不尽如人意
到了上个世纪七十年代,计算机性能与全球化的发展使得机器翻译重回人们视野,此时对于实现机器翻译,语言学家乔姆斯在博士论文中,他开始发现自己的一些语言学思想,后来他将这些进一步阐发,写成了他在语言学方面大概最有名的著作《句法结构》,他认为一种语言无限的句子可以由有限的规则推导出来,于是重视句法分析成为机器翻译的主流。
任何一门语言的句子,无论其再长,再难,只要准确得确定其结构,调整好语序,再根据构成句子成分的各个词语的含义,翻译起来就能够非常准确。这里所谓规则,指的就是句法结构与语序特点。其实,这和人类翻译的思路是一脉相承的。人类翻译非常灵活,可以准确无误得翻译哪怕是不服从句法规则的语言,但是机器便有很多问题来了,句子的规则源于人,所以有大有小,有的甚至没规则,这样计算机在面对多样句法的句子中,显得极不稳定,尤其是面对较细的规则。这也是基于规则的机器翻译的致命软肋,也是至今这种方法没有突破进展的原因。
此时上帝又笑了,不过如此嘛…
基于统计的机器翻译-新思路
“MY GOD”-“我勒个擦”
应该没人会认为以上的翻译会出自机器。
1993年,IBM的一个工程师提出了利用统计方法去进行机器翻译的思路,1999年,约翰·霍普金斯大学的研究者实现了统计机器翻译的基石。
既然是统计方法,就需要给出已知的翻译成例以作为训练样本,这便是一个庞大的平行语料库。在现成的翻译的句子中,有些词可以被翻译成多个词,有些则完全不需要翻译,这里一个句子中的每个词语便有各种翻译的概率,并且还有相对于平行文本句子中的位置的概率,于是这些都成了统计学意义上的参数,机器本身并不需要知道词的含义,但如果它知道这些参数,再对于一个需要翻译的句子,给出它各种翻译和其相对位置的概率,然后挑选概率最高的作为输出,得到了翻译结果。从概率论的角度上看,其实便是求多种情况下条件概率最大值的问题。
下面四个例子,说明了这种翻译的效果:

“我是机器人“,显然这句话习惯翻译为I am a ROBOT。但貌似机器给出的结果缺少了谓语,这是为何?加个逗号试试:
呵呵,是不是接近答案啦。这里第一个情况,机器将其识别为一个短语,也就是当成了一个整体,而不是句子,这个时候,参数估计中重要的位置参数便会丢失,于是机器机器将其当短语识别,在平行预料库中,只计算”我是机器人“这个短语的在平行语料库中最大可能的翻译。记得威尔史密斯那部经典的关于人工智能的电影吗?它就叫《I ROBOT》。
加了逗号以后,机器将其识别为一个分句,这时有个位置与翻译概率两者共同决定了最大可能的翻译,命中了。那么,加个句号不就是一个完整的句子了吗,试试:
这次是有谓语,但是时态错了。为啥呢?机器肯定是在寻找了大量平行语料计算条件概率再给出了这个结果,而语料产生于人,在一个完整的句子中,人说自己是机器人,通常是一种虚拟语气,一种情况是你在抱怨任务太多,希望自己是个机器人能够短时间完成任务,于是谓语是was而不是am,意在表达这种情况并非真实,但有此意愿。所以如果是“我不是机器人”这句话,虚拟语气就应该没有问题了,那么我们看看:

这下对了吧,人确实不是机器人嘛,在英语中就不会出现虚拟语气的情况了。
从以上的四个例子,可以看出统计机器翻译的特点:精准但是依赖于平行语料库。平行语料库太少,显然翻译容易出问题,但是如果语料库太多,统计算法会对计算机的性能提出更强大的要求,而这种要求其实就是对于人工智能的要求。
此时,上帝打了个喷嚏,额,我没事,这个貌似有点靠谱,但是你们还是造不出巴别塔。
再造巴别塔-任重道远
虽然统计机器翻译表现出色,但是机器翻译本身还很多问题,机器取代不了人类。中国数学家、语言学家周海中曾在论文《机器翻译五十年》中指出:要提高机译的译文质量,首先要解决的是语言本身问题而不是程序设计问题。也就是说,机器翻译最终还是受制于人类对语言本身的了解,它到底是怎么产生的,大脑中是如何运行的。。。路漫漫其修远兮啊,但还是要有信心,总有一日人类能够重塑圣经,再造巴别塔!
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
教材入口:https://edu.cda.cn/goods/show/3151 “纲举目张,执本末从。” 若想在数据分析领域有所收获,一套合适的学习教材至 ...
2025-11-04【2025最新版】CDA考试教材:CDA教材一级:商业数据分析(2025)__商业数据分析_cda教材_考试教材 (cdaglobal.com) ...
2025-11-04在数字化时代,数据挖掘不再是实验室里的技术探索,而是驱动商业决策的核心能力 —— 它能从海量数据中挖掘出 “降低成本、提升 ...
2025-11-04在 DDPM(Denoising Diffusion Probabilistic Models)训练过程中,开发者最常困惑的问题莫过于:“我的模型 loss 降到多少才算 ...
2025-11-04在 CDA(Certified Data Analyst)数据分析师的工作中,“无监督样本分组” 是高频需求 —— 例如 “将用户按行为特征分为高价值 ...
2025-11-04当沃尔玛数据分析师首次发现 “啤酒与尿布” 的高频共现规律时,他们揭开了数据挖掘最迷人的面纱 —— 那些隐藏在消费行为背后 ...
2025-11-03这个问题精准切中了配对样本统计检验的核心差异点,理解二者区别是避免统计方法误用的关键。核心结论是:stats.ttest_rel(配对 ...
2025-11-03在 CDA(Certified Data Analyst)数据分析师的工作中,“高维数据的潜在规律挖掘” 是进阶需求 —— 例如用户行为包含 “浏览次 ...
2025-11-03在 MySQL 数据查询中,“按顺序计数” 是高频需求 —— 例如 “统计近 7 天每日订单量”“按用户 ID 顺序展示消费记录”“按产品 ...
2025-10-31在数据分析中,“累计百分比” 是衡量 “部分与整体关系” 的核心指标 —— 它通过 “逐步累加的占比”,直观呈现数据的分布特征 ...
2025-10-31在 CDA(Certified Data Analyst)数据分析师的工作中,“二分类预测” 是高频需求 —— 例如 “预测用户是否会流失”“判断客户 ...
2025-10-31在 MySQL 实际应用中,“频繁写入同一表” 是常见场景 —— 如实时日志存储(用户操作日志、系统运行日志)、高频交易记录(支付 ...
2025-10-30为帮助教育工作者、研究者科学分析 “班级规模” 与 “平均成绩” 的关联关系,我将从相关系数的核心定义与类型切入,详解 “数 ...
2025-10-30对 CDA(Certified Data Analyst)数据分析师而言,“相关系数” 不是简单的数字计算,而是 “从业务问题出发,量化变量间关联强 ...
2025-10-30在构建前向神经网络(Feedforward Neural Network,简称 FNN)时,“隐藏层数目设多少?每个隐藏层该放多少个神经元?” 是每个 ...
2025-10-29这个问题切中了 Excel 用户的常见困惑 —— 将 “数据可视化工具” 与 “数据挖掘算法” 的功能边界混淆。核心结论是:Excel 透 ...
2025-10-29在 CDA(Certified Data Analyst)数据分析师的工作中,“多组数据差异验证” 是高频需求 —— 例如 “3 家门店的销售额是否有显 ...
2025-10-29在数据分析中,“正态分布” 是许多统计方法(如 t 检验、方差分析、线性回归)的核心假设 —— 数据符合正态分布时,统计检验的 ...
2025-10-28箱线图(Box Plot)作为展示数据分布的核心统计图表,能直观呈现数据的中位数、四分位数、离散程度与异常值,是质量控制、实验分 ...
2025-10-28在 CDA(Certified Data Analyst)数据分析师的工作中,“分类变量关联分析” 是高频需求 —— 例如 “用户性别是否影响支付方式 ...
2025-10-28