京公网安备 11010802034615号
经营许可证编号:京B2-20210330
巴别塔的轰塌
圣经旧约第十一章,讲到了巴别塔的故事:人类联合起来兴建希望能通往天堂的高塔;为了阻止人类的计划,上帝让人类说不同的语言,使人类相互之间不能沟通,人类的宏伟计划因此失败,自此各散东西。
圣经在这里解释了为什么人类会产生不同语言和种族,当然在今天,考古与进化论已经告诉我们原因并不是上帝之怒。当然,无论怎么解释,语言的隔阂对人类社会产生的影响是如此之深与如此之广,以至于时至今天仍然不能例外。
人类对于信息是有着基本的需求,就如吃饭睡觉一样,而语言的产生刚好满足了这些需求,可是不同语言的隔阂却又阻碍了这种基本需求,于是翻译职业成为了沟通两个社会与文化的桥梁。翻译精通各种语言,游走于各种人群中,加强了了不同文化间的各种信息交流。但是精通各个语言的技能对于一个人来讲需要多语言环境与很长时间的训练,而普通人往往无法做到,所以,人类这种基本需求虽然得到了改善,但显然还不够,还需要一种更加容易的方法或载体去满足这个需求。上个世纪计算机的产生,为这种需求提供了一种可能的途径:机器翻译。
机器翻译的序幕与低潮-人类的自我否定
上个世纪之初,图灵大神提出计算机的可行性理论,约翰·冯·诺依曼大神提出了具体实现的方案,1946年,宾夕法尼亚大学的两位教授发明了人类历史的第一台计算机,几乎是在同时,美国洛克菲勒基金会副总裁韦弗在讨论计算机的应用范围时,提出了利用计算机实现语言的自动翻译的想法,并且很多学者与实业家表示支持。可见,人类对信息能够互通的这种渴望有多么强烈!
不同语言都在于描述客观世界与人类社会,其本质一致,唯一不同在于编码与解码的方式。同样是我,英语常用“I”,汉语常用“我”,无非是读音与字形不一。另外,可以尝试通过一个中介语言去统一所有语言的编码从而作为计算机输入输出的中间层从而实现翻译,这也就是韦弗当初的想法,也是当时的主流思想:直接按词翻译。
于是机器翻译大热与政治因素,美国、苏联、欧洲政府都投入了大量的资金支持机器翻译的研究,中国也在1956年将机器翻译列入了全国科学工作发展规划,1957 年,中国科学院语言研究所与计算技术研究所合作开展俄汉机器翻译试验,翻译了9 种不同类型的较为复杂的句子。
但是, 1964年,美国科学院成立语言自动处理咨询委员会,调查机器翻译的研究情况,给出了“在目前给机器翻译以大力支持还没有多少理由”的结论,全面否定了机器翻译的可行性,并建议停止对机器翻译项目的资金支持,这也是由于当时的计算机性能不佳与自然语言本身的复杂所致。由此机器翻译由此陷入低潮,此时上帝笑了,你们永远别想再造巴别塔,那么机器翻译之路就这么被打断吗,人类的动力来自希望,可此时,希望变成了绝望…
基于规则的机器翻译-不尽如人意
到了上个世纪七十年代,计算机性能与全球化的发展使得机器翻译重回人们视野,此时对于实现机器翻译,语言学家乔姆斯在博士论文中,他开始发现自己的一些语言学思想,后来他将这些进一步阐发,写成了他在语言学方面大概最有名的著作《句法结构》,他认为一种语言无限的句子可以由有限的规则推导出来,于是重视句法分析成为机器翻译的主流。
任何一门语言的句子,无论其再长,再难,只要准确得确定其结构,调整好语序,再根据构成句子成分的各个词语的含义,翻译起来就能够非常准确。这里所谓规则,指的就是句法结构与语序特点。其实,这和人类翻译的思路是一脉相承的。人类翻译非常灵活,可以准确无误得翻译哪怕是不服从句法规则的语言,但是机器便有很多问题来了,句子的规则源于人,所以有大有小,有的甚至没规则,这样计算机在面对多样句法的句子中,显得极不稳定,尤其是面对较细的规则。这也是基于规则的机器翻译的致命软肋,也是至今这种方法没有突破进展的原因。
此时上帝又笑了,不过如此嘛…
基于统计的机器翻译-新思路
“MY GOD”-“我勒个擦”
应该没人会认为以上的翻译会出自机器。
1993年,IBM的一个工程师提出了利用统计方法去进行机器翻译的思路,1999年,约翰·霍普金斯大学的研究者实现了统计机器翻译的基石。
既然是统计方法,就需要给出已知的翻译成例以作为训练样本,这便是一个庞大的平行语料库。在现成的翻译的句子中,有些词可以被翻译成多个词,有些则完全不需要翻译,这里一个句子中的每个词语便有各种翻译的概率,并且还有相对于平行文本句子中的位置的概率,于是这些都成了统计学意义上的参数,机器本身并不需要知道词的含义,但如果它知道这些参数,再对于一个需要翻译的句子,给出它各种翻译和其相对位置的概率,然后挑选概率最高的作为输出,得到了翻译结果。从概率论的角度上看,其实便是求多种情况下条件概率最大值的问题。
下面四个例子,说明了这种翻译的效果:

“我是机器人“,显然这句话习惯翻译为I am a ROBOT。但貌似机器给出的结果缺少了谓语,这是为何?加个逗号试试:
呵呵,是不是接近答案啦。这里第一个情况,机器将其识别为一个短语,也就是当成了一个整体,而不是句子,这个时候,参数估计中重要的位置参数便会丢失,于是机器机器将其当短语识别,在平行预料库中,只计算”我是机器人“这个短语的在平行语料库中最大可能的翻译。记得威尔史密斯那部经典的关于人工智能的电影吗?它就叫《I ROBOT》。
加了逗号以后,机器将其识别为一个分句,这时有个位置与翻译概率两者共同决定了最大可能的翻译,命中了。那么,加个句号不就是一个完整的句子了吗,试试:
这次是有谓语,但是时态错了。为啥呢?机器肯定是在寻找了大量平行语料计算条件概率再给出了这个结果,而语料产生于人,在一个完整的句子中,人说自己是机器人,通常是一种虚拟语气,一种情况是你在抱怨任务太多,希望自己是个机器人能够短时间完成任务,于是谓语是was而不是am,意在表达这种情况并非真实,但有此意愿。所以如果是“我不是机器人”这句话,虚拟语气就应该没有问题了,那么我们看看:

这下对了吧,人确实不是机器人嘛,在英语中就不会出现虚拟语气的情况了。
从以上的四个例子,可以看出统计机器翻译的特点:精准但是依赖于平行语料库。平行语料库太少,显然翻译容易出问题,但是如果语料库太多,统计算法会对计算机的性能提出更强大的要求,而这种要求其实就是对于人工智能的要求。
此时,上帝打了个喷嚏,额,我没事,这个貌似有点靠谱,但是你们还是造不出巴别塔。
再造巴别塔-任重道远
虽然统计机器翻译表现出色,但是机器翻译本身还很多问题,机器取代不了人类。中国数学家、语言学家周海中曾在论文《机器翻译五十年》中指出:要提高机译的译文质量,首先要解决的是语言本身问题而不是程序设计问题。也就是说,机器翻译最终还是受制于人类对语言本身的了解,它到底是怎么产生的,大脑中是如何运行的。。。路漫漫其修远兮啊,但还是要有信心,总有一日人类能够重塑圣经,再造巴别塔!
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在大数据时代背景下,海量行业数据亟需通过专业化工具挖掘潜在价值,辅助企业业务决策、优化运营模式、规避经营风险。Python凭借 ...
2026-08-28SQL是数据分析领域最基础、最核心的工具,承担着取数、清洗、统计、分层、归因的全流程工作。不同于单纯的语法练习,实战化SQL数 ...
2026-08-28 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-08-28随着新零售模式的快速普及,零售行业从传统的“货品驱动”全面转向“用户驱动”。门店交易数据、线上消费记录、浏览轨迹、复购频 ...
2026-08-27在数据分析、爬虫采集、接口开发、数据归档等场景中,JSON与CSV是两种使用率最高的数据存储格式。JSON为键值对结构化格式,适配 ...
2026-08-27 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-08-27在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-08-24 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19