环球热头条丨闽南话翻译系统?厦门大学团队早有推出!
10月19日,在美国Meta公司公布闽南话翻译系统,Meta首席执行官马克·扎克伯格亲自演示系统把闽南话翻译成英语时,万里之外的厦门大学信息学院副教授、智能语音实验室负责人洪青阳收到一大堆朋友的简讯,他们迫不及待地想告诉他:小扎对闽南话下手了!但是,你们两年前不是已经推出闽南话翻译系统了吗?
【资料图】
是的!洪青阳科研团队和厦大人文学院许彬彬科研团队,在2019年推出闽南方言人工智能语音系统,这是一个听得懂闽南话、会说闽南话、也可以写的AI(人工智能)驱动的闽南话语音翻译系统,帮助许多人体会用“中国最难学方言之一”交流的乐趣和便利。
它能做什么?
可实时翻译还能识别文本
10月22日,洪青阳在实验室演示厦大版的闽南话翻译系统。系统的小助手用闽南话说:听说现在可以将闽南话翻译成英语,真巧,我们也有闽南话AI……小助手一边说,系统实时把它的闽南话翻译成中文文字。
不仅听得懂,系统还会说。洪青阳随后示范实时翻译,他用闽南话说:即阵仔有闲无?系统可以立刻翻译为普通话“现在有空吗?”当然,用普通话说,系统也会翻译成闽南话,而且是有腔调的闽南话。小助手说,翻译不限短句,理论上说多长就可以翻译多长。
此外,系统还可以识别不同地区不同口音闽南话,包括厦门、泉州、漳州、潮汕等地。
洪青阳团队认为,从现有资料看,Meta是语音到语音的翻译,没有产生文字,技术方案是从端到端,研究具有开创性,但还不够灵活,比如不能形成识别文本,要延伸到其他应用较难。
在这方面,厦大版闽南话翻译系统,有其先进性——厦大版还涉及文字,可以将汉字转换合成闽南话发音,还有语音识别、合成工具,可以将闽南话翻译成普通话,普通话翻译成闽南话。
美国版闽南话翻译系统是把闽南话翻译为英语,洪青阳说,对于厦大版闽南话翻译系统来说,这毫无问题,最难的部分是将闽南话翻译并显示为普通话,而这已经解决了。
目前,厦大团队的闽南话翻译系统已经上线,在微信的小程序搜索“闽南话识别”和“AI语音合成”,就可以实现闽南话和普通话的无障碍沟通。
洪青阳说,2019年推出系统后,依旧在不断完善升级——当发音速度不一、吞音等情况出现时,系统的背后还有一位“把关人”。当遇上系统无法识别的语音时,许彬彬团队就会进行分析,把新的表达整理成文档,扩充词典和句子语料。与此同时,洪青阳团队在系统后台不断完善算法,以学习到更多口音和生僻词汇。
厦大团队表示,他们在实验室完成0到1的研发,希望有更多人和社会资源参与进来,完成1到100的产业化,助力于闽南话学习和人际交往等等。
它牛在哪里?
听得懂不同口音的“猪”
闽南话的AI翻译,难度不小。闽南话存在非常多的多音字,复杂的文白现象,有音无字的问题等,洪青阳说,这对训练模型中语音数据与其对应音素的正确映射,带去较大的麻烦。
举个例子大家或许就会明白,厦门人经常说,“猪”牵出厦门岛就不叫“猪”了,意思是说,单是“猪”,岛内和岛外发音就不一样,更不用说厦漳泉地区了。厦大版的闽南话翻译系统解决了这类难题,从目前看,有三大亮点。
有地基
重新建立闽南话发音词典
洪青阳介绍,翻译的最大难题是要如何把闽南话发音拆分为声母和韵母,它不同于普通话的声母韵母,尽管之前也有一些闽南话的标音方法,但是,厦大团队发现,这种自创的闽南话发音难以和AI有机结合起来,因此厦大研究人员自己建立一套兼容各地不同口音闽南话发音的体系,等于是为各种口音的闽南话建立一个基本的“地基”,当然,它不同于普通话发音,它是有九个声调的。
有资料库
囊括厦漳泉多地的语音资料
建立语音资料库,用大白话说,这个语音资料库要有足够多人的语音,口音要不同,还要有男女老少语音,这样,AI才会通过语音资料库去识别不同地区不同口音的闽南话。
这是基于许彬彬近十年来的研究成果。许彬彬带领团队借鉴整理了大量语音资料——囊括省内厦漳泉多地的闽南方言、文本,甚至收集境外多处讲闽南话的地点的语音材料。
此外,每到寒暑假,许彬彬团队还会去各地进行田野调查。许彬彬早前接受本报采访时曾介绍:“省内的德化、漳浦、南靖、东山等,以及菲律宾北部城市、美国东部地区,每一个地点至少要停留5天,尽可能全面地收集该地区语音资料。”
有模型
设计声学模型和语言模型
洪青阳团队设计了闽南话的声学模型和语言模型,其中声学模型与发音词典关联,尽可能学习到各地的口音,以不断提升系统的鲁棒性(控制系统的稳定性),语言模型则采用具有丰富语料的普通话文本训练,对用户上下文内容进行有效约束。
洪青阳说,这里的难点是闽南话拼音和普通话词汇的对应,团队因此又设计了识别词典,并整合到解码系统里,最终能直接用普通话文字显示识别内容。对于语音合成,洪青阳团队采用端到端建模框架,并做了前端的大量优化,使闽南话合成更加自然,更加逼真,也更快捷。
除了许彬彬所提供的语音资料外,他们还邀请了众多志愿者参与识别测试,让系统“学习”不同口音的闽南话。待系统基本“学会”不同口音的闽南话后,洪青阳又给系统加大了难度——文读(读书认字时教的语音)和白读(日常生活中广泛使用的语音)都要会。
闽南话中存在大量多音字,有着复杂的文读白读现象,以“大学”这一词为例,就有文读和白读两种读法。研究人员对闽南话语音识别采取了特定规则的发音词典标注,并用革新后的算法建立了闽南话语音识别模型。
为什么选它?
全球约七千万人说闽南话
在美国Meta公司公布闽南话翻译系统后,很多人很吃惊:为什么是闽南话?
原因也很简单,目前,全世界大约有7000万人在说闽南话,分布在福建的厦、漳、泉地区,台湾地区,广东潮汕,雷州半岛,海南岛部分地区以及浙江温州部分乡镇等,此外还有广阔的东南亚。与此同时,闽南话被称为“中国最难学方言之一”。
2013年,洪青阳和许彬彬团队开始闽南话翻译系统研究,洪青阳说,这源于团队中不少人都是闽南人,有闽南情怀。而且,闽南话是我国重要方言之一。与此同时,许彬彬深耕闽南方言等汉语方言研究多年。
当然,Meta公司认为,之所以选择闽南话,还有一个原因:为了解决缺乏文字语种的语言翻译难题。但是,洪青阳说,其实闽南话是有用于书面记载的文字和发音词典。
相关文章
今年1至9月 河北省电子信息产业入统企业957家
从省政府新闻办11月2日举行的2022中国国际数字经济博览会新闻发布会上获悉,今年1至9月,全省电子信息产业入统企业957家,同比增加160家,
小鹏G9获广州自动驾驶路测资格 探索零改装量产Robotaxi新模式
【2022年11月1日】近日,经工信局、公安局、交通局审批后,小鹏G9成功获得广州智能网联汽车道路测试牌照,这意味着小鹏G9开创了使用前装量
让普惠金融回归“民生”,民生小微“四通”助力小微企业健康发展
众所周知,小微企业融资难、融资贵一直以来都是一个世界性难题,发展壮大普惠金融市场也是一个全球性挑战。尽管我国已成为了数字普惠金融发
预计到2024年 云南农民收入将达2万元左右
6月27日,记者从云南省农村居民持续增收三年行动方案政策解读新闻发布会上获悉,《云南省农村居民持续增收三年行动方案(2022—2024年)》突
淮安农商银行发放首笔“驾易贷”产品 助力物流行业纾困
为进一步响应金融机构全力支持货运物流保通保畅,加大物流行业资金支持力度,帮扶重点群体的政策号召,淮安农商银行秉持周到金融 家乡银行
辽宁:下达资金超50亿元支持淘汰燃煤锅炉和散煤治理
今年以来,省财政厅完善政策措施,加大投入力度,重点支持精准治污、科学治污,截至目前,已下达资金超50亿元。在支持淘汰燃煤锅炉和散煤治
东川区多措并举推进产业转型 推动农文旅融合实现“富绿双增”
今年以来,东川区积极应对困难挑战,狠抓任务落实,脱贫成果持续巩固,经济发展稳中向好,产业转型稳步推进,民生福祉不断改善,各项工作稳
东海农商银行白塔支行:推广第三代社保卡工作真情暖人心
心里想着客户,为客户纾困解难。东海农商银行白塔支行坚持以客户为中心的服务理念,在推广第三代社保卡工作中急客户之所急,将便民服务送到
沧州落实“降、缓、返、补”政策 助力企业发展稳定就业
感谢就业见习政策,为我搭起了连接就业的桥梁。王树涛现在是沧州市华亿机电产品有限公司的一名员工。2020年毕业后,他一直没有找到合适的工
87.9万元!沧州实施一次性扩岗补助政策惠及586人
为鼓励企业积极吸纳大学毕业生就业,发挥失业保险助企扩岗作用,自8月以来,沧州市积极实施一次性扩岗补助政策。截至9月23日,全市已为232
河北探索特色产业发展新路 实现农业增效农民增收助力乡村振兴
近日,在正定县南楼乡完民庄村谷子种植基地,河北惜康农业科技有限公司负责人李智勇和完民庄村党支部书记郭博边查看谷子长势,边商量晾晒场
宜兴农商银行:“钟灵阳羡天宝物华”助农直播取得圆满成功
近日,由江苏省农村信用社联合社主办,宜兴农商银行承办的大美江苏乡村行——钟灵阳羡,天宝物华助农直播取得圆满成功。该次直播聚力宣传宜
中国鸭梨之乡魏县:金融活水助企纾困“贷”动乡村振兴路
9月,中国鸭梨之乡魏县处处洋溢着丰收的喜悦。虽然疫情的阴霾仍未消散,但当地稳定经济一揽子举措的效果已经呈现。金融活水助企纾困而贷动
前8月河北新增专利授权8万件同比增长8.4% 助力营造市场化
从省市场监管局获悉,今年以来,河北知识产权保护工作重点任务落地落实取得积极成效。1至8月,全省新增专利授权8万件,同比增长8 4%,其中
安徽三次产业投资结构持续优化 占全省投资的63.9%
数据显示,全省投资产业结构持续优化,三次产业投资结构由上年同期的1 6∶31 5∶66 9调整为2 0∶34 1∶63 9。第一产业投资高增长,完成投资
盱眙农商银行:用好“加减乘除”四大法则保实体经济百业兴
量大面广的小微企业是国民经济重要支柱,盱眙农商银行坚守金融为民初心,把服务小微企业刻进基因、落到实处,专门出台支持中小微企业纾困解
聚焦重点精准发力!沧州规上高新技术企业数量位居全省首位
从沧州市统计局获悉,今年以来,沧州市围绕强化企业创新主体地位,大力培育高新技术企业,截至7月底,全市规模以上高新技术企业达732家,较
公积金政策再加码!超120个城市发布公积金贷款政策
9月13日,江苏省徐州市住房公积金管理中心发布了《关于阶段性调整住房公积金贷款政策的通知》(以下简称《通知》),明确个人公积金贷款额度
从“群众跑腿”到“数据跑路” 河北“一网通办”再升级
按照省委十届二次全会部署要求,今年省政务服务办牢牢把握全省一盘棋、平台一体化、办事一张网的总体要求,依托全省一体化政务服务平台,构
河北科技赋能农业综合生产能力稳步提升 全面提升特色产业科技支撑能力
河北坚持把强化科技创新推广作为深化农业供给侧结构性改革、推进乡村振兴、促进农业高质量发展的关键举措,立足三产融合,针对薄弱环节,积
减费让利惠企利民 南通农商银行多措并举优化营商环境
近年来,南通农商银行认真贯彻落实国务院及监管部门关于金融机构减费让利、惠企利民的工作部署,积极担当服务实体经济责任,在人民银行南通
河北:1至7月省市重点项目完成投资7154.8亿元
4月份开工至今,项目建设非常顺利,主体厂房建设已经完成了20%。日前,在位于石家庄市藁城区的河北龙海药业医药产业园项目建设现场,公司研
沛县农商银行举办“金融支持乡村振兴暨 ‘金融夜校’纳凉晚会”
为进一步提升村民的金融基础知识和风险防范意识,有力增强村民的金融素养和金融防骗能力,树立沛县农商银行践行社会责任和维护金融秩序、保