超越二进制,人声训练的神经网络更智能

科技工作者之家  |   2021-04-08 07:06

4b3fb5.png

图片来自pixabay.com

比特为数字革命奠定了基础,几十年过去了,越来越多的信息和知识转化为“0/1”数字流。因此,“计算机偏好用二进制数字交流”的观点已经深入人心。然而,据sciencedaily.com网站4月6日报道,美国哥伦比亚大学研究人员Hod Lipson教授领导的新研究显示,这种情况即将发生改变。他们发现,相较于传统的二进制系统,用人类语言的声音文件编程的人工智能系统在图像识别性能方面更具优势。

在信息传递方面,二进制数字语言是紧凑、精确的。相比之下,人类口语则更具音调性、模拟性,且在集成数字文件时不具备二分性。数字是数据数字化的有效方式,因此程序员们在开发神经网络时很少偏离数字驱动过程。Lipson教授等人认为,基于简单二进制的神经网络可能无法充分发挥其潜能。他们推测,用人类发出特定单词的声音作为训练素材,神经网络也许能学习得更快、更好。

为了验证假设,Lipson教授和博士生Boyuan Chen设计了一组对照实验。他们创建了两种神经网络,并训练两者在五万张训练图像中识别10种不同类型的物体。第一个人工智能系统(下文称二进制神经网络)以传统方式进行训练。研究人员向其上传了一张数千行的巨大数据表,每一行对应一张训练照片。第一列是包含特定照片的图片文件,接下来的10列对应10种可能的对象类型。任意一列的“1”表示正确答案,9个“0”表示错误答案。接着,研究人员以全新方式创建了实验神经网络(下文称声音神经网络)。他们向系统输入了第二列为音频文件的数据表,文件中记录了人类大声说出的描述性单词(描述动物或其他物体)。

当两者都准备就绪后,Chen对其展开了为时15小时的训练,然后比较了它们的性能。当看到一幅图像时,二进制神经网络会给出一系列包含1和0的答案。而声音神经网络则“吐露”了清晰的声音,似乎想“说出”图像中的物体类型。最初,声音只是乱码,后来出现了类别混淆(如“cat”和“dog”的混合音“cog”),最终,它给出了近乎正确的答案(尽管腔调怪异)。

研究人员发现,二进制神经系统没有表现出明显优势。两种神经网络都能以92%的准确率识别照片中的物体。重复实验的结果与初始结果一致。然而,他们接下来的发现更令人惊讶。为了进一步探索以声音作为训练工具的局限性,研究人员设置了另一组平行比较实验。他们大大减少了训练图像的输入量——在第二轮实验中,两种网络都只输入了2500张训练图像。

这时,二进制网络的识别准确率降低至35%左右,而声音神经网络的准确率仅降低至约75%。出于好奇,研究人员继续用更具挑战性的“模糊图像”测试了语音训练法。结果显示,声音神经网络的识别准确率(50%)依然高于二进制神经网络(20%)。

实际上,这一成果支持了信息论之父Claude Shannon提出的古老假设。Shannon认为,最有效通信信号的特征是最优比特数搭配最优数量的有用信息。“考虑到人类语言已经经历了数万年的优化过程,这是完全有道理的。人类口语已经在噪音和信号之间找到了平衡点。”Lipson教授说,“因此,从Shannon的角度来看,用人类语言训练的神经网络,确实会优于二进制训练的神经网络。”

Chen补充:“我们应该考虑用更好的方法来训练人工智能系统,而不是一味地去收集更大的数据集。如果我们能够重新思考如何更好地将训练数据赋予机器,‘训练师们’就能做得更好。”

科界原创 

编译:雷鑫宇 

审稿:西莫 

责编:陈之涵

来源:哥伦比亚大学

原文链接:

https://www.sciencedaily.com/releases/2021/04/210406131947.htm

版权声明:本文由科界平台原创编译,中文内容仅供参考,一切内容以英文原版为准。转载请注明来源科技工作者之家—科界App。


相关推荐 换一换

  • 谢明华
    0
    在继续保持消费互联网领先的同时,中国要发力加快推进工业、服务业、农业领域的产业互联网发展。特别是加快工业互联网发展,以引领中国工业发展方式的全方位变革。
  • 袁勇
    0
    科界平台,内容丰富,解读权威,值得关注!!!
  • 娄碧贵
    0
    科技助力高质量发展,科界是个学习的好平台!
  • 娄碧贵
    0
    科技助力高质量发展,科界是个学习的好平台!
  • 李兰
    0
    科界这个平台很好,让我们学到了很多,我们要加强学习,提升自己
  • 李兰
    0
    科界这个平台很好,让我们学到了很多,我们要加强学习,提升自己
  • 张军
    0
    在信息传递方面,二进制数字语言是紧凑、精确的。
  • 蒋宏
    0
    燕窝大补的说法,来源是卖燕窝的海商;而海商自称是从“土番”那儿听说。这里面有一个靠谱的吗?
  • 刘晓菲
    0
    科技工作者之家,内容丰富,权威解读
  • 隋丰蔚
    0
    科技工作者之家,内容丰富,权威解读
加载更多