2月20日,英伟达宣布推出AI手语学习工具Signs。

有数据显示,在美国,美国手语(American Sign Languge)是第三大普遍使用的语言,但利用美国手语数据开发的AI工具的数量却远远少于其他常用语言的工具数量。这也是Signs平台诞生的原因。

Signs平台在网页端运行,由英伟达与美国聋儿协会(American Society for Deaf Children)和创意机构Hello Monday共同开发,供用户免费使用。

“大多数聋儿父母的听力都是正常的。为聋儿的家庭成员提供像Signs这样的便捷工具,让他们尽早开始学习手语,可以帮助他们与6至8个月大的儿童建立有效的沟通渠道。”美国聋儿协会执行董事Cheri Dowling说。“而且,由于知道专业的美国手语教师已经验证了平台上的所有词汇,用户大可对自己所学内容的质量放心。”据了解,目前平台上有100个手语词汇。

官方演示视频中,手语学习者可以模仿3D虚拟形象展示的手势动作教程进行学习,学习者的动作会显示在屏幕右半部分,平台会用AI工具实时接收学习者手势的反馈,比如识别学习者手掌所在的位置。


Signs使用演示

为了更好地指引初学者,学习者的视频框中会显示手指的位置、手势动作轨迹,以及手应该放的位置。比如在学习Hello的手语时,用户跟着数字人的提示,先展开手掌,向手掌方向弯曲大拇指,把自己的手放在蓝色手掌的位置,学习者跟着蓝色手掌的轨迹向远离身体的方向小幅度轻挥手掌。当两个手掌匹配上时,会出现匹配成功的音效。数字人通常会要求学习者练习两至三遍。

虽然Signs目前主要关注每个手势的动作和手指位置,但手语学习还需要结合面部表情和头部动作来传达含义。Signs团队正在探索如何在之后的版本中追踪、整合这些非手势信号。

团队还在研究如何在Signs中呈现其他细微差别,如地区差异和俚语,以丰富手语学习数据库,此外还与罗彻斯特理工学院无障碍和包容性研究中心的研究人员合作,评估和进一步改善Signs平台的用户体验。


选择Record Signs可进入数据收集页面

英伟达开发Signs的目的不仅仅是教手语,还包括收集更多的手语数据。任何水平的手语学习者都可以通过用手势表达特定词语来扩充数据集。Record Signs页面会显示平台需要收集数据的相关词汇,用户可录制自己的手语视频并上传。

英伟达的目标是将数据集扩大到40万个视频片段和1000个手语单词,并由流利的手语用户和翻译人员进行验证,以确保每个手语的准确性,从而生成高质量的视觉词典和教学工具。

英伟达团队计划利用该数据集进一步开发AI应用程序,以打破聋人和听障人士之间的沟通障碍。

这些数据资源将于今年晚些时候向公众开放,用于构建易于访问的技术,包括AI agents、数字人类应用程序和视频会议工具,还能用于增强Signs平台和其他手语学习平台。

  • 学习者
  • 美国
  • 平台
  • 工具


1、本文是 芥末堆网原创文章,转载可点击 芥末堆内容合作 了解详情,未经授权拒绝一切形式转载,违者必究;
2、如果你也从事教育,并希望被芥末堆报道,请您 填写信息告诉我们。

来源: 芥末堆

ad1 webp
ad2 webp
ad1 webp
ad2 webp