工程| 时事通讯 | 搜索 | 技术
2023 年 11 月 2 日
华盛顿大学的七名研究人员测试了人工智能工具在可访问性方面的实用性。 尽管研究人员发现了这些工具有用的案例，但他们也发现了重大问题。 人工智能生成的图像帮助一名患有失语症的研究人员解读书中的图像，并将工艺品的概念图可视化，但其他图像则延续了能力偏见。华盛顿大学/中途
生成式人工智能工具，例如 ChatGPT（一种人工智能驱动的语言工具）和 Midjourney（一种人工智能驱动的图像生成器）可以帮助各种残障人士。 这些工具可以总结内容、撰写消息或描述图像。 然而，这种可能性的程度仍然是一个悬而未决的问题，因为此外，这种情况经常发生 发音不精确 和 基本逻辑失败这些工具可以 持续存在体能歧视偏见。
今年，华盛顿大学的七名研究人员利用他们自己作为残疾人和非残疾人的经历进行了为期三个月的自民族志研究，以测试人工智能工具在无障碍方面的效用。 尽管研究人员发现了这些工具很有用的实例，但他们也发现人工智能工具在大多数用例中都存在重大问题，无论是生成图像、编写 Slack 消息、总结写作，还是试图提高文档的可访问性。
团队介绍了 我的发现 10 月 22 日 2023年资产 会议在纽约举行。
“当技术迅速变化时，残疾人总是有被抛在后面的风险，”首席研究员说。 詹妮弗·曼考夫，威斯康星大学 Paul G. Allen 计算机科学与工程学院教授。 “我坚信第一人称账户有助于我们理解事物的价值。因为我们的团队中有很多人可以像残疾人一样体验人工智能，并了解哪些有效，哪些无效，所以我们认为我们有一个独特的机会来讲述一个故事并了解更多关于这个命令的信息。
该小组以七篇短文的形式展示了他们的研究成果，通常将经验结合到单一的叙述中以保持匿名。 例如，在第一个帐户中，患有间歇性脑雾的 Mia 部署了汇总 PDF 文件的 ChatPDF.com 来帮助工作。 尽管该工具有时很准确，但它经常给出“完全错误的答案”。 在一种情况下，该工具既不准确又无能，使论文的论点听起来像是研究人员应该与护理人员而不是患有慢性病的人交谈。 米娅之所以能够发现这一点，是因为研究人员非常了解这篇论文，但曼考夫表示，这种微妙的错误是使用人工智能的“最阴险”的问题之一，因为它们很容易被忽视。
然而，在同一个小插图中，米娅使用聊天机器人为他们在经历脑雾时正在进行的研究创建和格式化参考。 人工智能模型仍然会犯错误，但事实证明该技术在这种情况下很有用。
曼考夫曾公开谈论过他对莱姆病的诊断，他对这篇报道做出了贡献。 “使用人工智能来完成这项任务仍然需要工作，但它减轻了认知负担。通过从‘生成’任务切换到‘验证’任务，我能够避免一些我遇到的可访问性问题，”曼考夫说。
研究人员选择的其他测试的结果同样好坏参半：
- 一位患有自闭症的作者发现，人工智能有助于在工作中撰写 Slack 消息，而无需花费大量时间担心措辞。 同事们发现这些消息是“自动化的”，但该工具让作者对这些交互更有信心。
- 三位作者尝试使用人工智能工具来提高内容的可访问性，例如研究论文的表格或课程的幻灯片。 人工智能程序能够识别可访问性规则，但在创建内容时无法一致地应用它们。
- 用于生成图像的人工智能工具在这方面帮助了作者 想像力 （无法想象）解读书中的图片。 然而，当他们使用人工智能工具创建“各种残疾人在聚会上看起来很高兴但不高兴”的插图时，该软件只能让人联想到聚会上人们的充满活力的图像，其中包括与能力相关的差异，例如就像一只没有实体的手。 靠在没有实体的假肢上。
“令我惊讶的是，根据任务的不同，研究结果和结果的差异如此之大，”主要作者说。 凯特·格拉兹科夫是威斯康星大学艾伦学院的博士生。 “在某些情况下，例如即使有特定的提示，也会创造出残疾人看起来很快乐的形象 – 你能做到这样吗？ 结果并没有达到作者想要的效果。
研究人员指出，需要做更多的工作来解决该研究揭示的问题。 一个特别复杂的问题涉及为残疾人开发新的方法来验证人工智能工具产品，因为在许多情况下，当人工智能用于可访问性时，人工智能生成的源文档或结果是不可访问的。 这发生在 ChatPDF 为“Mia”提供的功能摘要中，而法定失明的“Jay”使用 AI 工具创建代码来可视化数据。 他无法亲自验证结果，但一位同事表示这“根本没有意义”。 曼科夫说，人工智能引起的错误频率“使得对访问验证的研究变得尤为重要”。
曼考夫还计划研究方法来记录人工智能生成的内容中发现的残疾和无法访问的类型，并调查其他领域的问题，例如人工智能编写的代码。
Glazko 表示：“随着软件工程实践的变化，如果没有良好的默认设置，应用程序和网站可能会变得难以访问。” “例如，如果默认情况下可以访问人工智能生成的代码，这可以帮助开发人员识别并提高其应用程序和网站的可访问性。”
这篇论文的共同作者是 山上百奈，他在威斯康星大学艾伦学院作为博士后研究员完成了这项研究，现在在莱斯大学； 阿沙卡·德赛, 凯利·艾弗里·麦克 和 文卡泰什·波特鲁里所有威斯康星大学艾伦学院博士生； 和 舒树海，他在威斯康星大学信息学院作为博士生完成了这项工作，现在在麻省理工学院工作。 这项研究由 Meta 资助， 无障碍技术和专业知识的研究和教育中心 (CREATE)、Google、NIDILRR ARRT 资助和国家科学基金会。
获取更多资讯，请联系 格拉兹科 [email protected] 和曼考夫五世 [email protected]。
标签： 无障碍技术和体验研究与教育中心 • Jennifer Mankoff • Kate Glazko • Paul G. Allen 计算机科学与工程学院
“驕傲的網絡狂熱者。微妙迷人的推特怪胎。讀者。互聯網先驅。音樂愛好者。”
More Stories
《东京恶习》制片人详述日本走向全球制作中心之路
康拉德·科尔曼仅使用可再生能源再次改变了世界
新款 MacBook Pro 为苹果一周的重大新闻画上了句号