研究人员声称,他们的机器学习技术能够使用更少的资源来微调人工智能模型,同时保持准确性,这可用于改进智能手机等小型设备上的人工智能。
麻省理工学院 (MIT) 研究人员的一种新训练方法可用于在边缘计算设备上实现人工智能的持续学习。
研究人员表示,深度学习技术可以帮助人工智能聊天机器人理解用户的口音,或者根据用户的打字历史预测用户将输入的下一个单词。 但这些功能需要用新数据对AI模型进行微调。
该团队表示,这已成为智能手机和小型设备上的一个问题,因为它们可能缺乏此类微调所需的内存和计算能力。 解决这个问题的一种方法是通过云服务器,但这在涉及敏感数据时会带来电力问题和安全风险。
为了解决这个问题,该团队声称已经开发出一种技术,使深度学习模型能够直接在边缘设备上有效地适应新的传感器数据。
这种训练方法——研究人员称之为…… 波克引擎 – 可以识别机器学习模型中需要更新以提高准确性的部分。 然后,此方法仅存储和计算那些特定的块。
用更少的钱赚更多的钱
该团队表示,深度学习模型依赖于神经网络,其中包括多层互连节点,可处理数据以进行预测。
但并非神经网络中的所有层对于提高准确性都很重要。 该团队表示,对于重要的层,可能不需要更新整个层。
PockEngine 方法旨在对给定任务的每一层进行微调,并单独测量每一层之后的准确性改进。 然后 PockEngine 确定每一层的贡献以及微调的精度和成本之间的权衡,从而确定每一层需要微调的百分比。
该团队表示,这种训练方法可以在运行时之前执行其任务,以减少所需的计算能力并提高微调过程的速度。 研究人员声称,在某些硬件平台上,PockEngine 的执行速度比其他方法快 15 倍,而精度却没有下降。
“设备上的微调可以实现更好的隐私、更低的成本、个性化和终身学习,但这并不容易,”麻省理工学院助理教授宋瀚说。 “一切都必须在有限的资源下发生。
“我们希望不仅能够在高端设备上运行推理,还能够运行训练。有了 PockEngine,现在我们可以了。”
上周,由前苹果设计师创立的公司 Humane 分享了其新型人工智能设备的详细信息,该设备旨在开创可穿戴设备的新时代。 这款微型设备被称为“Humane AI Pin”,但高昂的价格和其功能的神秘性可能会阻碍它的发展。
每个工作日您需要了解的 10 件事直接发送到您的收件箱。 注册 每日总结《硅谷共和国》的重要科技新闻文摘。
“驕傲的網絡狂熱者。微妙迷人的推特怪胎。讀者。互聯網先驅。音樂愛好者。”
More Stories
《东京恶习》制片人详述日本走向全球制作中心之路
康拉德·科尔曼仅使用可再生能源再次改变了世界
新款 MacBook Pro 为苹果一周的重大新闻画上了句号