(资料图)
盖世汽车讯 据外媒报道，麻省理工学院（MIT）计算机科学与人工智能实验室（CSAIL）的一组研究人员开发出一种名为Bayes-TrEx的新工具，使用户和开发人员能够深入了解他们的AI模型，以实现更好的人机交互。特别的是，该工具可识别驱动特定行为的真实世界实例。该工具采用“贝叶斯后验推理（Bayesian posterior inference）”，即一种用于推断模型不确定性的流行数学方法。
图片来源：MIT
通过在实验中对大量基于图像的数据集使用Bayes-TrEx，研究人员发现以前仅考虑预测准确性的传统评估方法所遗漏的重要信息。
Bayes-TrEx还可用于更好地了解模型在陌生环境中的行为。自动驾驶系统经常依靠摄像头图像来识别交通信号灯和自行车道等障碍物，其中摄像头可以快速准确地识别频繁发生的事件，但更具挑战性的情况可能包含实际或虚拟障碍两种。
赛格威（Segway，一种电动代步车）可能会被误认为汽车，或是道路上的凸起，从而使得转弯出现问题，或引发灾难性撞车事故。但凭借Bayes-TrEx，上述意外场景都可以被预见，且开发人员可以避免悲剧发生。
除了图像之外，研究人员还在研究一个静态较少的区域：机器人。他们的“RoCUS”技术从Bayes-TrEx中汲取灵感，对机器人的特有行为进行了重大修改。最新研究还展示了人工智能如何使机器人成为种族主义者和性别歧视者。
尽管RoCUS仍处于测试阶段，但实验表明，如果评估者只关心工作是否完成，可能很容易忽略这些创新发现。例如，由于收集训练数据的方式，基于深度学习的2D导航机器人会选择在障碍物附近进行机动。但是，如果机器人的障碍物传感器不完全精确，那么这种偏好可能会很危险。由于机器人运动学结构的不对称性，机器人手臂到达桌子上左右侧目标的能力也会有重大不同。
共同主要作者、麻省理工学院CSAIL博士生Serena Booth表示：“通过让人类更深入地了解他们的AI合作者，我们希望使人机交互更加安全。人类应该能够理解这些代理如何做出决定，并预测他们的行为，最关键的是，预测和规避失误。”
延伸阅读
会自己找车位的L4级自动驾驶来了，威马+百度联合研发AVP技术即将量产
