分享:

美军认为人工智能装备关键算法存在应用偏差风险

2020-11-23 14:28 航空简报 CAN译讯 专栏

据c4isrnet网站2020年11月18日报道,当前,美军人工智能技术的应用越来越普遍,通过在任务流程中应用机器学习算法,美军人工智能军事装备自动化执行任务的效率将显著提升。但是,随着算法应用的不断深入,军事装备系统自动化执行过程中可能遭遇意想不到的风险。

美军情报部门表示,美军装备依赖的机器学习算法均需要通过大量训练数据集提升效能和执行效率。如果训练数据集产生偏差(如仅引入少量、特定训练数据集),人工智能军事装备的执行结果就可能产生意想不到的偏差,在国家安全背景下,可能引发非常严重的错误效果(如无法预测对手行动,无法迅速做出响应/机动等)。

针对上述问题,美军认为关键的解决途径是在进入高对抗性复杂作战环境时,需要正确应用相应的决策演算工具,实现算法的正确推演,保证人工智能装备的最优响应。

责任编辑:实习编辑