ISO/IEC TR 24029-1:2021
Artificial Intelligence (AI) — Assessment of the robustness of neural networks — Part 1: Overview
发布时间:2021-03-10 实施时间:


神经网络是一种模拟人脑神经元的计算模型,它可以通过学习和训练来识别和分类数据。然而,神经网络的鲁棒性是一个重要的问题,因为它们可能会受到各种干扰和攻击,例如噪声、欺骗性输入和恶意攻击等。因此,评估神经网络的鲁棒性是非常必要的。

ISO/IEC TR 24029-1:2021提供了一种评估神经网络鲁棒性的方法,包括以下步骤:

1. 确定评估目标和场景:确定评估的目标和场景,例如评估神经网络在不同环境下的鲁棒性和可靠性。

2. 收集数据集:收集用于评估神经网络鲁棒性的数据集,包括正常数据和异常数据。

3. 训练神经网络:使用数据集训练神经网络,并对其进行验证和测试。

4. 评估鲁棒性:评估神经网络在不同环境下的鲁棒性,例如在噪声、欺骗性输入和恶意攻击等情况下的表现。

5. 分析和报告:分析评估结果,并撰写评估报告,包括评估方法、数据集、评估结果和结论等。

该标准还提供了一些评估神经网络鲁棒性的指南和建议,例如选择合适的数据集、评估指标和评估方法等。它还介绍了一些常见的神经网络攻击方法和防御方法,以帮助用户更好地评估神经网络的鲁棒性。

总之,ISO/IEC TR 24029-1:2021为评估神经网络鲁棒性提供了一种标准化的方法和指南,有助于提高神经网络在不同环境下的稳定性和可靠性,从而更好地应用于实际场景中。

相关标准
- ISO/IEC 23894:2020 人工智能——数据集和标签——数据集的元数据
- ISO/IEC 30107-1:2019 人工智能——生物识别——防欺骗——第1部分:术语和定义
- ISO/IEC 29153:2020 人工智能——机器学习——模型评估
- ISO/IEC 23053:2018 人工智能——机器学习——可解释性
- ISO/IEC 2382-1:2020 信息技术词汇——第1部分:基本概念和一般术语