10 Things Organizations Should Know About AI Workforce Development 白宫推动联邦机构优先发展人工智能人才，国防部强调培养数字与AI技能以实现准备就绪。SEI提出沉浸式培训、角色匹配、持续评估等建议，助力组织应对AI挑战。... 2025-4-28 04:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu workforce development mission talent dod

DataOps: Towards More Reliable Machine Learning Systems 文章探讨了DataOps在机器学习中的重要性，强调其在数据管理、版本控制、数据探索与处理、特征工程、数据标注及质量保证等方面的作用。通过系统化的数据管理流程，DataOps为构建可靠、可追溯的ML系统提供了基础支持，在关键任务中尤为重要。... 2025-4-21 04:0:0 | 阅读: 1 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu dataops labeling maintaining smes involves

DataOps: Towards More Reliable Machine Learning Systems 文章探讨了DataOps在机器学习中的重要性及其在国防领域的应用。通过数据版本控制、数据处理、特征工程和数据标注等环节，DataOps确保了数据的可靠性、可追溯性和一致性。同时强调了质量保证和自动化工具在构建可信ML系统中的作用。... 2025-4-21 04:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu dataops labeling maintaining consistency involves

Evaluating LLMs for Text Summarization: An Introduction 文章探讨了大型语言模型（LLMs）在情报报告摘要等高风险应用中的潜力与挑战，并介绍了现有评估方法（如人工评估、自动化指标和AI红队测试）。尽管LLMs表现出色，但其不准确性和幻觉问题使其在关键任务中需谨慎部署。文章指出当前评估技术的局限性，并强调了开发新方法以提升模型可靠性和安全性的必要性。... 2025-4-7 04:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu llm evaluation llms computable

Evaluating LLMs for Text Summarization: An Introduction 大型语言模型在情报报告总结等高风险任务中展现出潜力，但需解决准确性、一致性和安全性问题。评估面临数据不足、场景适配困难及指标选择难题。SEI通过人工评估、自动化基准和AI红队测试等方法研究新策略，以提升模型性能和可靠性。... 2025-4-7 04:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu llm evaluation llms computable

The Essential Role of AISIRT in Flaw and Vulnerability Management 文章探讨了人工智能快速扩张带来的新安全挑战，并介绍了SEI成立的AISIRT团队，该团队专注于协调披露AI系统漏洞，与多方合作应对攻击方法如越狱攻击、数据投毒等，以提升AI系统的安全性。... 2025-3-26 04:0:0 | 阅读: 3 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu security aisirt sei

The Essential Role of AISIRT in Flaw and Vulnerability Management 文章介绍了SEI成立的人工智能安全事件响应团队（AISIRT），旨在应对AI系统中的漏洞和威胁。该团队通过协调披露、分析和缓解AI相关风险，如护栏绕过、数据中毒等，提升AI系统的安全性。... 2025-3-26 04:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu security aisirt sei

Enhancing Machine Learning Assurance with Portend 文章介绍了Portend工具集，用于模拟和检测机器学习模型中的数据漂移问题。该工具通过规划和监控两个阶段帮助开发者识别潜在的数据分布变化，并设置警报阈值以应对性能下降情况。文章还以无人机导航为例展示了其应用效果。... 2025-3-24 04:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu drift portend developer stage drifted

Enhancing Machine Learning Assurance with Portend 文章介绍了Portend工具集，用于模拟和检测机器学习模型中的数据漂移问题。通过定义漂移场景、生成漂移数据集并选择合适的检测指标，Portend帮助开发者设置警报阈值以应对生产环境中的性能下降问题。... 2025-3-24 04:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu drift portend developer stage drifted

Cybersecurity of Logistics Decision Models 文章探讨了物流在经济和国家安全中的重要性，并指出网络攻击对物流决策模型的潜在威胁。通过历史案例和现代技术分析，文章强调了保护物流系统免受网络攻击的必要性，并提出了利用人工智能安全、机器学习操作等方法来提升防御能力。... 2025-3-20 04:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu logistics security optimal military

Cybersecurity of Logistics Decision Models 文章探讨了物流在经济和国家安全中的重要性，并分析了网络攻击对物流决策模型的潜在威胁。通过历史案例和现代技术挑战，文章强调了保护物流系统免受网络攻击的必要性，并提出了利用人工智能安全和机器学习运营等方法来提升防御能力。... 2025-3-20 04:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu logistics security optimal military facility

The DevSecOps Capability Maturity Model 文章探讨了DevSecOps在提升软件开发效率和质量中的作用，并提出了一种基于价值交付的成熟度评估框架。该框架结合敏捷和精益原则，通过自动化优化流程并减少浪费。文章还介绍了DoD的DevSecOps文档集及如何避免次优活动对整体效益的影响。... 2025-3-10 04:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu software maturity development processes pim

The DevSecOps Capability Maturity Model 文章探讨了DevSecOps在软件开发中的重要性及其实施方法。通过提出一个基于价值交付的成熟度模型（PIM），文章帮助组织评估其DevSecOps能力，并强调了自动化、流程优化和持续改进的重要性。该模型分为四个成熟度等级，并提供了详细的评估框架，以促进组织在安全、效率和价值交付方面的持续提升。... 2025-3-10 04:0:0 | 阅读: 3 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu software development maturity pim processes

Detection and Repair: The Cost of Remediation 文章讨论了SEI CERT编码标准的更新计划，引入新的Detectable和Repairable指标以替代旧的Remediation Cost，并简化代码安全审计流程。... 2025-3-3 05:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu repairable detectable guideline metric guidelines

Detection and Repair: The Cost of Remediation 文章讨论了SEI CERT编码标准的更新计划，提出将原有的修复成本（Remediation Cost）指标拆分为“可检测性”和“可修复性”两个独立指标，并重新计算风险评估中的优先级和级别。这一变化旨在更准确地反映静态分析工具的能力，并简化代码安全审计流程。作者邀请读者提供反馈以评估这些变更的影响。... 2025-3-3 05:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu repairable detectable guideline metric repair

Perspectives on Generative AI in Software Engineering and Acquisition 文章探讨了生成式AI在软件工程和采购中的应用前景与挑战。专家指出其在提高生产力方面潜力巨大，但也面临可解释性、安全性及数据隐私等问题。他们强调需平衡技术能力与风险，并通过有效的人工监督和治理机制确保其在高风险领域的可靠应用。... 2025-2-27 05:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu generative software acquisition llms dod

Protecting AI from the Outside In: The Case for Coordinated Vulnerability Disclosure 文章探讨了人工智能（AI）系统中的网络安全风险管理，重点介绍了CERT/CC在应用协调漏洞披露（CVD）流程处理AI和机器学习（ML）系统漏洞时的经验教训。文章分析了CVD流程在AI系统中的各个步骤及其可能的失败模式，并强调了透明度和协调披露的重要性。... 2025-2-24 05:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu software cvd security

Introducing MLTE: A Systems Approach to Machine Learning Test and Evaluation 文章介绍了MLTE（机器学习测试与评估）工具及其流程，旨在解决机器学习系统测试中的挑战。通过持续协商、质量属性场景和分阶段测试（内部模型测试和系统依赖模型测试），MLTE帮助团队明确需求、优化模型并生成报告，以提高系统可靠性和安全性。... 2025-2-17 05:0:0 | 阅读: 2 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu mlte negotiation qa evaluation measurement

Cyber-Informed Machine Learning 文章探讨了网络安全运营中心（SOC）面临的海量警报处理挑战，并提出通过机器学习（ML）实现数据、模型与人类间的可解释性以提升分析效率和信任度。... 2025-2-10 05:0:0 | 阅读: 1 | 收藏 | SEI Blog | CERT/CC Vulnerabilities - www.sei.cmu.edu machine security categorical