LinkedIn 的数据显示，过去 5 年里，首席人工智能官 (CAIO) 的数量几乎增加了两倍。 各行各业的公司都意识到需要将人工智能 (AI) 自上而下纳入其核心战略，以避免落后。 这些人工智能领导者负责制定企业和联邦政府人工智能采用和监督的蓝图。
继拜登政府最近发布行政命令以及各行业人工智能采用率迅速上升之后，美国管理和预算办公室 (OMB) 发布了一份备忘录，介绍联邦机构如何在管理人工智能风险的同时抓住人工智能的机遇。
许多联邦机构正在任命 CAIO 来监督其领域内的人工智能使用，促进负责任的人工智能创新，并通过考虑人工智能对公民的影响来解决与人工智能相关的风险，包括生成式人工智能 (gen AI)。 但是，这些首席信息官将如何平衡监管措施和创新呢？ 他们将如何培养信任？
三位 IBM 领导者就新 CAIO 在上任 90 天内面临的重大机遇和挑战发表了见解：
1.“从一开始就考虑安全、包容、可信和治理。”
——库什·瓦什尼 (Kush Varshney)，IBM 院士
作为首席人工智能官的前 90 天将会很紧张，很快就会过去，但你仍然应该放慢脚步，不要走捷径。 从一开始就考虑安全、包容性、可信度和治理，而不是作为最后的考虑因素。 但不要让你内心社会变革推动者的谨慎和批判性观点浇灭了你内心技术专家的乐观情绪。 请记住，仅仅因为人工智能现在已经存在，您的机构并不能免除其对人民的现有责任。 在明确问题、理解数据和评估解决方案时，请考虑我们当中最脆弱的群体。
不要害怕重新定义公平，从简单地以某种公平的方式分配有限的资源，到弄清楚如何照顾最需要帮助的人。 不要害怕重新构建责任，从简单地遵守法规到管理技术。 不要害怕重新构建透明度，从简单地记录事后所做的选择到事先征求公众意见。
就像城市规划一样，人工智能是基础设施。 现在做出的选择可能会影响子孙后代。 以第七代原则为指导，但不要屈服于长期存在风险的争论，而以牺牲明确和当前的危害为代价。 密切关注我们多年来通过传统机器学习建模遇到的危害，以及我们通过预先训练的基础模型看到的新的和放大的危害。 选择成本和行为可以控制的较小模型。 通过项目组合进行试点和创新； 重用和强化针对出现的常见模式的解决方案； 然后才通过多模型平台方法大规模交付。
2.“创造值得信赖的人工智能开发。”
—IBM 副总裁兼首席隐私与信任官克里斯蒂娜·蒙哥马利
为了推动效率和创新并建立信任，所有首席信息官都应首先实施人工智能治理计划，以帮助解决对创建值得信赖的人工智能开发和部署至关重要的道德、社会和技术问题。
在前 90 天内，首先对您机构的基线进行组织成熟度评估。 检查框架和评估工具，以便您清楚地了解会影响您实施人工智能工具并帮助应对相关风险的能力的任何优势和劣势。 此过程可以帮助您识别人工智能解决方案可以解决的问题或机会。
除了技术要求之外，您还需要记录和阐明整个机构范围内有关人工智能创建和使用的道德和价值观，这将为您的风险决策提供信息。 这些准则应解决数据隐私、偏见、透明度、问责制和安全等问题。
IBM 制定了信任和透明度原则以及“设计道德”手册，可以帮助您和您的团队实施这些原则。 作为此过程的一部分，建立问责和监督机制，以确保人工智能系统得到负责任和合乎道德的使用。 这包括建立明确的责任和监督界限，以及监控和审计流程，以确保遵守道德准则。
接下来，您应该开始调整您机构的现有治理结构以支持人工智能。 高质量的人工智能需要高质量的数据。 您现有的许多计划和实践（例如第三方风险管理、采购、企业架构、法律、隐私和信息安全）已经重叠，以提高效率并充分利用您的代理团队的力量。
2024 年 12 月 1 日的最后期限将比您想象的更快到来，将最低风险管理实践纳入影响安全和影响权利的人工智能，或者停止使用人工智能，直到达到合规性。 在入职的前 90 天，利用自动化工具来简化流程，并向 IBM 等值得信赖的合作伙伴寻求帮助，帮助实施创建负责任的 AI 解决方案所需的策略。
3.“建立企业范围的方法。”
—Terry Halvorsen，IBM 联邦客户开发副总裁
十多年来，IBM 一直与美国联邦机构合作，帮助他们开发人工智能。 该技术使许多联邦机构在运营效率、生产力和决策方面取得了重要进步。 例如，人工智能帮助美国国税局（IRS）加快了纸质纳税申报表的处理速度（以及向公民提供退税），退伍军人事务部（VA）减少了处理退伍军人索赔所需的时间，海军舰队司令部更好地计划和平衡粮食供应，同时减少相关的供应链风险。
IBM 也很早就认识到采用人工智能的潜在风险，并主张强有力的治理以及透明、可解释、稳健、公平和安全的人工智能。 为了帮助降低风险、简化实施并利用机遇，所有新任命的 CAIO 都应建立企业范围内的数据方法和人工智能采用的治理框架。 数据可访问性、数据量和数据复杂性都是必须理解和解决的领域。 “企业范围”建议将人工智能和数据治理的开发和部署带出传统机构组织孤岛。 让整个机构的利益相关者以及任何行业合作伙伴参与进来。 衡量您的成果并边做边学——既包括您所在机构的努力，也包括整个政府同行的努力。
最后，古老的格言“以终为始”在今天仍然适用。 IBM 建议 CAIO 鼓励遵循用例驱动的 AI 方法，这意味着确定您希望创建的目标结果和体验，并支持您将使用的特定 AI 技术（生成式 AI、传统 AI 等）。
CAIO 以身作则
公共领导力可以为所有部门采用人工智能定下基调。 CAIO 职位的设立在人工智能的未来中发挥着关键作用，使我们的政府能够为企业、政府和行业采用人工智能制定负责任的方法。
IBM 开发了工具和策略来帮助机构在各种环境中高效、负责任地采用人工智能。 我们已准备好支持这些新的 CAIO，因为他们开始在其机构内构建道德和负责任的人工智能实施。
您是否想知道在您的人工智能之旅中优先考虑什么？
请求 IBM 提供 AI 战略简报
本文是否有帮助？
是的不
