O'ReillyMedia的研究人员报告说，尽管需要维护企业人工智能(AI)系统中数据的完整性和安全性，但数量惊人的组织缺乏适当的人工智能治理政策和工具来保护自己免受潜在法律问题的影响。
这家总部位于波士顿的出版商和研究人员今天宣布了其年度“企业中的人工智能采用”调查的结果。基准报告探讨了人工智能的实施趋势，包括组织正在使用的技术、工具和实践，以便更好地了解过去一年企业采用的结果。
在生产中使用AI产品的受访者中，其组织制定了监管计划以监督项目的创建、衡量和观察方式的受访者与未制定的人数大致相同(49%是，51%否)。在评估人工智能的受访者中，相对较少(22%)有治理计划。
“令人不安”的人工智能治理趋势
“大量缺乏人工智能治理的组织令人不安，”O'Reilly内容战略副总裁兼报告作者MikeLoukides告诉VentureBeat。“虽然很容易假设如果你只做一些实验和概念验证项目，就不需要人工智能治理，但这很危险。在某个时候，您的概念验证可能会变成实际产品，然后您的治理工作将迎头赶上。
“当你在生产中依赖人工智能应用程序时，它甚至更加危险，”Loukides说。“如果不正式确定某种人工智能治理，你就不太可能知道模型何时变得陈旧、结果何时出现偏差或数据何时收集不当。”
今年的调查结果显示，在过去两年中，报告AI应用在生产中的组织(即那些在生产中拥有可产生收入的AI产品的组织)的百分比保持稳定，只有26%，这表明AI已经转移到Loukides说，炒作周期的下一阶段。
“多年来，人工智能一直是科技界的焦点，”Loukides说。“现在炒作已经平息，现在是时候让人工智能证明它可以提供真正的价值，无论是节省成本、提高企业的生产力，还是构建可以为人类生活带来真正价值的应用程序。毫无疑问，这将需要从业者开发更好的方法来在人工智能系统和人类之间进行协作，以及更复杂的方法来训练人工智能模型，以绕过困扰人类决策的偏见和刻板印象。”
在生产中使用AI产品的受访者中，其组织制定了监管计划以监督项目的创建、衡量和观察方式的受访者人数(49%)与未制定的人数(51%)大致相同。
至于评估风险，意外结果(68%)仍然是成熟组织的最大关注点，紧随其后的是模型可解释性和模型退化(均为61%)。隐私(54%)、公平(51%)和安全(42%)——可能对个人有直接影响的问题——是组织提及最少的风险之一。Loukides说，虽然可能存在隐私和公平性不是问题的人工智能应用程序，但拥有人工智能实践的公司需要将人工智能对人类的影响放在更高的优先级。
“虽然人工智能的采用正在放缓，但它肯定不会停滞不前，”O'Reilly总裁LauraBaldwin在媒体咨询中表示。“人工智能领域正在进行大量风险投资，其中20%的资金流向了人工智能公司。这可能意味着人工智能的增长正在经历一个短期的平稳期，但这些投资将在十年后得到回报。
“与此同时，企业绝不能忽视人工智能的目的：让人们的生活更美好。人工智能社区必须采取必要的措施来创建能够产生真正人类价值的应用程序，否则我们就有可能进入人工智能资金减少的时期。”
哪些AI工具最常用
其他发现包括：
在生产应用程序的受访者中，TensorFlow和scikit-learn(均为63%)是最常用的AI工具，其次是PyTorch(50%)、Keras(40%)和AWSSageMaker(26%)。
越来越多的应用程序在生产中的组织正在使用AutoML自动生成模型。67%的组织正在使用AutoML工具，而去年这一比例为49%，增长了37%。
在生产中的应用程序中，用于部署和监控的自动化工具的使用也增加了20%。最流行的工具是MLflow(26%)、Kubeflow(21%)和TensorFlowExtended(TFX,15%)。
与前两年的结果类似，人工智能采用的最大瓶颈是缺乏技术人员以及缺乏数据或数据质量问题(均为20%)。然而，在生产中拥有应用程序的组织更有可能看到数据问题，这是经验的标志。
拥有生产应用程序的组织和目前正在评估AI的组织都同意缺乏技术人员是AI采用的一个重大障碍，尽管每个组中只有7%的受访者将其列为最重要的瓶颈。
在生产中拥有应用程序的组织在以下领域发现了最显着的技能差距：ML建模和数据科学(45%)、数据工程(43%)和维护一组业务用例(40%)。
零售和金融服务行业在生产中的应用比例最高(分别为37%和35%)。教育和政府(均为9%)的受访者比例最低，但考虑AI的受访者人数最多(分别为46%和50%)。
