跳到主要内容

生成式人工智能的风险和回报

由DTCC连线人员| 4分钟阅读| 2024年1月11日

不像以前的许多技术,从来没有辜负他们的宣传, 生成式人工智能已经在增加企业价值. 但我们还不知道它的真正潜力或风险.

达琳纽曼, DTCC执行董事, 内部研究和创新主管, 与其他技术专家一起进行了一次虚拟的炉边聊天 揭秘生成人工智能及其对商业的影响 -由Enable赞助. 该小组成员包括查理·瑟洛夫, vnsr威尼斯城官网登入和AI领导者, ex-Senior导演, 第一资本金融公司, 和Niels Meersschaert, 全球技术领导者, 曾任职首席技术官, 全球银行解决方案. Enable首席战略官保罗·克拉克担任主持人和主持人.

相关:为什么人工智能是一把双刃剑

该小组探讨了生成人工智能对劳动力的影响, 避免偏见,平衡创新与安全.

采用的速度会有所不同

根据Newman的说法,仅在2023年4月就推出了1000多个生成式人工智能工具. 但采用的速度——以及进一步的创新——将取决于行业. “采用生成式人工智能的程度因行业而异,”她说. “那些受到高度监管的行业(如vnsr威尼斯城官网登入业)正采取一种更经过深思熟虑的方式,而那些可能会一头扎进去的行业.”

作为指定的系统重要性金融市场效用(SIFMU), “(DTCC)平台的安全性和弹性至关重要,纽曼解释道.

Newman建议受监管行业的公司采取四个步骤为企业中的生成式人工智能做准备:

  1. 建立适当的治理. 在测试生成式人工智能解决方案的公司中,只有21%制定了人工智能政策. 提前处理数据泄露等风险.
  2. 了解技术和解决方案的前景. 要跟上所有新的解决方案几乎是不可能的. 不要被闪亮的物体分散注意力——专注于这项技术如何帮助你的公司.
  3. 确定高价值用例并制定策略. 重要的是要有一个计划,并专注于增加价值.
  4. Pilot. 许多公司已经处于至少基本用例的试点阶段.

培养人工智能素养

不像以前的许多新兴技术,没有达到他们的宣传, 生成式人工智能已经证明了它的实用价值. 除了个人生产力应用程序, 许多公司, 包括美国存, 是否正在使用生成式人工智能来自动化软件开发的各个方面, 遗留代码现代化和数据清理. 纽曼说,这并不诱人,但它将对生产力产生重大影响.

生成式人工智能的早期价值将体现在重复过程的自动化上, Meersschaert说. “这不是特别令人兴奋,但它实际上会提高很多生产力.”

sertoff指出了企业中的两类生成式人工智能应用:运营效率, such as faster data analysis and content generation; and customer-facing solutions, 比如聊天机器人和个性化, 哪一种更复杂.

“人们越能理解人工智能的工作原理和它能完成什么, 它就越能帮助他们在未来将这些原则应用到更复杂的面向客户的解决方案中,瑟洛夫说。.

生成式AI的真正价值, though, 将大型语言模型应用于您自己的公司数据, 纽曼指出. 这需要可消费的数据,但“大多数组织的数据还没有准备好,”她补充说. DTCC已经准备好了, 评估如何使用机器学习来清理数据,以便在大型语言模型中使用.

文化的转变

有两个文化障碍需要克服, 根据瑟洛夫的说法:人性对变化的恐惧, 如果我们不采取适当的预防措施,可能会造成非常严重的危害. 他说,人们一直害怕快速的技术进步. “这项技术就在这里. 我们需要找出如何以正确的方式利用它.”

而生成式人工智能可能会使编码技能和技术能力民主化, 例如, 人们需要了解它是如何工作的,这样他们才能使用它来构建自己的工具和结果. 需要在各级进行培训. “未来我们需要教授和培训什么样的技能?纽曼问道. “人们将比以往任何时候都能够自己做更多的事情——我们如何让他们做好准备??”

软件工程领域的专门化很可能让位于通才, Meersschaert说, 工作将更加以结果为基础而不是以代码为基础. 问题将是,“我希望这个应用程序做什么?而不是:“我要写的具体代码是什么??’”他说。. “很多我们过去认为理所当然的东西对我们来说都是不可避免的邪恶——它被自动化了.”

前进的道路

最后, 相信生成式人工智能的输出是真实和准确的,这将是采用的关键驱动因素, DTCC的纽曼说. 如果你想消除有偏差的结果,检查你的输入. 除了模型本身,“是你的数据集目标? 构建模型的团队——他们有不同的视角吗?纽曼问道.

sertoff将生成AI的力量比作火的发现. “它可以煮你的食物,但火还能做什么呢??他问. “它可以将一座城市夷为平地.他强调了监管在确保公平和安全创新方面的作用,但强调需要提高监管机构的人工智能素养,以确保他们实施正确的监管——这是一项极其复杂的挑战, 他承认.

将创新推向新高度
达琳纽曼

DTCC执行董事,内部技术研究和创新主管

post
存管连接
2023年9月8日 DTCC 达琳纽曼加入Duke FinTech...
post
存管连接
2023年8月9日 检查来自技术的新兴风险...
post
工业连接
2023年12月1日 资本市场:为金融危机做准备...
回到DTCC连接
dtccdotcom