近日,全球各大IT企业都在积极布局人工智能技术,但一项对来自25个国家的1.4万名企业买家和消费者的调查显示,企业在采用人工智能技术时,可能会以客户信任为代价。调查显示,客户普遍对AI应用持开放态度,以获取更好的体验,但近50%的受访者不信任企业会合乎道德地使用AI。 调查重点关注企业在推行新型生成AI时需解决的主要问题,以向客户提供最佳AI体验并保持业务增长。对“信任”的理解很复杂,在AI中信任植根于遵循个人权利、隐私和非歧视等伦理原则。调查中,76%的人信任企业提升产品和服务,但近50%不信任它们会合乎道德地使用AI。 受访者最担心的问题是缺乏透明度和人工验证AI输出,超过80%的人要求人工验证。仅37%的人信任AI提供与人一样准确的响应。企业买家对AI的信心较高,73%的企业买家对企业使用AI提升体验持开放态度,而只有51%的消费者这样认为。 调查建议企业提高AI使用透明度和结果验证,49%的受访者希望获得更多选择权,决定AI在接触中的应用方式。其他建议包括:业内标准、征求客户反馈、培训数据集、公开算法等。 有趣的是,自2022年生成式人工智能(能够在几秒钟内生成新内容)出现以来,总体情绪似乎仍然有所下降。Salesforce表示,去年,多达82%的企业买家和65%的消费者愿意使用人工智能来获得更好的体验。 在供应商方面,乐观情绪继续保持高涨,大多数处于客户参与前沿的专业人士(从IT和营销到销售和服务团队)表示,生成式人工智能将帮助他们的公司更好地为客户服务。