Saturday, June 10, 2023

AI 提示语工程的未来堪忧

 本期是一篇Harverd Business Review文章的翻译,原文请见文末链接。

AI 提示语工程的未来堪忧

by Oguz A. Acar

June 06, 2023

摘要:尽管许多人对快速工程感到兴奋,但其显赫地位可能是短暂的。一个更持久和适应性更强的技能将持续帮助我们利用生成式人工智能的潜力。这个技能被称为问题构造,即识别、分析和划定问题的能力。

全文:

提示语工程席卷了生成式人工智能世界。这项工作的任务是优化文本输入,以有效地与大型语言模型进行交流。世界经济论坛将其誉为“未来职业”排名第一,而Open AICEO Sam Altman则将其描述为一项非常高杠杆的技能。社交媒体充斥着新一波展示神奇提示并承诺惊人成果的影响者。

然而,尽管它备受瞩目,提示语工程的显赫地位可能会因几个原因而昙花一现。首先,未来一代人工智能系统将越来越直观和善于理解自然语言,减少了对精心设计提示语的需求。其次,像GPT4这样的新型人工智能语言模型已经显示出在编写提示语方面的巨大潜力——人工智能本身正在使提示语工程变得过时。最后,提示语的有效性取决于特定的算法,从而限制了它们在多种人工智能模型和版本中的效用。

那么,什么是更加持久和适应性更强的技能,继续帮助我们发挥生成式人工智能的潜力?这是问题表述(Problem Formulation)——识别、分析和勾画问题的能力。

问题表述和提示语工程在其关注点、核心任务和基础能力方面存在差异。提示语工程专注于通过选择适当的单词、短语、句子结构和标点符号来编写最佳的文本输入。相比之下,问题表述强调通过勾画其焦点、范围和界限来定义问题。提示语工程需要熟练掌握特定的人工智能工具和语言能力,而问题表述需要全面理解问题领域并有能力概括现实问题。事实上,即使使用最复杂的提示语,如果没有清晰定义的问题,那么也很容易走偏。然而,一旦问题被清晰地定义,提示语的语言细节就变得次要了。

不幸的是,问题表述是我们大多数人普遍忽视和欠缺发展的技能之一。原因之一是对问题解决的过分强调,而忽视问题的表述。“不要给我提问题,要给我解决方案” 这句普遍但错误的管理箴言很好地诠释了这种失衡状态。因此,最近一项调查显示,85%的高管认为其组织在诊断问题方面很糟糕。

如何在问题描述方面变得更好?通过综合过去关于问题表述和职位设计的研究以及我自己在众包平台上的经验和研究——这些平台上的组织挑战经常被人拿来分析并且受人关注——我确定了有效问题表述的四个关键组成部分:问题诊断、分解、重构和约束设计。

问题诊断

问题诊断是确定人工智能要解决的核心问题。换句话说,它涉及确定生成型人工智能要完成的主要目标。有些问题相对容易明确,比如在特定话题上获取相关信息,例如员工补偿的各种人力资源管理策略。其他问题则更具挑战性,例如探索创新问题的解决方案。

InnoCentive(现在是Wazoku Crowd)为例。该公司帮助客户制定了超过2500个问题,成功率高达80%以上。我采访InnoCentive的员工时发现,这种成功背后的关键因素是他们识别问题根本原因的能力。实际上,他们通常通过使用五个为什么的技术来区分根本原因和简单的症状来开始解决问题的过程。

一个具体的例子是北极圈的石油问题,涉及在灾难性的埃克森美孚瓦尔迪兹号油轮泄漏后清理北极圈的水域。与Oil Spill Recovery Institute合作,InnoCentive将石油清理问题的根本原因确定为原油的黏度:冻结的油变得太浓,无法从驳船上抽出。这种诊断是最终解决这个持续二十年的问题的关键,解决方案涉及使用一种改进版的建筑设备,以振动油来保持其液态状态。

问题分解

问题分解是将复杂的问题分解成更小、可管理的子问题。当您需要解决多方面的问题时,问题分解特别重要,这种问题通常太复杂以至于无法产生有用的解决方案。

InnoCentive的肌萎缩性侧索硬化症(ALS)挑战为例。挑战不是针对治疗ALS这个广泛的问题寻找解决方案,而是集中在其子部分上:检测疾病并监测疾病的进展。因此,第一次开发了ALS生物标志物,提供了一种基于测量肌肉组织中电流流量的非侵入性且节省成本的解决方案。

我用一个及时而常见的组织挑战——实施强大的网络安全框架——测试了人工智能如何通过问题分解来改进。必应AI的解决方案过于广泛和通用,无法立即发挥作用。但是,将其分解为子问题,例如安全策略、漏洞评估、认证协议和员工培训,解决方案就得到了显著改善。像功能分解或工作分解结构这样的方法可以帮助您图形化地描述复杂的问题,并简化识别单个组件及其相互联系的流程。

问题重构

问题重构涉及从不同的视角看待一个问题,进而引导人工智能扩大可能解决方案的范围,从而帮助您找到最佳解决方案并克服创造性障碍。通过不同的视角重构问题,您可以引导AI探索更广阔的解决方案空间。

例如,GE Healthcare的创新架构师Doug Dietz负责设计先进的MRI扫描仪。在一次医院访问中,他看到一名恐惧的孩子等待进行MRI扫描,并令人震惊地发现80%的孩子需要镇静才能应对这种吓人的经历。这一发现促使他重新构思问题:我们如何将令人生畏的MRI体验变成对孩子而言有趣的冒险呢?这种新的角度导致了GE Adventure系列的发展,儿科镇静率大幅降至15%,患者满意度得分提高到了90%,并提高了机器效率。

现在,请想象一下:员工抱怨办公楼停车位不足。最初的框架可能集中在增加停车位,但是通过从员工的角度重新构思问题——找到停车压力大或通勤选择有限——您可以探索不同的解决方案。实际上,当我要求ChatGPT使用初始和替代框架为停车问题生成解决方案时,前者产生的解决方案集中在优化停车布局或分配和寻找新空间。后者则产生了多样化的解决方案,例如促进可替代交通方式、可持续通勤和远程工作。

要有效地重新构思问题,请考虑用户的角度,探索类比来代表该问题,使用抽象,积极质疑问题目标或确定问题定义中缺失的组件。

问题约束设计

问题约束设计侧重于通过定义解决方案搜索的输入、过程和输出限制来界定问题的边界。您可以使用约束来指导人工智能生成目标任务的有价值的解决方案。当任务主要以生产力为导向时,通常更为适当的做法是,采用特定而严格的约束来明确定义上下文、边界和结果标准。相反,对于以创意为导向的任务,尝试施加、修改和取消约束的实验可以扩展解决方案空间并发现新的视角。

例如,品牌经理已经在使用几个人工智能工具(例如LatelyJasper)以大规模生产有用的社交媒体内容。为确保这些内容与不同的媒体和品牌形象保持一致,他们通常对长度、格式、口吻或目标受众等设置精确的约束条件。

然而,当寻求真正的原创性时,品牌经理可以消除格式约束或将输出限制为非传统格式。一个很好的例子是GoFundMe帮助改变一切Help Changes Everything)活动。该公司旨在生成年度回顾的创意内容,不仅要表达对捐赠者的感激之情,引发情感,还要与典型年终内容不同。为实现此目的,他们设置了非传统的约束条件:视觉素材将完全依赖于AI生成的街头壁画风格艺术,并展示所有筹款活动和捐赠者。DALL-EStable Diffusion生成单张图像,然后转化为充满情感的视频。结果是一种视觉上连贯而引人注目的艺术作品,获得广泛好评。

总体而言,精炼问题诊断、分解、重构和约束设计技能对于使AI的结果与任务目标保持一致并促进与AI系统的有效协作至关重要。

尽管提示语工程在短期内可能会引人注目,但其可持续性、多功能性和可转移性的缺失限制了其长期的发展前景。过分强调精细组合单词甚至会适得其反,因为这可能会减弱对问题本身的探索,并减少个人对创意过程的掌控感。相反,掌握问题构造可能是在复杂的AI系统环境下导航未来的关键,这可能证明和早期计算机学习编程语言的重要性一样关键。

https://hbr.org/2023/06/ai-prompt-engineering-isnt-the-future


研究表明:AI研究人员面临更高的孤独、失眠和酗酒风险

 摘要:研究显示,依赖人工智能(AI)的工作方式可能会对人工智能研究人员的个人生活和心理健康产生负面影响。管理者应该采取缓解措施,例如减少过多的AI系统和更多地关注办公室社交互动。 聊天机器人在说话方面越来越厉害了,但这并不能减轻众多开发人员的孤独感。美国心理学会周一发布的研究显...