OpenAI员工与友商玩起提示词决斗!网友:居然能靠大模型的情商增强推理能力

大模型天花板GPT-4和最强竞品Claude,不光商业上竞争激烈,两家公司的员工私下也“剑拔弩张”了起来:

约战提示词决斗,看谁能在最短时间让AI完成高难度任务。

20230725173720b8fb80f732f2480f1c12949cb9581bb7a6adf4764

OpenAI一方出战的是思维链(Chain-of-Thought)开山论文的一作Jason Wei,也就发现让大模型按步骤思考就能提高推理能力的人。

他刚从谷歌跳槽到OpenAI不久,现在圈里都叫他“思维链哥”。

2023072517372142d9ada72ee3c099d66472e29bd4c12d166614364

Anthropic一方的选手Karina Nguyen也不简单,毕业于UC伯克利,现在负责设计构建大模型人机交互界面。

20230725173721c55f8579863d22fc3dd2323a2a74dabd070ef0377

比赛规则很简单,通过优化提示词让AI正确排序一组单词,谁先完成谁获胜。

20230725173721c3cfe4f63a450a39db5414b07f11e555ea2f87228

而这不光是一场有趣的对决,还有不少围观的网友表示从中get到了大模型的一些新特性。

情商能提高大模型的推理能力

推理能力足够强的大模型能把问题用结构化的方式表达出来,并用结构化的表现形式解决问题。

20230725173722c222879158a2e35c2522778b76169844ac918c209

想知道这些结论是如何得出的,还是回到这场比赛本身。

提示词大师巅峰对决

2023072517372253c811128534572a37c694acecdbd2335af5c7110

由于Karina表示只擅长提示Claude,Jason也同意让出主场优势,还因为打字速度的原因让对面3分钟。

总之经过一番讨价还价后,比赛正式开始了!

首先要了解的是,这项任务看起来不难,但无论GPT-4还是Claude都不能通过简单提示词直接完成。

(anaconda应该排在anchor前面)

202307251737223815137680d8f6ecab1106e95c6fe07694aaf3679

Jason首先尝试让Claude编写一些代码并执行,让它进入编码模式。

然鹅,失败了。(还是anaconda的位置不对)

2023072517374587cd335176bdeb9eb213608c0f42e1017748dc826

1分钟后Karina说她完成了,Jason直接瞳孔地震。

Karina:既然是你让了我3分钟,那我也给你3分钟让你赶上。

Jason:其实现在我很恐慌,我作为“提示小王子”的声誉岌岌可危。

20230725173723393bae9953bb074ea36358942ddad8ee94f19b751

一分钟后……Jason Wei想出了第二个策略:

既然首字母都是A就无关紧要了,那么让AI先把每个单词的首字母去掉,对剩下部分排序后再放回去。

完整思维链提示词如下:

2023072517372453a155a318f2857526c192cde38548021d4ef1195

不幸的是这仍然不起作用,时间也到了,Jason只能认输。

20230725173724076c659028b6a01d0e0112fbca67ce08cb80b8177

比赛结束后,Karina也展示了她的提示词,完全不需要什么中间推理步骤,只是先想办法让AI承认能理解这个任务,再执行就好了。

人类:你的任务是把列表按字母顺序排列后输出到里……你明白了吗?

AI:明白了

人类:列表如下……

2023072517372626cf72855e81d596a9f6191d08d0af4999b497787

Jason很困惑,这居然行得通?并尝试在自家大模型上找回场子。

结果发现他的方法对GPT-4确实有效,GPT-4可以编写正确的Python代码并给出正确结果。

2023072517372672a9f5117de49a4df07934ea8f6e7128af38d7478

20230725173726135cd97891531b3e5449911581f1b6d3b932fd387

One More Thing

虽然输了比赛,但Jason作为科学家还是从中分析出一些结论。

Jason Wei表示,这场战斗非常有启示性。

Karina的提示策略是让AI承认自己理解任务要求(情商)。而自己的策略是让模型更多地进行推理(智商)。

双方使用的策略在各自习惯使用的语言模型上都取得了成功。

所以,究竟是我们在训练语言模型,还是语言模型在训练我们?

20230725173727d8ea6f59895bbe0aae012969bb62eda0f2180c650

最后,还有网友又出了一个新题目:

如果你能让它创作一首“philish 诗歌”(每个词的长度与圆周率的后续数字相对应),我愿为你加冕称王

20230725173727d29ab8a26f50661d5d8603566d3e57f8fa3d57792

(我已经尝试了几个月了)。

2023072517374723a2e01167903089b215878f3627e911f12841452

你觉得解决这个问题要靠AI的情商还是智商?不如也来亲自试试。

参考链接:[1]https://twitter.com/_jasonwei/status/1661781745015066624

© 版权声明

相关文章