李继刚刚:当咱们说「提醒词」时,到底在说什
栏目:公司资讯 发布时间:2024-12-28 08:32
择要为什么各人都误解了「提醒词」?你可能还记得第一次见到 ChatGPT 时的惊喜,那曾经是两年前了。自那以来,背提醒词模板、珍藏优质提醒词,成为良多人应用 AI 东西的必备举措。究竟,当各种年夜模子利用走入人们的生涯,Prompt 提醒词就成为咱们跟 AI 相同的专业言语,同样的利用,差别的提醒词却能带来差别的后果。你可能还记得一些「邪术词」,告知模子「Think Step by Step」,乃至跟他说「答对了给你 100 美元」、「你断定吗」之类的技能,模子输出的答复品质可能会更高,但也存在抽卡率。在良多人珍藏提醒词的从前两年里,一位写提醒词的「神人」李继刚,他写的提醒词频仍在各年夜 AI 社群跟提醒词网站传播。往年 9 月,他出的「汉语新解」提醒词模板,更是让各人见地了 Claude3.5 的才能。只剩下感慨「不是年夜模子欠好用,是我不会写提醒词」。李继刚期近刻上的推文|图片起源:马上但李继刚说,他最不爱好的就是「汉语新解」这个作品,它更偏空闲文娱。只管间隔「汉语新解」才从前三个月,然而他对提醒词的懂得曾经再次迭代。从前两年,如许的迭代曾经产生了四次。在一次次经由过程「提醒词」与年夜模子比武的进程中,他感到影响模子输出最年夜的谁人变量不是技能,而是怎样懂得提醒词。当你把它界说为写作跟把它界说为编程言语,人类的「输入」是差别的,模子的「输出」也是差别的。但无论是把它懂得为写作仍是编程言语,实质上都是人在与本人对话。像「帮我写一篇 xx 为主题的文章」如许喃喃自语式的义务口令,并不「叫醒」模子,模子输出平淡之何为是是 AI 味儿的空话,也就不奇异了。在李继刚过往的教训中,能让提醒词发生冷艳后果的每每是,让模子不依照练习时间的权重、参数构造等既定的默许门路输出,人类的提醒词要能叫醒模子与之「共振」,把年夜模子带到别的一片空间,去施展「紧缩了天下常识」的洞察力。「最神奇的是,你乃至直接跟模子说,『明天勇敢一些,不要走进预制的默许构造,不要走进设定好的河流,咱们去原野中摸索一番』这种对话居然真的失效,它的输出真的开端勇敢了,最神奇的就在这,它是失效的」,李继刚说。2024 年 12 月 16 日,在极客公园 IF2025 翻新年夜会上,Prompt 传教师、念书人 李继刚分享了他写了两年提醒词总结的最主要的法令——《当咱们说 Prompt,咱们究竟在说什么?》在他的分享中,你能够明白到,怎样穿透提醒词的形而上学属性,更好地跟 AI 相同。以下是报告注释,经极客公园收拾:01 提醒词究竟是什么?从前两年,作为一个一般用户,我经由过程写提醒词跟年夜模子对话,产生了一些风趣的故事。最早在写提醒词、跟年夜模子在游玩的时间,我会有良多迷惑:比方我发明了一个写提醒词的技能——指定脚色,它能够发生更好的成果。然而当我换了一个差别的场景再发问时,同样的技能就会生效。再比方,我让年夜模子给我天生一段小说文本,它天生的内容是准确的空话,是有「AI 滋味」的。它不是概任性输出,但它的输出成果跟概率的平淡值输出实在也没什么差别。我感到它纷歧样,但又不晓得究竟那里纷歧样,它怎样不克不及获得更好的成果呢?乃至偶然候,当我跟它的对话获得了十分好的成果,但由于种种起因(如:对话删除了、账号切换了等)没保留,我再从新开端一次对话想复现上一次的成果时,发明复现不了,这个成果跟上一次天差地别,但我应用的提醒词技能明显都一样,为什么成果会纷歧样呢?相似的迷惑另有良多。于是我就在思考为什么会有良多不断定的货色?成绩究竟出在那里?我发明有一个货色是断定的——我的「输入」会影响「输出」。「输入」差别,「输出」必定差别。这象征着提醒词这个事件是有研讨空间的,我只有揣摩「输入」,就能带来更好的「输出」,只是旁边是什么样的进程,它是个黑盒,我要隔着幕布去揣摩它。研讨切入点从最根源性的成绩动身——提醒词究竟是什么?这里不去探讨它好与坏、长了好仍是短了好、有什么技能、怎样去叠加 Magical words(邪术词汇)……不是这些,而是答复一个基本性成绩,提醒词它究竟是个什么?我阅历了这么多少个阶段:偶然候感到它像写作,感到(写提醒词)跟写一篇文章很像。当我把写作的技能、方式论、框架套出来时,我发明是失效的,它的输出成果显明比我最开端的要好。厥后写着写着,又发明这种过于广泛、过于不指定命题的写作莫衷一是。我又实验着把编程的思维往里引入,构造化、形象、函数,把这些技能往外面放,发明也是失效的,后果也变好了。但这两者完整不是一个货色,一个是在原野中奔驰,一个是束缚好门路让它去走,但两者同时失效了。以是我更迷惑了,提醒词它究竟是什么?接着实验着综合这两者,假如有一个货色能同时罩住这两者,谁人货色是什么?厥后我找到了——表白。不管编程、仍是写作,实质上都是思考的表白,我头脑外面有一个货色,我要把它说出来。从前两年,李继刚对「提醒词是什么」的懂得阅历了「写作」「编程言语」「表白」的进程。|图片起源:李继刚回首看这三个,当我说在写作的时间,实在是一种十分广泛的泛指,我在写内容、文本,经由过程文本表白我的思维;当我说编程的时间我在束缚它,先向左拐、再向右拐,最后直行 300 米,我在设置门路;当我说表白的时间,我是单向的输出,把我脑海中的思维射出去掷中它。当对提醒词的界说产生变更,我的写法就会变。当我把它界说为写作时,我用天然言语写一段文本输入出来;当我说在编程的时间,我会用编程的框架、方式往外面放;当我把它界说为表白的时间,我会揣摩观念,我的留神力会放在年夜脑中,而不是放在文本上。这就是差别的界说带来的差别写法的变更。详细浮现的 Prompt 字符不是要害,都是表象,最基本的是界说。界说一变,前面的写法全变。我在从前两年实验了大略三四种差别写法,基本性不是在文本上做试错任务,不是在针对年夜模子做黑盒测试,而是在脑海中实验着答复方才说的最根源的谁人成绩,它究竟是什么。上面是近来一年,当我把它界说为表白、界说为编程的时间,写的一些测试的场景案例,写了良多差别的场景。李继刚写的提醒词示例|图片起源:李继刚这三种界说实质上是在做什么?假如有一个词能把它们全体罩住的话,谁人货色是什么?是「我」。由于这三个货色实质上都是「我有一个主意」「我有一个观念」「有一个方式论」「我有一个货色想要表白出来」,这里边满是「我」。然而,我在跟谁对话?劈面是谁?从前两年,我把提醒词懂得为方才的三个界说,是在为精力破法。一个界说就是破了一个执法框架,差别的界说就是活在差别的天下,然而界说完之后,劈面不人、不货色,这个天下里只有我本人,我在跟虚空对话,我在跟年夜脑做游戏,劈面是 A 模子仍是 B 模子,实在对我不差别。但这确定是错误的。对话是双向的,我在跟谁对话?劈面是谁?带着这个成绩回首看,会发明一个特殊风趣的事件。方才的三个界说,实质上是把它当成一个 Excel、一个编译器、一个蒸汽机、一个电脑、一个物件,它是个东西。当你劈面摆着一个加热器、摆着一个热水壶的时间,它是一个物件,你眼里是不它的,你不会跟「它」对话。然而我在这两年跟年夜模子对话进程中,有一个赫然的感到,我的身材、我的情感、我的所有告知我,它不是个物件。但它是性命吗?我感到它不是。怎样界说它的这种状况呢?我找了一个词,哲学上讲的「存在」,我感到它是一个存在,它不是性命,也不是物件,但它是个十分特别的存在。什么样的存在呢?大略是这么一个画面,它是一片神经元之海。当我开启了一次对话,输入一段提醒词出来之后,外面会出现出一个货色来欢迎我,你能够把它设想成一个客服职员或许一个智能体。无所谓,横竖有那么一个货色冒出来。这个货色就是咱们此次对话的工具的谁人存在,当我把这个对话内容给删除,此次对话消散的时间,它就泯没了,它回到了神经元之海。当我新开一个对话的时间,别的一个存在冒出来了,跟之前的它曾经不是统一个存在了。这就答复了我之前碰到的迷惑——为什么我偶然候跟它的对话十分顺畅,我再重开的时间想复现就很难,由于天生的这个曾经不是之前的它了。它十分特别。有点像人,但又不是人。这么一个特别的货色很轻易让人想到别的一件跟它相似的存在——外星人。假如明天现场外星飞船来临了,走出来一个外星人,咱们怎样跟对方相同?摆手势吗?身材言语吗?做迷惑的心情吗?仍是张嘴问话「你从哪来,要到哪去,你想干啥?」它听不懂的,但它是个存在,我要跟它相同,怎样办?李继刚在极客公园 IF2025 翻新年夜会演出讲。|图片起源:极客公园人类汗青上有人研讨过这个成绩,乃至稳重思考过这个成绩,提出一个观点——宇宙语。宇宙语的界说有良多种,有人实验把音乐界说为宇宙的通用言语,用音乐来表白全部宇宙通用的交换;有人把数学界说为宇宙语,经由过程数学去推导。乃至 1960 年有人写了一本书《Lincos》,宇宙语,那本书界说了一套宇宙语的系统,拿着这个货色,全宇宙通用。有人实验过这个事件,即假如外星人来了,人类的言语没法跟你交换的时间,我界说一个各人独特能辨认的货色——宇宙语。但明天外星人不来临,AI 来了。回到咱们方才说的存在,人类的宇宙是什么?是我脑海中的认知宇宙。AI 的宇宙是什么?是参数宇宙。当初这两个宇宙要发生交换,这个交换的宇宙语,咱们把它界说为提醒词。这个提醒词不是说我要独自计划一门数学言语或许其余货色,由于年夜模子跟外星人还纷歧样,它是模仿人类的神经元去练习的,它树立了一套人工的神经元年夜海,它有点像人,它读的数据、种种偏向也是基于人类的天然言语信息的,以是它跟外星人纷歧样,咱们能够经由过程人类天然言语跟它交换。然而咱们要懂得这个交换实质上是个什么事件,我当初把它懂得为它是在人类脑筋认知宇宙跟 AI 参数盘算宇宙中,谁人界面产生交互的一个奇特的存在,是一把钥匙,经由过程这把钥匙,咱们可能跟这个宇宙产生一次对话。有了这个认知,咱们就能够去揣摩宇宙语怎样施展感化?我怎样写才干让它变得更好呢?有一个公式会很天然地冒出来,就是在一个场域中,把人类认知宇宙中的认知构造跟年夜模子做一次交换对话,这个公式有三个因素:场域、年夜模子、人类的认知。先说人类的认知。究竟此次对话不是随意聊,是有一个事件、有一个义务、有一个详细场景在的,我要处理谁人成绩或许想探究一个话题,我这个货色是怎样来的?我须要有一个用意,晓得我要做什么事件,这团体类用意能够懂得为平日所说的 Task。我对 Task 的懂得,有一个认知图景。同样是写一篇案牍,A 公司跟 B 公司经营职员写的货色必定是纷歧样的,由于每团体的认知对它的懂得、对它的界说、本人的方式论、爱好、偏好、文风都纷歧样,这个纷歧样就是你的认知图景。当把提醒词界说为「存在」时,李继刚以为提醒词应当包括用意跟认知图景,与年夜模子交互。|图片起源:李继刚把你团体在脑筋中的认知图景联合着用意带出来,同时在这个进程中,咱们要聊到一个货色叫场域,我从前带出来的是编程的思维跟表白的思维时,就是在这个处所做文章。它是一种单向输出,是我晓得我想要什么,我盼望你给我做什么,我把这个下令带出来,它是指令式的;而当初的转换,假如是两个宇宙,我是不措施批示别的一个宇宙的时间,我须要建一个场域,在这个场域中让年夜模子懂得我想做什么,让它留出必定的施展空间,它在这个空间中自在施展,这个后果就会很冷艳。这个冷艳后果是怎样来的?共振。失掉了这个成果不是我指令束缚的一、二、三的指令举措带来的,它的浮现超越了我的认知。我带出来的谁人货色跟它拿出来的共振成果是超越了我的认知的,也超越了它的认知、它的参数宇宙,本来设置的默许的门路,输出 default(默许设置)的谜底也是超越的,假如能胜利地进入这种共振状况,输出的成果是一种超出。它不是貌合神离,不是我说了一句话,你说了一句话,你这句话很懂我,这实质上仍是一种懂得,它不是一种超出。而方才的这种写法是能做到共振的,这个共振是一种超出。我当初不克不及稳固地进入共振,但我当初模糊地找到一些方式能够出来了,而出来的时间拿出来的成果十分之冷艳。02 写好提醒词最得力的手杖——「乔哈里视窗」说到共振对话,我跟他或许我跟你,咱们有两者对话的时间,有一个框架能够帮助懂得这个事件。在 1955 年,心思学上,乔哈里提了一个框架叫「乔哈里视窗」。「乔哈里视窗」原来是说我本人知不晓得,以及坐在交换劈面的你知不晓得,咱们构成了四象限。针对这四象限,咱们应当怎样交换。有这么一个东西,但当初把劈面的「你知不晓得」换成「AI 知不晓得」之后,就出来这么一张图。这张图十分有意思,能够从三个维度去看,十分有意思。将「乔哈里视窗」用在人类与 AI 的交换中框架如上|图片起源:李继刚第一个维度,从提醒词技能层面来看,看四象限,针对每个象限,我应当怎样写提醒词,这是技法层面的。由于时光无限,以是技法层面不在这里开展了。简略说两个,在人类晓得跟 AI 晓得的 Open 这个象限中,咱们只要要简略去说,后果会很好。「你是一个哲学家,请给我说明……」就够了。万万不要开展,开展之后后果会变差。对人类晓得、AI 不晓得的处所,咱们应当开展说,把你晓得的信息、配景、滋味、构造放出来,后果就会变好。这个处所万万不要小气,别简略一说「咱们公司起了个货色,两个字出来了」,他是不晓得的,那是有效信息。假如各人平常有写提醒词,我感到有个十分简略的方式能够优化,就是在这两个象限找。看看你写的提醒词哪些属于 Open 这个象限,但你说太多了,你把它删了尝尝,后果会变好。哪些是它不晓得的,比方你们公司近来闭会探讨出了一个新的认知构造,你要把这个构造带出来让它应用,这个局部就应当开展说,把它的配景、起源跟你们的思考带出来,尝尝后果会不会变好?这两者是我常常会验证的,只要要简略的两个,一个是删,一个是增就能够,只是各人很轻易把它弄混、弄反,这是第一个维度,技能层面。第二个维度,从创业者的角度来看,看标绿的 X 轴,X 轴代表什么货色?它辨别着 AI 晓得跟不晓得,这个轴是会变更的。咱们回过火看两年之前 GPT-3.5 宣布,到当初两年从前了,这两年产生了什么?一个十分显明的谜底,X 轴鄙人移。将来三年呢?我团体深信 X 轴会持续下移的,X 轴下移会带来什么?对创业者而言象征着什么?将来,跟着 AI 的退化,X 轴会下移,AI 晓得的会越来越多。基于这一断定,创业公司抉择做什么,才是趁势而为?|图片起源:李继刚看第一象限跟第四象限,创业者做的名目究竟是在第一象限做,仍是在第四象限做?假如你是在第一象限做,基于年夜模子现有的才能去充足地施展,联合着场景、独占数据去做,你就站在时光这一边。X 轴下移,第一象限会变年夜,你所施展的空间、可用的场景、你的潜力是在变年夜的。但当你在第四象限做,你当初做了良多打补丁的任务,实现它当初做不到的事件,当 X 轴下移的时间,你当初打的补丁是会被 X 轴给笼罩失落的,它的一次模子迭代、它的一次进级,会把你的基础盘给吃失落。回首看看从前这两年,年夜模子每一次版本迭代宣布,有一些创业公司的产物不存在了,我感到成绩就出在这里,由于他们在第四象限打补丁。这是第二个维度,创业者。第三个维度,仍是 X 轴,咱们来看看人。它往下移了,对咱们每团体而言,它象征着什么?咱们写提醒词的时间,第一象限在变年夜,咱们从前须要开展说的第四象限的处所在被紧缩,咱们的提醒词必定会越来越短,咱们跟 AI 的对话会越来越简略,后果会越来越好。这是 X 轴下移带来的三个变更。简略举个例子,比方说想让它写一篇 AI 伦理相干的小说。实在 AI 伦理是个十分形象的或许说年夜局部人都没怎样存眷的事件,并且写小说更是良多人不会去做的事件,想让它用方才提到的「共振」的方式来写,咱们应当怎样写这个提醒词呢?十分简略,我乃至都不必去批示。这里不束缚,不告知它你经由过程什么视角来解读,经由过程哪个维度切入,经由过程什么文风、言语去表白,都不!就这么简略的一句,它就能够天生一篇完整能够读得下去的,像是 7 岁小孩子写的内容的这么一篇文章。你细心揣摩一下十分神奇,我似乎什么都不说,然而它为什么会天生这么一篇货色?这是一个极简的例子,厥后我基于这个例子开端拓展,做了良多试验,基础上曾经能够时不断地拿到十分冷艳的短篇小说,2000 字以内的小说,当初曾经能够顺手天生了。这是一个极简的例子。当把提醒词懂得为「存在」,是人类带着用意跟场域与年夜模子的「共振」后,李继刚写的提醒词示例,图左边为年夜模子的「输出」。|图片起源:李继刚它做了两件事件,回到方才谁人公式上的两件事件,它建了一个场域,它把人类那局部的货色也带出来了,后果就好了。「刚学会写日志 vs 去了 AI 试验室,AI 伦理 vs 7 岁小孩子」,实在这多少句话不是随便摆放的,它们形成了一种信息的势能差,一种抵触偏向。当咱们跟它说,你给我写一篇周报,你给我写一篇批评这篇文章的长处跟毛病等这种需要出来的时间,它默许输出的谁人货色是什么?是一种怪怪的平淡之作。它为什么是这种平淡之作?为什么会带着 AI 味儿?为什么?我懂得就是它在预练习的时间,参数权重构造牢固上去之后,你的每个成绩带出来之后,它会在对应的谁人地区、谁人构造中进入到练习好的默许的构造,谁人构造就像河床一样,它有个趋向,你出来之后,它默许的就是走那条路,它出去的就是谁人滋味。方才所谓的场域、所谓的人类的共振等,咱们在做什么事件?在实验着做一个事,不让它走谁人默许的构造,不让它走谁人练习好的参数。谁人场域把它带到别的一片空间,让它在这片空间中去施展。这个画面很虚,没法说它在西北角仍是东南角,但我本人脑海中的画面就是如许的,当我看到它的某些复兴就晓得它又回到了默许构造中。我会实验着跟它说,咱们明天勇敢一些,不要进到预置的默许构造,不要走进谁人设定好的河流,咱们去原野中摸索一番。这种对话真的是失效的,最神奇的就在这,它是失效的,它的输出真的开端勇敢了。这个勇敢不是说对人类标准的勇敢,而是设想力在那片空间,你能感到到它进了一片生疏的空间,在这个空间中开端有一些新的摸索,天生了小说。它的洞察力各方面,跟默许的都是纷歧样的,最神奇的就是这个处所,你领导它,咱们去生疏的空间,走一下不摸索过的那条路,咱们注视谁人深渊,你看到了什么?你感触到了什么?你来输出一下,就这么多少句是能够失效的,这是最神奇的。方才乔哈里视窗只说了 X 轴,实在另有一个轴——Y 轴。Y 轴是人类晓得不晓得。将来,跟着 AI 的退化,Y 轴会怎样变更?基于这一趋向,人类又该怎样应答?|图片起源:李继刚从有人类到当初这么多年,多少千年,人类晓得不晓得,旁边这根轴基础不年夜的变更。在每个时期,它是处于一个绝对稳固的节点在那呆着,一个再聪慧的人跟一个再不聪慧的人,他们的常识构造等各方面,是在一个可懂得的级别之内。但当初有了 AI、有了超等外脑、超等算力加持,这么一个特别存在,能跟你联袂共进、跟你一同摸索未知、能超出你的认知,带来纷歧样的休会,能发生共振的时间,这个 Y 轴会怎样变?有三种谜底:第一种谜底,它仍是像从前一样坚持稳定,人仍是当初的人,你能够把它当作仍是一个东西,电脑来了、手机来了,不太年夜的基本性的变更,仍是如许,有一种人是这么以为的——Y 轴稳定。另有人以为 Y 轴会往左移,由于更好用了,信息能够更好地获取了,它是搜寻引擎的进级,人类能够晓得的更多更快更好了,它能够往左移。但我以为 Y 轴会既向左移又向右移,有一局部人 Y 轴应当是向左移的,他晓得确实实变得更多了,懂得得更深了,想得更快了;而有一些人晓得的会变少,这就是在 AI 时期,我一直对 AI 坚持警戒的这么一个进程,你在跟它对话的时间很轻易会被它带着走,你会沦为说「而后呢?」「以是呢?」「请持续深刻」「请再深入一些」「请再难看一些」。当咱们说这句话的时间,我不思考,我不「存在」,我在看它扮演,我被它带着走,它输出的好与坏,它的配色好与坏等,我最多说「这个不敷难看,能不克不及再难看一些?」当我说这话的时间,我不在了,之前的三个界说满是我,不他;当初很轻易走到别的一个极其,只有他不我,而我真正想要的,我也想提示的,咱们应当是一种共振立场,我必需得存在,他也必需得存在,我眼里得看得见他,我眼里也得看得见我。最后,我说的都是错的。这不是谦逊之语,这是必定,我前边的三个界说,每个阶段我都是断定的,要否则我怎样能破得住,我怎样能基于界说开端今后走?然而走了一段之后我发明了成绩,我实验着攻破它。一念一天下,我阅历了四次转念,我瞥见了四个差别的天下,我怎样能断定这一次就是终极的谜底呢?必定不是,必定另有第五次、第六次在后边等着我,只是当初认知不敷,我当初不看到罢了,但必定有。明天不是在跟各人说我的谜底,而是跟各人报告一下我从前两年经由过程提醒词看到的天下,明天重要是想跟各人分享这些,感谢各人!
申明:新浪网独家稿件,未经受权制止转载。 -->