米兰·(milan)中国官方网站-密苏里大学许东：大模型时代，Prompt 为生物信息学研究带来新动力丨IJAIRR

自ChatGPT于2022年横空出生避世，人工智能范畴便迎来了一场新的革命。年夜语言模子（LLMs）以其卓着的文本处置惩罚能力，迅速成为研究者及开发者的新宠。跟着这些模子的突起，怎样与它们有用交互的问题也日趋凸显，提醒词（Prompt）的观点逐渐成为研究的热门。

但甚么是提醒词？于初期的计较机交互中，提醒词是指于提醒符（如MS Dos的C: 或者Python的 ）左边，用户输入以引发体系做出相应的指令。而于年夜模子的语境中，提醒词则是一种指导性的语句或者问题，它如同邪术咒语，引发着年夜语言模子的潜能，指导它们根据咱们的指令天生文本、回覆问题或者履行使命。

于与年夜语言模子的互动中，提醒词就像是一把打开常识宝库的钥匙。它不仅是一座沟通的桥梁，更是挖掘语言模子深层潜力的东西。ChatGPT的开创人Sam Altman将提醒词工程（Prompt Engineering）视为一种用天然语言编程的黑科技，认为这是一种可以或许带来高回报的技术。

可否让ChatGPT或者其他年夜语言模子给出满足的谜底，很年夜水平上取决在你怎样巧妙地利用提醒词。跟着人工智能天生内容（AIGC）时代的到来，提醒词的价值及主要性愈发凸显。

然而，Prompt技能的繁杂性远超咱们的想象。初期的研究者们于摸索Prompt技能时，恍如是于举行一场炼金术式的摸索，布满了不确定性及偶尔性。他们经由过程不停测验考试差别的提醒词，试图找到可以或许引发年夜语言模子最好体现的“邪术咒语”。这类要领虽然于某些环境下可以或许见效，但却缺少体系性及可复制性。

为了让Prompt技能更进一步，它必需履历一场“从炼金术到化学”的体系成长历程。这象征着咱们需要将Prompt技能从一种基在经验的武艺，改变为一门基在科学道理的工程学科。这需要对于现有的Prompt技能举行深切的阐发及总结，成立起一套完备的理论系统及要领论。

例如：差别的提醒词是怎样影响年夜语言模子的理解及天生的？于差别的运用场景下，应该以甚么样的原则，去设计及优化提醒词？近日，相干论文之一《Iterative Prompt Refinement for Mining Gene Relationships from ChatGPT》，上线期刊《International Journal of Artificial Intelligence and Robotics Research》（IJAIRR）。

该论文聚焦在年夜语言模子于生物信息学范畴的运用，重要研究了怎样使用年夜型语言模子（如ChatGPT）来挖掘基因瓜葛，并提出了一种迭代提醒优化技能来提高猜测基因瓜葛的正确性。论文为生物信息学研究者利用ChatGPT改善事情流程、提高事情效率提供了一种新的思绪。

借论文上线，密苏里年夜学哥伦比亚分校计较机系许东传授向雷峰网-AI科技评论分享了人工智能年夜型模子于生命科学范畴的影响，以和他对于怎样更好地将年夜型语言模子运用在生物信息学研究的思索。

论文链接：https://gairdao.com/doi/10.1142/S2972335324500054

论文援用链接：https://www.worldscientific.com/action/showCitFormats?doi=10.1142%2FS2972335324500054 area=0000000000000001

生物信息学：迎接第二次繁荣期

回望上个世纪90年月，那是一个被形象地称为生物信息学研究的“寒武纪”期间。人类基因组规划的启动、全世界卵白质布局猜测竞赛的举办，以和生物学信息量的爆炸性增加，加上信息技能的跨时代成长，配合为生物信息学带来了第一次黄金时代，使其成为其时的前沿学科之一。如今，跟着人工智能技能的冲破，尤其是AI年夜模子于生物信息学中的运用，咱们有望迎来生物信息学的第二个繁荣期。

许东传授恰是上世纪90年月生物信息学黄金期的亲历者之一。他指出，于生命科学范畴，人工智能年夜型模子的运用已经经变患上日趋广泛，其运用重要集中于如下几个方面：

卵白质模子：经由过程使用卵白质序列练习出的年夜模子，可以举行各类卵白质猜测使命，包括新卵白质的设计；

单细胞模子：单细胞数据量巨年夜，凡是一个单细胞试验就触及数千到数百万个细胞。基在单细胞转录组数据练习的年夜模子，可以或许举行年夜范围的单细胞数据阐发；

医学多模态模子：经由过程整合医学文本（如病历、大夫条记）、图象及其他查抄陈诉等多种数据类型，练习出的年夜模子，可以用在医学数据阐发；

除了了上述三个重要范畴外，其他如核酸定位、卵白质与DNA/RNA的彼此作用等方面，也有研究者于开发响应的年夜模子。这些运用场景可以或许辅助生物信息学家以更快、更切确的方式处置惩罚生物信息学问题，从而晋升研究效率并降低成本。

然而，只管AI年夜模子于生物信息学范畴的运用已经经取患了必然的进展，但年夜模子于生物信息学范畴的运用今朝仍处在初期成长阶段，并存于着很多挑战。起首碰到的一个问题是，AI年夜模子需要年夜量高质量的生物信息学数据，但这些数据的质量及完备性可能存于问题；同时今朝AI年夜模子的注释性及可注释性可能存于问题，“幻觉”的存于严峻影响着研究的靠得住性。

怎样解决上述问题，让AI年夜模子于生物信息学研究中阐扬更高文用？许东告诉雷峰网(公家号：雷峰网)-AI科技评论，Prompt技能为生物信息学范畴提供了一种矫捷且易在实行的要领，特别于数据资源有限的环境下，Prompt技能仍可能成为主流要领之一。

用提醒进修晋升AI模子的精准度

于呆板进修范畴，将Prompt从“基在经验”改变为“基在科学道理”的做法被称为“提醒进修”。谈天呆板人之以是于很年夜水平上依靠在提醒，是由于ChatGPT的预练习模子中存于年夜量常识，为了更好地使用这些常识及能力，OpenAI采用了基在人类反馈强化进修（RLHF）要领，经由过程人类输入来“比对于”语言从而到达人机交互的目的。是以，必需细心设计谈天呆板人的提醒，以得到有价值、正确及稳健的相应。

提醒进修的焦点于在将用户输入的文本转化为特定的提醒（prompt）格局。这一历程凡是包括两种模式：第一种是自编码模式，采用文本中间占位符的天然语言模板，让年夜模子于指定占位符让天生谜底文本。第二种是自回归模式，给年夜模子提供问题与配景信息，让年夜模子自由阐扬天生谜底文本。这些要领本色上是为预练习语言模子设计使命，包括输入模板、标签样式以和模子输出与标签的对于应瓜葛。

论文的研究恰是于此基础上，将自回归模式的提醒进修用在繁杂的生物信息学场景中，并使用迭代提醒优化、思维链等技能，经由过程与ChatGPT的交互，慢慢优化提醒，以提高猜测基因瓜葛的正确性。

（使用 GPT 模子举行基因瓜葛挖掘的迭代提醒细化框架。该要领使用 GPT-4 的高级逻辑能力来自立改良提醒，并使用 GPT-3.5 的低成本及高速举行初始基在事实的查询处置惩罚。）

这项事情的要害点之一是元提醒设计（Meta-Prompt Design）：元提醒为对于话呆板人设定脚色，提醒来引导GPT-4举行提醒优化，加强回覆的专业性。元提醒包罗详细指令，如转变脚色、省略细节等，以提高提醒的有用性。

另外一要害点则是迭代优化技能的引入，使用GPT-4的能力举行迭代提醒优化。起首利用GPT-3.5天生基因瓜葛提醒，然后评估这些提醒的效果（如F-1分数、切确度及召回率）；将猜测成果与现实数据（如KEGG数据库）举行比力，辨认过错及不足，然后将这些反馈信息用在进一步优化提醒；末了将优化后的模子运用在KEGG Pathway Database举行基准测试，以验证其于解析繁杂基因瓜葛及疾病相干路子方面的有用性。

此外，论文还有引入了思维链（Chain-of-Thought）及思维树（Tree-of-Thought）计谋，指导ChatGPT举行更深切的逻辑推理，提高谜底的正确性及深度；同时将繁杂问题分化为更容易在治理的子问题序列，慢慢指导ChatGPT构建更完备的谜底，这类要领尤其合用在繁杂的基因瓜葛收集构建。

试验成果注解，经由过程迭代提醒优化技能，ChatGPT于猜测基因瓜葛方面的正确性显著提高。尤其是于繁杂基因瓜葛及疾病相干路子的解析中，展示了其潜力及有用性。

生物信息学研究的新动力

“Prompt技能于生物信息学范畴具备显著的上风。”许东告诉AI科技评论，起首，Prompt技能的数据需求低，不需要年夜量的数据便可举行练习，是以于小数据集上体现精彩。这对于在生物信息学范畴尤为主要，由于很多生物医学数据集范围有限；其次，因为是于年夜型预练习模子的基础长进行操作，Prompt技能易在实行及运用；末了，生物信息学中很多问题素质上是小数据问题，Prompt技能是以具备广泛的运用远景及场景。

于注释迭代提醒优化技能怎样有用解决年夜型语言模子中的“幻觉”问题时，许东认为，不单单是年夜型语言模子，人类自身于某些环境下也会呈现近似的“幻觉”征象。例如，人们可能会过错地回忆某些事务的细节，这并不是成心误导，而是影象呈现了误差。

年夜型语言模子的“幻觉”缘故原由年夜致可分为三类：1）曲解用户问题；2）练习数据的混合致使天生回覆时呈现混合；3）缺少反思能力，未能有用辨认及改正自身的过错。而迭代提醒优化技能恰是针对于这三类缘故原由有的放矢，经由过程迭代优化，模子可以或许更正确地舆解用户的问题及提醒，削减曲解；同时加强常识归纳综合，有助在模子更好地归纳综合及区别练习数据中的常识，防止信息混合；末了，迭代优化使模子具有更强的、近似在人类的思索历程自我反思能力，可以或许辨认并改良天生的回覆。

与传统要领比拟，迭代提醒优化技能经由过程模仿人类的进修及思索历程，使模子于处置惩罚繁杂问题时更为高效及协调。这类要领比传统的基在法则的体系更具矫捷性及顺应性，可以或许处置惩罚更广泛的使命及数据类型。是以，经由过程这类要领，年夜型语言模子于天生回覆时的正确性及靠得住性获得了显著晋升，削减了“幻觉”征象的发生，从而于生物信息学等范畴揭示出更年夜的运用潜力。

许东同时还有暗示，只管Prompt技能的运用远景广漠，但其自身也存于必然的局限性，如高度依靠在练习数据的质量及代表性、泛化能力受限等，同时于论文中许东也提到，模子的机能颠簸及对于练习数据的敏感性注解需要进一步的优化及迭代计谋。将来的事情可能包括模子定制、更进步前辈的迭代提醒算法开发以和于更广泛的研究问题中评估要领的有用性。

“虽然并不是所有问题都合适这类要领，但可能相称比例的问题，可能经由过程年夜模子及Prompt技能获得更正确的解决方案。”谈和Prompt技能于生物信息学范畴的将来潜力，许东布满决定信念。“年夜模子于许多范畴还有有着很年夜的优化空间，例如此刻缺少专门的生物信息学的年夜模子，而跟着年夜模子的成长，Prompt技能将于这些模子上阐扬更年夜的作用。”

雷峰网原创文章，未经授权禁止转载。详情见转载须知。