大模型prompt与function calling的区别

发布时间 2024-01-01 19:53:44作者: 智健

大模型prompt与function calling的区别

当我们让大模型深入理解我们的想法或者给大模型加入我们自己的知识,就提前告诉给大模型,那么在openai没有放开function calling这个功能的时候,只能通过构造prompt来提示给大模型,这种方法比较比较麻烦,一是需要将prompt构造成特殊的格式、二是prompt过长会导致大模型无法记住全部内容
23年六月份,openai发布了FunctionCalling的功能,这个功能也是需要训练大模型,才能让大模型具备的能力。采用这个方式,用户只需要定义自己的function,构造调用这个function的description,当用户输入时,大模型会根据用户输入判断是否需要进行function calling的调用,需要则会到用户自定义的知识库中根据desciption进行检索,匹配成功后,大模型会返回匹配的function name,用户可以主动发起调用,也可以自动化的调用。

采用function calling的好处

  • 能够学习到外部知识以及自定义的知识
  • 采用更少的token就能让大模型理解