2024-05-08
prompt
0

(C) 上下文:为任务提供背景信息 通过为大语言模型(LLM)提供详细的背景信息,可以帮助它精确理解讨论的具体场景,确保提供的反馈具有相关性。

(O) 目标:明确你要求大语言模型完成的任务 清晰地界定任务目标,可以使大语言模型更专注地调整其回应,以实现这一具体目标。

2024-04-26
prompt
0

Prompt 编写框架

-

  • Instruction(必须): 指令,即你希望模型执行的具体任务。

  • Context(选填): 背景信息,或者说是上下文信息,这可以引导模型做出更好的反应。

  • Input Data(选填): 输入数据,告知模型需要处理的数据。

2024-04-24
llm
0

精度

浮点数精度:双精度(FP64)、单精度(FP32、TF32)、半精度(FP16、BF16)、8位精度(FP8)、4位精度(FP4、NF4) 量化精度:INT8、INT4 (也有INT3/INT5/INT6的)

精度高肯定更准确,但是也会带来更高的计算和存储成本。较低的精度会降低计算精度,但可以提高计算效率和性能。

2024-04-19
prompt
0

Microsoft Prompt Engineering

https://github.com/microsoft/generative-ai-for-beginners

基本概念

  • Tokenization = how the model "sees" the prompt 标记化 = 模型如何“看到”提示 LLM 将 prompt 视为一系列 tokens,其中不同模型(或模型的版本)可以以不同方式对同一提示进行标记。
2024-04-17
prompt
0

OpenAI Prompt Engineering

https://platform.openai.com/docs/guides/prompt-engineering

Write clear instructions(写出清晰的指令)

把话说详细

尽量多的提供任何重要的详细信息和上下文,不要一太笼统