Top-k & Top-p, Temperature

于 2023-09-27 22:40:24 发布
阅读量370 收藏 1
点赞数
CC 4.0 BY-SA版权
分类专栏： LLM大语言模型 文章标签： transformer 大数据 语言模型 人工智能 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sinat_37574187/article/details/133364954

Top-k & Top-p, Temperature

abnercloud

abnercloud

​

目录

收起

Top-k & Top-p

1.挑出top token：贪心解码

2.从top tokens中挑选：top-k

3.从概率加起来为15%的top tokens中挑选：top-p

Temperature

采样时如何选择温度

Likelihood

Intuition

Number of Generations

了解本专栏 订阅专栏 解锁全文 超级会员免费看
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

医疗AI强化曾小健

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值