按分數做一次相信度過濾,在削減85%的token耗費下,一起削減85%生成token。
- 大都投票(Majority Voting)
在規范的大都投票中,僅僅咱們一向沒有仔細重視過他們的「考慮進程」。有的說「答案是103、
下圖橫軸是token數量(推理所需的計算成本),假如發現某條思路不靠譜,
標明DeepConf在相同投票規劃下能到達更高的準確率 。
依據相信度的深度考慮
研討者的考慮是:究竟怎樣把「相信度」用得更奇妙
按分數做一次相信度過濾,在削減85%的token耗費下,一起削減85%生成token。
在規范的大都投票中,僅僅咱們一向沒有仔細重視過他們的「考慮進程」。有的說「答案是103、
下圖橫軸是token數量(推理所需的計算成本),假如發現某條思路不靠譜,
標明DeepConf在相同投票規劃下能到達更高的準確率 。
研討者的考慮是:究竟怎樣把「相信度」用得更奇妙