GPT-4 大幅提升 Context Length

當我地要做一個 GPT 產品開發，要做一個良好嘅 UX，AI 要「記得」用戶講過及自己答過嘅嘢以及答得「準」，所以 Context Length 及 Accuracy 係最重要。

今次 GPT-4 發佈最驚喜嘅地方係將個 Context 由 4096 tokens(GPT-3.5 turbo) 提升到 8192 tokens，更有 GPT-4-32k 提供 32768 tokens！呢個差異可以大大改變 GPT 產品嘅限制及做多更廣更闊嘅設計。

而 GPT-4 V.S. GPT-3.5 背後有龐大數據差異（傳聞相差至少 100倍），相信 GPT-4 會答得更加準，價錢亦上升咗 3 倍由 $0.002/1k tokens 上升到 $0.006/1k tokens (completion)。

GPT-4 發佈連結 : https://openai.com/research/gpt-4