nikkie-ftnextの日記

イベントレポートや読書メモを発信

2023-05-23から1日間の記事一覧

Q: ChatGPT(gpt-3.5-turbo)の最大トークン数は4096です。なので、プロンプトの長さが30000文字を超えるときに回答を得ることはできない。◯か☓か

答えは☓(バツ) 最大トークン数(max tokens)は40961ですが、プロンプトを工夫すれば30000字を超える長さであっても回答を得られます! なお、この知見は「へぇ」レベルで、LLMを使っていく上では役に立たないと思います(ここで引き返してもええんやで)。 …