検索システムを設計したり評価したりするとき、多くの人はまず「正しい文書が見つかるかどうか」に注目します。しかし、検索という処理は単に文書を探し当てるだけの単純な操作ではありません。
検索システムを設計したり評価したりするとき、多くの人はまず「正しい文書が見つかるかどうか」に注目します。しかし、検索という処理は単に文書を探し当てるだけの単純な操作ではありません。
大規模言語モデルについて調べ始めると、早い段階で「事前学習」と「ファインチューニング」という言葉に出会います。
大規模言語モデル(LLM)は高い性能を持つ一方で、モデルサイズが非常に大きく、実運用ではメモリ使用量と推論レイテンシが大きな課題になります。
大規模言語モデル(LLM)が文章を生成するとき、内部では次に出すべきトークン候補に対して確率分布(Probability Distribution)を作り、その中から一つを選び続けています。