小文字トークナイザー
lowercase
トークナイザーは、letter
トークナイザー のように、文字でない文字に出会うたびにテキストを用語に分割しますが、すべての用語を小文字に変換します。これは、letter
トークナイザー と lowercase
トークンフィルター を組み合わせたものと機能的に同等ですが、両方のステップを1回のパスで実行するため、より効率的です。
例の出力
Python
resp = client.indices.analyze(
tokenizer="lowercase",
text="The 2 QUICK Brown-Foxes jumped over the lazy dog's bone.",
)
print(resp)
Ruby
response = client.indices.analyze(
body: {
tokenizer: 'lowercase',
text: "The 2 QUICK Brown-Foxes jumped over the lazy dog's bone."
}
)
puts response
Js
const response = await client.indices.analyze({
tokenizer: "lowercase",
text: "The 2 QUICK Brown-Foxes jumped over the lazy dog's bone.",
});
console.log(response);
コンソール
POST _analyze
{
"tokenizer": "lowercase",
"text": "The 2 QUICK Brown-Foxes jumped over the lazy dog's bone."
}
上記の文は次の用語を生成します:
テキスト
[ the, quick, brown, foxes, jumped, over, the, lazy, dog, s, bone ]
設定
lowercase
トークナイザーは設定可能ではありません。