シンプルなパターントークナイザー
simple_pattern
トークナイザーは、正規表現を使用して一致するテキストを用語としてキャプチャします。サポートされている正規表現機能のセットは、pattern
トークナイザーよりも制限されていますが、トークン化は一般的に速いです。
このトークナイザーは、pattern
トークナイザーとは異なり、パターン一致で入力を分割することをサポートしていません。同じ制限された正規表現のサブセットを使用してパターン一致で分割するには、simple_pattern_split
トークナイザーを参照してください。
このトークナイザーは、Lucene正規表現を使用します。サポートされている機能と構文の説明については、正規表現構文を参照してください。
デフォルトのパターンは空の文字列で、用語は生成されません。このトークナイザーは常に非デフォルトのパターンで構成する必要があります。
設定
simple_pattern
トークナイザーは、次のパラメーターを受け入れます:
pattern |
Lucene正規表現、デフォルトは空の文字列です。 |
例の設定
この例では、simple_pattern
トークナイザーを構成して、3桁の数字を用語として生成します。
Python
resp = client.indices.create(
index="my-index-000001",
settings={
"analysis": {
"analyzer": {
"my_analyzer": {
"tokenizer": "my_tokenizer"
}
},
"tokenizer": {
"my_tokenizer": {
"type": "simple_pattern",
"pattern": "[0123456789]{3}"
}
}
}
},
)
print(resp)
resp1 = client.indices.analyze(
index="my-index-000001",
analyzer="my_analyzer",
text="fd-786-335-514-x",
)
print(resp1)
Ruby
response = client.indices.create(
index: 'my-index-000001',
body: {
settings: {
analysis: {
analyzer: {
my_analyzer: {
tokenizer: 'my_tokenizer'
}
},
tokenizer: {
my_tokenizer: {
type: 'simple_pattern',
pattern: '[0123456789]{3}'
}
}
}
}
}
)
puts response
response = client.indices.analyze(
index: 'my-index-000001',
body: {
analyzer: 'my_analyzer',
text: 'fd-786-335-514-x'
}
)
puts response
Js
const response = await client.indices.create({
index: "my-index-000001",
settings: {
analysis: {
analyzer: {
my_analyzer: {
tokenizer: "my_tokenizer",
},
},
tokenizer: {
my_tokenizer: {
type: "simple_pattern",
pattern: "[0123456789]{3}",
},
},
},
},
});
console.log(response);
const response1 = await client.indices.analyze({
index: "my-index-000001",
analyzer: "my_analyzer",
text: "fd-786-335-514-x",
});
console.log(response1);
コンソール
PUT my-index-000001
{
"settings": {
"analysis": {
"analyzer": {
"my_analyzer": {
"tokenizer": "my_tokenizer"
}
},
"tokenizer": {
"my_tokenizer": {
"type": "simple_pattern",
"pattern": "[0123456789]{3}"
}
}
}
}
}
POST my-index-000001/_analyze
{
"analyzer": "my_analyzer",
"text": "fd-786-335-514-x"
}
上記の例は、これらの用語を生成します:
テキスト
[ 786, 335, 514 ]