アナライザーのテスト

analyze API は、アナライザーによって生成された用語を表示するための非常に貴重なツールです。リクエスト内で組み込みのアナライザーを指定できます:

Python

  1. resp = client.indices.analyze(
  2. analyzer="whitespace",
  3. text="The quick brown fox.",
  4. )
  5. print(resp)

Ruby

  1. response = client.indices.analyze(
  2. body: {
  3. analyzer: 'whitespace',
  4. text: 'The quick brown fox.'
  5. }
  6. )
  7. puts response

Js

  1. const response = await client.indices.analyze({
  2. analyzer: "whitespace",
  3. text: "The quick brown fox.",
  4. });
  5. console.log(response);

コンソール

  1. POST _analyze
  2. {
  3. "analyzer": "whitespace",
  4. "text": "The quick brown fox."
  5. }

APIは次のレスポンスを返します:

コンソール-結果

  1. {
  2. "tokens": [
  3. {
  4. "token": "The",
  5. "start_offset": 0,
  6. "end_offset": 3,
  7. "type": "word",
  8. "position": 0
  9. },
  10. {
  11. "token": "quick",
  12. "start_offset": 4,
  13. "end_offset": 9,
  14. "type": "word",
  15. "position": 1
  16. },
  17. {
  18. "token": "brown",
  19. "start_offset": 10,
  20. "end_offset": 15,
  21. "type": "word",
  22. "position": 2
  23. },
  24. {
  25. "token": "fox.",
  26. "start_offset": 16,
  27. "end_offset": 20,
  28. "type": "word",
  29. "position": 3
  30. }
  31. ]
  32. }

次の組み合わせをテストすることもできます:

  • トークナイザー
  • ゼロ個以上のトークンフィルター
  • ゼロ個以上の文字フィルター

Python

  1. resp = client.indices.analyze(
  2. tokenizer="standard",
  3. filter=[
  4. "lowercase",
  5. "asciifolding"
  6. ],
  7. text="Is this déja vu?",
  8. )
  9. print(resp)

Ruby

  1. response = client.indices.analyze(
  2. body: {
  3. tokenizer: 'standard',
  4. filter: [
  5. 'lowercase',
  6. 'asciifolding'
  7. ],
  8. text: 'Is this déja vu?'
  9. }
  10. )
  11. puts response

Js

  1. const response = await client.indices.analyze({
  2. tokenizer: "standard",
  3. filter: ["lowercase", "asciifolding"],
  4. text: "Is this déja vu?",
  5. });
  6. console.log(response);

コンソール

  1. POST _analyze
  2. {
  3. "tokenizer": "standard",
  4. "filter": [ "lowercase", "asciifolding" ],
  5. "text": "Is this déja vu?"
  6. }

APIは次のレスポンスを返します:

コンソール-結果

  1. {
  2. "tokens": [
  3. {
  4. "token": "is",
  5. "start_offset": 0,
  6. "end_offset": 2,
  7. "type": "<ALPHANUM>",
  8. "position": 0
  9. },
  10. {
  11. "token": "this",
  12. "start_offset": 3,
  13. "end_offset": 7,
  14. "type": "<ALPHANUM>",
  15. "position": 1
  16. },
  17. {
  18. "token": "deja",
  19. "start_offset": 8,
  20. "end_offset": 12,
  21. "type": "<ALPHANUM>",
  22. "position": 2
  23. },
  24. {
  25. "token": "vu",
  26. "start_offset": 13,
  27. "end_offset": 15,
  28. "type": "<ALPHANUM>",
  29. "position": 3
  30. }
  31. ]
  32. }

位置と文字オフセット

[analyze API]の出力からわかるように、アナライザーは単語を用語に変換するだけでなく、各用語の順序または相対的な位置(フレーズクエリや単語近接クエリに使用)を記録し、元のテキスト内の各用語の開始および終了の文字オフセット(検索スニペットのハイライトに使用)を記録します。

代わりに、custom アナライザーを参照して、特定のインデックスで[analyze API]を実行することができます:

Python

  1. resp = client.indices.create(
  2. index="my-index-000001",
  3. settings={
  4. "analysis": {
  5. "analyzer": {
  6. "std_folded": {
  7. "type": "custom",
  8. "tokenizer": "standard",
  9. "filter": [
  10. "lowercase",
  11. "asciifolding"
  12. ]
  13. }
  14. }
  15. }
  16. },
  17. mappings={
  18. "properties": {
  19. "my_text": {
  20. "type": "text",
  21. "analyzer": "std_folded"
  22. }
  23. }
  24. },
  25. )
  26. print(resp)
  27. resp1 = client.indices.analyze(
  28. index="my-index-000001",
  29. analyzer="std_folded",
  30. text="Is this déjà vu?",
  31. )
  32. print(resp1)
  33. resp2 = client.indices.analyze(
  34. index="my-index-000001",
  35. field="my_text",
  36. text="Is this déjà vu?",
  37. )
  38. print(resp2)

Ruby

  1. response = client.indices.create(
  2. index: 'my-index-000001',
  3. body: {
  4. settings: {
  5. analysis: {
  6. analyzer: {
  7. std_folded: {
  8. type: 'custom',
  9. tokenizer: 'standard',
  10. filter: [
  11. 'lowercase',
  12. 'asciifolding'
  13. ]
  14. }
  15. }
  16. }
  17. },
  18. mappings: {
  19. properties: {
  20. my_text: {
  21. type: 'text',
  22. analyzer: 'std_folded'
  23. }
  24. }
  25. }
  26. }
  27. )
  28. puts response
  29. response = client.indices.analyze(
  30. index: 'my-index-000001',
  31. body: {
  32. analyzer: 'std_folded',
  33. text: 'Is this déjà vu?'
  34. }
  35. )
  36. puts response
  37. response = client.indices.analyze(
  38. index: 'my-index-000001',
  39. body: {
  40. field: 'my_text',
  41. text: 'Is this déjà vu?'
  42. }
  43. )
  44. puts response

Js

  1. const response = await client.indices.create({
  2. index: "my-index-000001",
  3. settings: {
  4. analysis: {
  5. analyzer: {
  6. std_folded: {
  7. type: "custom",
  8. tokenizer: "standard",
  9. filter: ["lowercase", "asciifolding"],
  10. },
  11. },
  12. },
  13. },
  14. mappings: {
  15. properties: {
  16. my_text: {
  17. type: "text",
  18. analyzer: "std_folded",
  19. },
  20. },
  21. },
  22. });
  23. console.log(response);
  24. const response1 = await client.indices.analyze({
  25. index: "my-index-000001",
  26. analyzer: "std_folded",
  27. text: "Is this déjà vu?",
  28. });
  29. console.log(response1);
  30. const response2 = await client.indices.analyze({
  31. index: "my-index-000001",
  32. field: "my_text",
  33. text: "Is this déjà vu?",
  34. });
  35. console.log(response2);

コンソール

  1. PUT my-index-000001
  2. {
  3. "settings": {
  4. "analysis": {
  5. "analyzer": {
  6. "std_folded": {
  7. "type": "custom",
  8. "tokenizer": "standard",
  9. "filter": [
  10. "lowercase",
  11. "asciifolding"
  12. ]
  13. }
  14. }
  15. }
  16. },
  17. "mappings": {
  18. "properties": {
  19. "my_text": {
  20. "type": "text",
  21. "analyzer": "std_folded"
  22. }
  23. }
  24. }
  25. }
  26. GET my-index-000001/_analyze
  27. {
  28. "analyzer": "std_folded",
  29. "text": "Is this déjà vu?"
  30. }
  31. GET my-index-000001/_analyze
  32. {
  33. "field": "my_text",
  34. "text": "Is this déjà vu?"
  35. }

APIは次のレスポンスを返します:

コンソール-結果

  1. {
  2. "tokens": [
  3. {
  4. "token": "is",
  5. "start_offset": 0,
  6. "end_offset": 2,
  7. "type": "<ALPHANUM>",
  8. "position": 0
  9. },
  10. {
  11. "token": "this",
  12. "start_offset": 3,
  13. "end_offset": 7,
  14. "type": "<ALPHANUM>",
  15. "position": 1
  16. },
  17. {
  18. "token": "deja",
  19. "start_offset": 8,
  20. "end_offset": 12,
  21. "type": "<ALPHANUM>",
  22. "position": 2
  23. },
  24. {
  25. "token": "vu",
  26. "start_offset": 13,
  27. "end_offset": 15,
  28. "type": "<ALPHANUM>",
  29. "position": 3
  30. }
  31. ]
  32. }
std_foldedというcustomアナライザーを定義します。
フィールドmy_textstd_foldedアナライザーを使用します。
このアナライザーを参照するには、analyze APIがインデックス名を指定する必要があります。
名前でアナライザーを参照します。
フィールドmy_textによって使用されるアナライザーを参照します。