<departmental bulletin paper>
Automatic Wrapper Generation for Multilingual Web Resources

Creator
Language
Publisher
Date
Source Title
Vol
First Page
Last Page
Publication Type
Access Rights
JaLC DOI
Abstract 本稿では、半構造化テキストデータからコンテンツ部分を抽出するラッパーを自動生成するシステムを提案する。入力として、テキストデータ以外にコンテンツを囲む区切り文字の最初と最後に現われ得る文字の集合を与えるものとする。入カテキストに対して同種のコンテンツ(レコード)が複数回現われるものと仮定するほかは、特に背最知識等は不要であり、入力に対し全自動でラッパーの生成を行なう。システムは、コンテンツの種類(...フィールド)ごとに左と右区切り文字のペアを出力する。半構造化テキストデータを単なる文字列として扱うので、入力は任意のマークアップ言語や自然言語で書かれていて構わない。様々な言語で書かれたWebページを対象とした実験によりその有効性を示す。マークアップ言語はXMLとHTMLで、4つの自然言語で書かれており、検索機能により動的に生成されたものもあれば、静的なページもある。本システムでは、XMLやHTMLのコメントやタグの属性なども通常の文字として扱うが、ある実験では、通常のコンテンツ部分だけでなく、コメントやタグの内部から有用な情報を抽出することもできた。また、タグにマルチバイト文字が含まれているようなデータでも問題なく扱える。
We present a wrapper generation system to extract contents of semi-structured documents. In addition to input documents, our system receives a set of symbols with which a delimiter string must begin or end. We assume that input documents contain instances of a record. Wrapper generation is done automatically. The system outputs a set of pairs of left and right delimiters each of which surrounds instances of a field. Our system treats semi-structured documents just as strings so that it does not depend on markup and natural languages. We show experimental results on text files markuped in HTML or XML. Contents of them are written in four natural languages. Some of them are dynamic pages, that is, produced by a search facility, and the others are static pages. In addition to usual contents, some generated wrappers extract useful information hidden in comments or tags which are ignored by other wrapper generation algorithms. Some generated delimiters contain whitespaces or multibyte characters.
show more
Table of Contents 1 はじめに
2 アーキテクチャ
3 実験結果
4 おわりに

Hide fulltext details.

pdf 3_p007 pdf 6.69 MB 82  

Details

PISSN
NCID
Record ID
Created Date 2022.05.16
Modified Date 2023.08.18

People who viewed this item also viewed