ccg2lambdaによる含意関係認識

ccg2lambdaを使って含意関係認識の問題を解く方法について説明します。

含意関係認識とは、自然言語文によって記述される前提と仮説が与えられたときに、その前提が仮説を含意するかどうかを判定するという問題です。以下は二つの前提P1とP2と仮説Hからなる含意関係の例です。この問題の正解は含意(entailment)です。

P1: John ordered tea or coffee.
P2: John did not order coffee.
H: John ordered tea.

前提から結論の否定が導かれる場合、矛盾(contradiction)となります。以下は矛盾の例です。

P: John did not order coffee.
H: John ordred coffee.

形式意味論で論じられてきた含意関係認識の問題を集めたデータセットとして、FraCaS などがあります。

ccg2lambdaでは前提文(P1,...,Pn)と仮説文(H)を論理式（意味表示）に変換し、前提から仮説が定理証明器によって証明できるか否かを判定します。テンプレートによって、文を論理式に変換する辞書を記述します。

テンプレートの書き方

テンプレートでは論理記号を表すのに NLTK http://www.nltk.org/book/ch10.html の表記法を使っています。代表的なところだと、以下の記号が使えます。

具体例として、以下の文をとりあげます。 それぞれの論理式（意味表示）を導出できるようなテンプレートを考えます。

テンプレートは yaml 形式で記述されます。 まず、文末のピリオドを処理するため、次のテンプレートを書き込んだファイル templates_test.yaml を作ります。

    - category: .
      semantics: \E X. X
      surf: "."

例として、次の推論を考えます。

    John walked.
    Nobody walked.

この二行を書き込んだ example1.txtというファイルを作ります。 この二文は矛盾しているため、正しい論理式が導出できれば、答えは "no" になります。

    $ ./en/rte_en_mp_any.sh example1.txt en/templates_test_empty.yaml

この段階では、テンプレートはピリオドの処理しかしていないため、 結果は"unknown" となり、たとえば、C&Cパーザでは、次のようなCCG導出木が得られます。

Example-1a

このファイルは example1.txt.candc.htmlという名前で en_resultsディレクトリに生成されます。

テンプレートに何も記述していないのに、John, walked, nobody に意味が割り当てられているのは、統語範疇に対するデフォルトの意味割り当てが定義されているからです。しかし、このデフォルトの意味割り当てはあまり賢くないので当てにしてはいけません。

いまの例の場合、前提の "John walked." にはたまたま正しいwalk(john)が割り当てられています。自動詞 walk の意味割り当てを明示的に書くためには、S[dcl=true]\NP という統語範疇（素性を無視すれば、S\NPという統語範疇）のテンプレートを次のように書く必要があります。

    - category: S\NP
      semantics: \E x.E(x)

\E x.E(x)は\E. \x. E(x)の省略形です。 この\E x.E(x)のEの部分には、walked の基底形walk（walkedをlemmatizeした表現) が入ります。結果的に\x.walk(x)が walked のノードの意味割り当てとなります。

結論の "Nobody walked." の正しい意味表示は -exists x. walk(x)です。統語範疇NPの nobody には、\P. -exists x. P(x) を割り当てる必要があります。これは次のようにテンプレートに書きます。

    - category: NP
      semantics: \E P. -exists x. P(x)
      surf: nobody

\E P. -exists x. P(x)の最初の引数\Eは、nobodyが入りますが、これはラムダ項の本体では使いません。よって、\E.は何も束縛していません。

意味合成は、CCGの組合せ規則によります。主に使うのは次の二つの関数適用規則です。

         X/Y : f    Y : a    
    fa --------------------
             Y : fa

         X : a    Y\X : f    
    ba --------------------
             Y : fa

意味合成では、合成する二つのノードのうちどちらが関数 fとなり、どちらがその引数 a となるのかが重要です。上の例では、ナイーブに意味割り当てを行うと次のようになります。

         NP : \P. -exists x. P(x)     S\NP : \x.walk(x)
    ba -------------------------------------------------
              S : (\x.walk(x))(\P. -exists x. P(x))

しかし、これでは\x.walk(x)の方が関数で、\P. -exists x. P(x)が引数となってしまうため、正しい意味表示は得られません。

教科書的には、次のような type-raising がどこかの段階で適用されて、主語の方の範疇が S/(S\NP)となっています。

         S/(S\NP) : \P. -exists x. P(x)     S\NP : \x.walk(x)
    ba -------------------------------------------------------
              S : (\P. -exists x. P(x))(\x.walk(x))

同じことを主語の統語範疇はNPのままでやろうとすると、意味論の方で工夫する必要があります。walk のようなS\NP という範疇の自動詞に対する意味割り当てを次のように修正します。

    - category: S\NP
      semantics: \E Q.Q(\x.E(x))

これにより、導出木は、

         NP : \P. -exists x. P(x)     S\NP : \Q.Q(\x.walk(x))
    ba -------------------------------------------------------
              S : (\Q.Q(\x.walk(x)))(\P. -exists x. P(x))

となります。ここで得られたラムダ項をワンステップずつ簡約すると、

   (\Q.Q(\x.walk(x)))(\P. -exists x. P(x))
    --> (\P. -exists x. P(x))(\x.walk(x))
    --> -exists x. (\x.walk(x))(x))
    --> -exists x. walk(x)

となり、正しい意味表示が得られます。

example1.txtの場合、次のテンプレートで、上にあげたそれぞれの文に対する正しい意味表示を得ることができます。

  - category: NP
    rule: lex
    semantics: \E F. F(E)
    child0_category: N

  - category: N
    semantics: \E. E
    pos: NNP

  - category: NP
    semantics: \E P. -exists x. P(x)
    surf: nobody

  - category: S\NP
    semantics: \E Q. Q(\x.E(x))

  - category: .
    semantics: \E X. X
    surf: "."

ここで、pos: NNPというのは John のような固有名詞の POS tag です。categoryにない情報を参照して意味割り当てを定義したいときは、このようにposを参照することができます。

  - category: NP
    rule: lex
    semantics: \E F. F(E)
    child0_category: N

は unary rule に対する意味を指定しています。これは、統語範疇NからNPに type-shift を行うlexという次のような規則規則です。

          N : A
   lex ---------------
         NP : \F.F(A)

semantics: \E F. F(E)の最初の引数Eには、親ノードの意味表示Aが入ります。

example1の推論に対して最終的に得られる意味表示は

Example-1b

のようになります。

テストセットの利用

テンプレートを拡張していくとき、基本的な構文を含むテストセットを用意しておくと便利です。

例えば、example1.txt に対して、その正解を example1.txt.answerというファイルに次のように書いておきます。

    no

例えば、他に次のような例を考えて、それぞれ example2.txtとexample3.txtとします。正解はどちらも "yes" です。

Everyone walked.
John walked.

John loves a girl.
Someone loves a girl.

この問題と正解のペアを testset/というディレクトリを作って入れておきます。次のコマンドで、現在のテンプレートをこのテストセットに対して評価することができます。

    ./run_testset.sh <templates>

結果の一覧は、en_results/main.htmlから見ることができます。Dropbox にある templates_test1.yamlを使って、ccg2lambdaディレクトリで次を実行すると

    ./run_testset.sh en/templates_test1.yaml

main.html のようになります（ここでは、C&C, EasyCCG, depccgという三つのパーザを使っています）。