Processing Unknown Words

Processing Unknown Words
Wouter Schellekens
Merlijn Hutteman
Introductie




Mensen begrijpen onbekende woorden
Veel NLP systemen gaan uit van een
gecompleteerd lexicon
Gaan veelal uit van ‘general concept
learning’
Besproken HPSG systeem richt zich
op extractie van linguïstische
eigenschappen
Introductie


Andere systemen: uit grote corpora
analyse door statistiek
Dit systeem: meer gericht op
grammaticale analyse van individuele
zinnen
Doelstellingen
i


Incorporeren van informatiegebaseerd concept ‘unknowness’
Woorden zijn niet geheel onbekend,
bevatten ‘revisable’ informatie
Hierdoor onderscheid tussen ‘open-’ en
‘closed class’ woorden
Doelstellingen
ii



Maximaal gebruiken kenmerken
HPSG
Zoveel mogelijk ‘rich representations’ als
HPSG
Daarbij gebruik van zelfde grammatica en
lexicon
Van belang voor hergebruik bestaande
grammatica’s en feedback voor
theorievorming
Doelstellingen
iii

Mogelijkheid tot domein-onafhankelijke
inferentie en lexicon updates
Lexiconschrijver moet kunnen aangeven,
welke informatie nog mogelijk te reviseren is
Lexicale acquisitie

Nieuwe contextuele verschijning:
- vergelijkbaar
- nieuwe
- of conflicterende informatie
Lexicale acquisitie
(1)
(2)
(3)
a. Im Axon tritt ein Ruhepotential auf.
b. Das Potential wandert über das Axon.
a. Das Ohr reagiert auf akustische
Reize.
b. Ein Sinnesorgan reagiert auf Reize.
a. Die Nase ist für Gerüche sensibel.
b. Die sensible Nase reagiert auf
Gerüche.
Lexicale acquisitie




De reviseerbare informatie indelen in de
twee klassen: ‘specializable’ en
‘generalizable’
Specializable: gender, case, etc.
Generalizable: restricties in
argumentselectie, predactief vs. attributief
gebruik
Beiden kunnen in dezelfde lexicale entry
voorkomen
Representatie




Alle reviseerbare informatie uitdrukbaar in
formele typen
Specialisatie: informatie omzetten in simpele
type unificatie: non_fem & neut = neut
Generalisatie vereist echter type vereniging:
pred V attr = prd
Generalisatie maakt gebruik van hulptype
u_g, voor markering beginstate onbekende
informatie
Representatie



Om problemen als incorrecte unificatie
bij generalisatie te voorkomen twee
nieuwe features: gen en ctxt
ctext is de opslag voor contekstgeünificeerde informatie, bij conflicten
→ ongrammaticaliteit
gen bevat generaliseerbare informatie,
alle gen waarden: u_g als disj. type
Representatie
In HPSG als volgt gedefinieerd:
Processing



Allereerst gewone parsing
Bij een onbekend woord failt het
parsen niet, maar gebruikt een
generieke entry
Hierna: updaten van lexical entries,
bestaat uit 4 stappen
Processing


Projecteren FS op alle woorden
Gevolg: alle woorden context verrijkt en lijst
van ‘update candidates’
Bepalen concrete update waarden

Bij een matchende generalisatie clause:
vereniging van gen waarde van het oude woord
met de ctxt waarde van de parse projectie

Bij een matchende specialisatie clause wordt het
parseresultaat van de specialisatie gebruikt
Processing


Controleer of de update een verschil
maakt, dwz. dat een generalisatie
geen minder algemeen resultaat
oplevert, en vice versa
Wijzigingen daadwerkelijk doorvoeren;
oude entry verwijderen, herzien, en
toevoegen
Voorbeeld
1)
2)
3)
Die Nase ist ein Sinnesorgan.
Das Ohr perzipiert.
Eine verschnupfte Nase perzipiert
den Gestank.
Voorbeeld
Na: Die Nase ist ein Sinnesorgan.
Na: Das Ohr perzipiert
Voorbeeld
Na: Das Ohr perzipiert
Na: Eine verschnupfte Nase perzipiert den Gestank.
Punten van discussie




Methode lijkt niet overeenkomstig met
de mens; menselijke redenering op
basis van incompleet bewijs
Systeem heeft moeite met ambiguïteit
Gevaar van overgeneratie
Grens tussen stricte, grammaticale
voorspellingen en openheid tot revisie
Credits