Introduccin al PLN 1

Presentacin del curso Ingeniera lingstica

Tareas Recursos Aplicaciones

Niveles de procesamiento lingstico

PLN Introduccin Ingeniera Lingstica

Del PLN a la Ingeniera Lingstica

La Ingeniera Lingstica es la aplicacin del conocimiento de la lengua al desarrollo de sistemas informticos capaces de reconocer, comprender, interpretar y generar lenguaje humano en todas sus formas. La IL comprende:
Mtodos, Tcnicas y Herramientas Recursos (Lingware) Aplicaciones

PLN Introduccin Ingeniera Lingstica

Componentes de la Tecnologa

TEXTO

VOZ
ENTRADA

IMAGEN
RECURSOS LINGSTICOS

Reconocer y Validar

Analizar y Comprender

Aplicar

Generar

TEXTO

VOZ SALIDA

IMAGEN

PLN Introduccin Ingeniera Lingstica

Tcnicas utilizadas

Identificacin del hablante. Verificacin Reconocimiento del habla Reconocimiento de caracteres e imgenes Comprensin de la lengua Generacin de lenguaje Sistemas basados en dilogos Sntesis del habla
4

PLN Introduccin Ingeniera Lingstica

Identificacin del hablante. Verificacin

Problemas:
Hablante desconocido Ruido (en el entorno o en el medio de transmisin) Cambios temporales en el hablante

PLN Introduccin Ingeniera Lingstica

Reconocimiento del habla

Discurso discreto vs continuo Adquisicin y uso de modelos estadsticos de los fonemas y palabras Reconocimiento de cualquier locutor (sin necesidad de entrenamiento) Ruido Acento, dialectos, agramaticalidades
PLN Introduccin Ingeniera Lingstica 6

Reconocimiento de caracteres e imgenes

Reconocimiento de caracteres impresos (OCR)

tipo de letra desconocido mala calidad del texto

Reconocimiento de texto escrito a mano (ICR) Reconocimiento de imgenes

Anlisis del documento. Separacin en grficos, texto, fotografas Anlisis del texto: ttulos, encabezados, prrafos, etc...
PLN Introduccin Ingeniera Lingstica 7

Comprensin de la lengua
Comprensin completa o parcial Anlisis incremental:
Anlisis parcial y/o superficial localizacin de focos de inters Anlisis ms detallados de dichos focos

Tcnicas lingsticas, estadsticas e hbridas Modelos semnticos Palabras desconocidas

PLN Introduccin Ingeniera Lingstica 8

Generacin de lenguaje

Representacin semntica del texto Qu decir y Cmo decirlo (what to say, how to say) Planificacin del contenido y de la forma Elementos retricos

PLN Introduccin Ingeniera Lingstica

Sistemas basados en dilogos

Alto nivel de comprensin Calidad del dilogo Deteccin del contenido ilocutivo de las intervenciones del interlocutor humano Acciones primitivas locutivas y no locutivas
comunicaciones, rdenes, peticiones, preguntas, etc...

Actos de habla directos e indirectos

PLN Introduccin Ingeniera Lingstica 10

Sntesis del habla

Contenido Forma: intensidad, entonacin, duracin Generacin a partir de piezas pregrabadas. Concatenacin

PLN Introduccin Ingeniera Lingstica

11

Recursos

Lexicones generales Diccionarios Lexicones especializados Ontologas Gramticas Corpus textuales Internet como fuente de informacin
12

PLN Introduccin Ingeniera Lingstica

Lexicones generales

Repositorios de palabras
lemarios, formarios, listas de palabras, ...

Conocimiento sobre las palabras

Fonologa Morfologa: categora, concordancia.. Sintaxis: categora, subcategorizacin, estructura argumental, valencia, patrones de co-occurrencia... Semntica: clase semntica,restricciones selectivas... Pragmtica: uso, registro, dominio, ...
PLN Introduccin Ingeniera Lingstica 13

Diccionarios

MRDs tipos: generales, normativos, de uso, de aprendizaje, mono/bilinges... tamao, contenido, organizacin
entrada, acepcin, relaciones, ...

Bases de datos lxicas

ej. Acquilex LDB

Otras fuentes: enciclopedias, tesauros,...

PLN Introduccin Ingeniera Lingstica 14

Lexicones especializados

Nombres propios Bases de datos terminolgicas Gazetteers Diccionarios de locuciones, lexas,... Wordnets Siglas, jergas Detectores de fechas, nmeros, frmulas,...
15

PLN Introduccin Ingeniera Lingstica

Ejemplo: relaciones morfolxicas. U. Las Palmas (O. Santana)

PLN Introduccin Ingeniera Lingstica

16

Ejemplo: utilizacin de Gazetteers en sistemas de Q&A

Multitext (U.Waterloo)
Clarke et al, 2001, 2002
Structured data biographies (25,000), Trivial Q&A (330,000), Country locations (800), acronyms (112,000), cities (21,000), animals (500), previous TREC Q&A (1393), ... 1 Tb of Web data Altavista

AskMSR (Microsoft)
Brill, 2002

PLN Introduccin Ingeniera Lingstica

17

Gramticas

Gramticas morfolgicas Gramticas sintcticas

Gramticas Gramticas Gramticas Gramticas Gramticas de constituyentes de dependencias de casos Transformacionales sistmicas

Gramticas sintagmticas vs de unificacin Gramticas probabilsticas Cobertura, lengua, categoras

PLN Introduccin Ingeniera Lingstica 18

Ontologas

Ontologas lxicas vs conceptuales Ontologas generales vs de dominio Ontologas de tareas, metaontologas Contenido, granularidad, relaciones Interlinguas: KIF, PIF CYC, Frame-Ontology, WordNet, EuroWordNet, GUM, MikroKosmos
19

PLN Introduccin Ingeniera Lingstica

Corpus

Textuales vs orales Gran tamao (1Mw - 1Gw) Poco (o nada) estructurados Informacin no disponible en forma ms tratable:
colocaciones, estructura argumental, contexto de aparicin, induccin gramatical, relaciones lxicas, restricciones selectivas, lexas, ejemplos de utilizacin,...

PLN Introduccin Ingeniera Lingstica

20

Corpus

Corpus anotados (tagged)

categora gramatical (pos tagging) posible o desambiguada lema acepcin (granularidad) parentizados analizados sintcticamente (profundidad) alineados

Corpus equilibrados, piramidales, oportunistas

PLN Introduccin Ingeniera Lingstica 21

Corpus 3 ejemplos

Brown Corpus ACL/DCI (Wall Street Journal, Hansard, ...) ACL/ECI (European Corpus Initiative) USA-LDC (Linguistic Data Consortium) LOB (ICAME, International Computer Archive of Modern English) BNC (British National Corpus) SEC (Lancaster Spoken English Corpus) TOSCA Collins-Cobuild PAROLE IBM/Lancaster treebank Penn Treebank Susanne SemCor Trsor de la Langue Franaise (TLF)
22

PLN Introduccin Ingeniera Lingstica

Corpus 4 ejemplos

Instituto Cervantes. Observatorio Espaol de Industrias de la Lengua "http://www.cervantes.es/oeil/Oeil0.htm CREA, recopilado por la RAE. 200 Mw. etiquetado y lematizado CRATER, (esp, ing, fran), U.A.Madrid. 5.5Mw. alineado, anotado morfosintcticamente ALBAYZIN. Corpus oral, frases aisladas, consultas a BD geogrfica. UPC (TSC), UGr, UPMad, UPVal, UABar LEXESP, 5Mw, anotado morfosintcticamente, lematizado, UBar, UPC IEC en el marco del DCC (cataln)
PLN Introduccin Ingeniera Lingstica 23

Ejemplo: proyecto 3lb

PLN Introduccin Ingeniera Lingstica

24

Internet como fuente de informacin 1

Fuente ingente de informacin

1000 Millones de pginas, decenas de Tb, expansin (doble en 2 aos)
(Cho, 2002)

Heterognea
contenido, lengua (70% ingls), formatos

Servidores de informacin general

(Medialinks) 14.000 servidores (5000 peridicos, 70 en Espaa)

PLN Introduccin Ingeniera Lingstica

25

Internet como fuente de informacin 2

Internet hoy
documentos HTML dirigidos al consumo (visualizacin) humano muchos generados automticamente por aplicaciones acceso a travs de
URLs conocidas buscadores (o metabuscadores) de propsito general buscadores especficos de una URL determinada

Limitaciones
dificultad de consumir (por las aplicaciones) texto marcado (generalmente mal) HTML dificultad de construccin (y mantenimiento!) de los wrappers
PLN Introduccin Ingeniera Lingstica 26

Internet como fuente de informacin 3

Tareas relacionadas con la gestin de informacin en Internet

Modelado y consulta a la Web
Localizacin de pginas potencialmente tiles Consulta a fuentes heterogneas Question Answering

Extraccin de Informacin Integracin de Informacin Construccin (y reestructuracin) de Web sites Agentes (crawlers, spiders, softbots, infobots ...)
27

PLN Introduccin Ingeniera Lingstica

Internet como fuente de informacin 4

Fuentes de informacin en la Web
Estructuradas
Bases de datos

Semi-estructuradas
Exhiben cierta regularidad No suelen emplear LN no restringido Elementos extraos que pueden ayudar (marcas HTML, XML) o confundir (applets, propaganda, ...) Una alta proporcin de recursos actuales en Internet son fuentes semiestructuradas => tiles Semantic Web

Libres
texto no restringido
PLN Introduccin Ingeniera Lingstica 28

Recursos: Repositorios y otras iniciativas

ELRA (European Language Resources Association)
http://www.icp.grenet.fr/ELRA/home.html

LDC (Linguistic Data Consortium)

http://www.ldc.upenn.edu/

Eagles (Expert Advisory Group on Language Engineering Standards)

http://www.ilc.pi.cnr.it/EAGLES/home.html

TEI (Text Encoding Initiative)

http://www.tei-c.org/

ELSNET (European Network in Language and Speech)

http://www.elsnet.org/

PLN Introduccin Ingeniera Lingstica

29

Recursos: Repositorios y otras iniciativas

ACL NLP/CL Universe

http://www.summarization.com/~radev/u/db/acl/ ACL- DCI Data Collection Initiative The NLP/CL Universe, a publicly extensible indexed compilation of Web resources related to computational linguistics.

Multext (Multilingual Text Tools and Corpora)

http://www.lpl.univ-aix.fr/projects/multext/

CLR (Consortium for Lexical Resources) EDR

PLN Introduccin Ingeniera Lingstica

30

Aplicaciones

Aplicaciones genricas
(ayuda a la) traduccin automtica gestin de la informacin (multilinge) authoring (multilinge) interfaz persona/mquina (multilinge, multimodal) Obtencin de recursos

Aplicaciones especficas

PLN Introduccin Ingeniera Lingstica

31

Aplicaciones

traduccin automtica
TA con intervencin humana, TH. asistida entornos de ayuda a la TH Adquisicin automtica de recursos para la TA (corpus alineados, modelos de traduccin, memorias de traduccin, ...)

PLN Introduccin Ingeniera Lingstica

32

Aplicaciones
gestin de la informacin

productores de resmenes, indiciadores, {recuperacin, extraccin, formateo, filtrado, encaminado} de informacin, minera de informacin textual, buscadores conceptuales, alineadores de textos, guessers sistemas de bsqueda de la respuesta
PLN Introduccin Ingeniera Lingstica 33

Aplicaciones
authoring

correctores lxicos, gramaticales, estilsticos, consulta online de diccionarios, tesauros, ontologas, facilidades para la estructuracin e integracin de documentos

interfaz persona/mquina (multilinge, multimodal)

PLN Introduccin Ingeniera Lingstica

34

Aplicaciones

Obtencin de recursos lingsticos

corpus alineados gramticas gazetteers morfologa restricciones de seleccin patrones de subcategorizacin Topic Signatures ...

PLN Introduccin Ingeniera Lingstica

35

Aplicaciones

gestin de la informacin
productores de resmenes, indiciadores, {recuperacin, extraccin, formateo, filtrado, encaminado} de informacin, buscadores conceptuales, alineadores de textos, guessers

authoring
correctores lxicos, gramaticales, estilsticos, consulta online de diccionarios, tesauros, ontologas, facilidades para la estructuracin e integracin de documentos

interfaz persona/mquina (multilinge, multimodal)

PLN Introduccin Ingeniera Lingstica

36

La ingeniera lingstica en Europa

planes nacionales de investigacin y desarrollo tecnolgico 5 Programa Marco de I+D de la Unin Europea (1998-2002)
9 reas cientfico-tecnolgicas
rea de las Tecnologas de la Informacin y las Comunicaciones

12 reas sectoriales
rea de la Sociedad de la Informacin

6 Programa Marco (2004-2008)

PLN Introduccin Ingeniera Lingstica 37

Los programas marco de la UE

Ingeniera Lingstica
Direccin General XIII

Human Language Technologies Programas concretos

ESPRIT (Information Technologies) LRE (Linguistic Research Engineering) MLIS (Multilingual Information Society) INCO (International Cooperation) LE (Language Engineering) HLT (Human Language Technologies). PLN Introduccin Ingeniera Lingstica

38

La investigacin espaola en ingeniera lingstica

Investigacin de grupos espaoles vs investigacin sobre la lengua espaola

Tcnicas independientes de la lengua Mecanismos de evaluacin para el ingls Otras lenguas Otros grupos europeos Grupos americanos

PLN Introduccin Ingeniera Lingstica

39

Cuntos grupos

Unos 30 grupos
SEPLN (1997) I.Cervantes
Almansa et al, 1998 Llisterri, Garrido, 1998

75% en Universidades y C. Investigacin Equilibrio texto/habla/recursos reas, aplicaciones Especial inters en Recursos
40

PLN Introduccin Ingeniera Lingstica