Korpusy nazw własnych

Do niektórych zastosowań w dziedzienie technologii mowy potrzebne są listy przykładowych nazwisk, adresów i innych nazw własnych. W wypadku języka polskiego przydatną jest, politycznie i społecznie kontrowersyjna, lista Wildsteina. Jej przetworzoną i uporządkowaną wersją dysponuje Zespół Przetwarzania Sygnałów AGH. Zawiera ona jednak dość dużo niepolskich nazwisk, na przykład arabskich. Innym źródłem tego typu danych są korporacje, które jednak rzadko chcą je udostępnić. W naszym przypadku udało się zdobyć jedynie korpusy oparte o listy pracowników i udziałowców firmy ANWIL SA,

pomimo nawiązywania kontaktów z wieloma innymi przedsiębiorstwami. Listę nazwisk można także uzyskać odpłatnie z baz danych PESEL, jednakże cena ich udostępnienia nie jest podawana z góry, a zależy od czasu pracowników spędzonego przy przygotowaniu danych.

Trudniej o korpusy nazw geograficznych itp. Istnieje bazą miejsc w Warszawie powstała w ramach projektu LUNA.

Korpusy polskich tekstów

Korpus IPI PAN jest pewnego rodzaju polskim odpowiednikiem Brown Corpus. Zawarte w nim teksty zostały przeanalizowane morfologicznie. Korpus zawiera anotacje morfosyntaktyczne, opisujące każde słowo z punktu widzenia gramatyki języka polskiego. Korpus składa się z prozy współczesnej (10%), prozy dawnej (10%), publikacji naukowych (10%), prasy (50%), stenogramów sejmowych i senackich (15%) oraz ustaw (5%). 

Także IPI PAN, kierował projektem który doprowadził do powstania Narodowego Korpusu Języka Polskiego: 

"Korpus językowy to zbiór tekstów, w którym szukamy typowych użyć słów i konstrukcji oraz innych informacji o ich znaczeniu i funkcji. Bez dostępu do korpusu nie da się dziś prowadzić badań językoznawczych, pisać słowników ani podręczników języków obcych, tworzyć wyszukiwarek uwzględniających polską odmianę, tłumaczy komputerowych ani innych programów zaawansowanej technologii językowej. Korpus jest niezbędny do pracy językoznawcom, ale korzystają zeń często także informatycy, historycy, bibliotekarze, badacze literatury i kultury oraz specjaliści z wielu innych dziedzin humanistycznych i informatycznych. [...] 

Narodowy Korpus Języka Polskiego jest wspólną inicjatywą Instytutu Podstaw Informatyki PAN (koordynator), Instytutu Języka Polskiego PAN, Wydawnictwa Naukowego PWN oraz Zakładu Językoznawstwa Komputerowego i Korpusowego Uniwersytetu Łódzkiego, zrealizowaną jako projekt badawczy rozwojowy Ministerstwa Nauki i Szkolnictwa Wyższego.

Te cztery instytucje wspólnie zbudowały korpus referencyjny polszczyzny wielkości ponad półtora miliarda słów. Wyszukiwarki korpusowe (menu po prawej stronie) pozwalają przeszukiwać zasoby NKJP zaawansowanymi narzędziami uwzględniającymi odmianę polskich wyrazów, a nawet analizującymi budowę polskich zdań.

Lista źródeł korpusu zawiera nie tylko klasykę literatury polskiej, ale też prasę codzienną i specjalistyczną, nagrania rozmów, teksty ulotne i internetowe. Zróżnicowanie tematyczne i gatunkowe tekstów, dbałość o reprezentację rozmówców obu płci, w różnym wieku i z różnych regionów, są dla wiarygodności korpusu równie ważne jak jego wielkość."

Rzeczpospolita udostępniła Dawidowi Weissowi swoje artykuły z lat 1993-2002 na potrzeby badań związanych z jego pracą magisterską. Od tego czasu artykuły są udostępnione na jego stronie na potrzeby badań naukowych w formacie plików html. Korpus ten jest jednym z większych, tematycznie spójnych korpusów języka polskiego. Jego wadą jest to, że artykuły mają pewne wyrażenia występujące wielokrotnie ze względów edycyjnych. Kłopotliwa jest sytuacja prawna ponieważ nie ma jasnych zasad dotyczących korzystania z tego korpusu.

Wikipedia jest nie tylko źródłem wiedzy encyklopedycznej, ale także lingwistycznej. Można ściągnąć wszystkie podstrony Wikipedii (także w formacie XML) uzyskując korpus rzędu 100 milionów słów, dobrej jakości językowej i zawierający wiele rzadkich słów. Jako źródło danych lingwistycznych ma podobną wadę do korpusu Rzeczpospolita. W Wikipedii pojawiają się różne wzorce, takie jak opisy miejscowości, które mogą znacząco zaburzyć statystyki oparte o ten korpus. Wiele z wzorców o zawyżonej częstości można pominąć poprzez zrezygnowanie z krótkich notatek.

Istnieje kilka nieformalnych korpusów tekstów języka polskiego opartych w dużej mierze o prozę ściągniętą z internetu. Korpusy te są pod wieloma względami językowymi najlepsze oraz często największe, mają jednak kilka wad. Ich status prawny utrudnia korzystanie z nich. Prawo polskie nie zabrania ściągania takich danych, a zupełnie nie odnosi się do jakichkolwiek działań w zakresie automatycznego przetwarzania tekstów objętych ochroną przez prawa autorskie. Wadą tego typu korpusów jest także to, że wiele książek

pochodzi z minionych wieków i użyty w nich język oraz słownictwo odbiegają od współczesnego.

www.dsp.agh.edu.pl

Prezentacje sprzętu i oprogramowanie na Pacific Voice Conference

Zapraszamy producentów sprzętu i oprogramowania służącego do przetwarzania i/lub analizowania mowy i/lub głosu do przygotowania swojego stoiska na konferencji Pacific Voice Conference. W ubiegłym roku konferencja gościła około 130 osób. Jako uczestnicy spodziewani są głównie inżynierowie, lekarze i piosenkarze.

www.dsp.agh.edu.pl

Inne korpusy mowy polskiej

Poza CORPORĄ i JURISDIC istnieje kilka innych korpusów mowy polskiej:
• GlobalPhone (N. T. Vu, F. Kraus, and T. Schultz, “Multilingual a-stabil: a new confidence score for multilingual unsupervised training,” Proceedings of IEEE Workshop on Spoken Language Technology, SLT 2010, Berkley, 2010.),
• Luna - z nagraniami rozmów telefonicznych (M. Marciniak, Anotowany korpus dialogów telefonicznych, Wydawnictwo Exit, Warszawa, 2010.),
• SpeechDat(E) (http://www.fee.vutbr.cz/SPEECHDAT-E/),
• Korpus Europarlamentu RWTH Aachen University (J. Lööf, C. Gollan, and H. Ney, “Cross-language bootstrapping for unsupervised acoustic model training: Rapid development of a Polish speech recognition system,” Proceedings of Interspeech, Brighton, pp. 88– 91, 2009.) ,
• Korpus Szklannego z PJWSTK,
• Korpus AGH.

Jurisdic

JURISDIC jest korpusem mowy o tematyce prawniczej. Wedle relacji autorów zawiera około 1000 mówców z różnych części Polski. Połowa z nich to nagrania wypowiedzi o charakterze prawniczym z sądów, biur, prokuratury oraz policji. Reszta została nagrana na uczelniach i w biurach. Każdy mówca był nagrywany przez około godzinę, z czego połowa to częściowo spontaniczne wypowiedzi, a połowa wypowiedzi czytane. Część z nich została przygotowana tak, aby zapewnić dużą różnorodność fonetyczną. Korpus zawiera 10 593 typów trifonów, czyli fonemów z kontekstem koartykulacyjnym. Nie jest publicznie dostępny.

CORPORA - korpus mowy polskiej prof. Grocholewskiego

Najpopularniejszym korpusem polskiej mowy jest CORPORA opracowana przez Stefana Grocholewskiego na Politechnice Poznańskiej w 1997 roku. Jest ona opisana przez autora w następujący sposób: 

“Dla każdego z 45 mówców dokonano nagrań 365 wypowiedzi. Do nagrań wykorzystano mikrofony pojemnościowe lub w jednym przypadku mikrofon dynamiczny. Parametry nagrań: częstotliwość próbkowania - 16 kHz, długość słów - 12 bitów. Nagrań dokonano w warunkach naturalnych pomieszczeń, w bezpośredniej bliskości pracującego komputera.”

Wypowiedziami są głównie imiona i 114 semantycznie niespójnych zdań. Korpus został ułożony pod kątem zapewnienia jak największej różnorodności fonetycznej. Stąd występowanie takich zdań jak “On myje wróble w zoo” czy kultowa już fraza "lubić czardaszowy pląs". Wypowiedzi 2 mówców (mężczyzny i kobiety) zostały ręcznie posegmentowane na fonemy. Następnie użyto metod programowania dynamicznego, aby posegmentować automatycznie nagrania dla pozostałych mówców. Korpus jest dostosowany do użycia między innymi przez HTK, będący najpopularniejszym, darmowym, akademickim systemem rozpoznawania mowy. Jest więc on swego rodzaju standardem w badaniach nad rozpoznawaniem mowy.

www.dsp.agh.edu.pl

Korpusy języka angielskiego

Fragment książki "Przetwarzanie mowy"

Język angielski dysponuje ogromną liczbą korpusów tekstowych. Każdy z dialektów ma swój własny duży korpus. American National Corpus (ANC) powstaje od 1990 roku na podstawie tekstów i transkrypcji. W roku 2009 zawierał około 22 miliony słów. Collins Wordbank jest mieszanym, choć głównie brytyjskim korpusem zawierającym w 2009 roku 56 miliony słów. British National Corpus (BNC) dysponuje 100 milionami słów języka mówionego i pisanego. Corpus of Contemporary American English (COCA) dysponuje aż 385 milionami słów języka mówionego, literatury pięknej i powszechnej, czasopism, tygodników i publikacji naukowych. Powstały prawie pięćdziesiąt lat temu Brown Corpus [60] jest dużo mniejszy (około milion słów). Zawiera jednak oznaczenia części mowy i form gramatycznych, zwane też POStagami. Więcej na ten temat, a także na temat samego korpusu, można przeczytać w rozdziale o przetwarzaniu języka naturalnego i analizatorach morfologicznych. International Corpus of English (ICE) to korpus zawierający teksty o sumarycznej liczbie miliona słów dla różnych wersji języka (brytyjski, Hong Kong, Wschodnia Afryka, Indie, Nowa Zelandia, Filipiny i Singapur). Oxford English Corpus jest korpusem, który był wykorzystywany przez autorów słownika oksfordzkiego i jest prawdopodobnie największym zasobem językowym na świecie, dysponując dwoma miliardami słów z wszelkich możliwych źródeł, wliczając w to strony internetowe. Scottish Corpus of Texts and Speech zawiera około czterech milionów słów szkockiego dialektu.

www.dsp.agh.edu.pl