Python - Acesso Corpora

Corpora é um grupo que apresenta várias coleções de documentos de texto. Uma única coleção é chamada de corpus. Um desses corpus famosos é o Gutenberg Corpus, que contém cerca de 25.000 livros eletrônicos gratuitos, hospedado em http://www.gutenberg.org/. No exemplo abaixo, acessamos os nomes apenas dos arquivos do corpus que são texto simples com o nome de arquivo terminando em .txt.

from nltk.corpus import gutenberg
fields = gutenberg.fileids()
print(fields)

Quando executamos o programa acima, obtemos a seguinte saída -

[austen-emma.txt', austen-persuasion.txt', austen-sense.txt', bible-kjv.txt', 
blake-poems.txt', bryant-stories.txt', burgess-busterbrown.txt',
carroll-alice.txt', chesterton-ball.txt', chesterton-brown.txt', 
chesterton-thursday.txt', edgeworth-parents.txt', melville-moby_dick.txt',
milton-paradise.txt', shakespeare-caesar.txt', shakespeare-hamlet.txt',
shakespeare-macbeth.txt', whitman-leaves.txt']

Acessando texto bruto

Podemos acessar o texto bruto desses arquivos usando a função sent_tokenize que também está disponível em nltk. No exemplo abaixo, recuperamos os primeiros dois parágrafos do texto de blake poen.

from nltk.tokenize import sent_tokenize
from nltk.corpus import gutenberg
sample = gutenberg.raw("blake-poems.txt")
token = sent_tokenize(sample)
for para in range(2):
    print(token[para])

Quando executamos o programa acima, obtemos a seguinte saída -

[Poems by William Blake 1789]
 
SONGS OF INNOCENCE AND OF EXPERIENCE
and THE BOOK of THEL
 SONGS OF INNOCENCE
 
 
 INTRODUCTION
 
 Piping down the valleys wild,
   Piping songs of pleasant glee,
 On a cloud I saw a child,
   And he laughing said to me:
 
 "Pipe a song about a Lamb!"
So I piped with merry cheer.