stopwords
stringlengths 1
12
|
|---|
1 |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
9 |
10 |
a |
b |
c |
d |
e |
f |
g |
h |
i |
j |
k |
l |
m |
n |
o |
p |
q |
r |
s |
t |
u |
v |
w |
x |
y |
z |
ç |
de |
a |
o |
que |
e |
do |
da |
em |
um |
para |
é |
com |
não |
uma |
os |
no |
se |
na |
por |
mais |
as |
dos |
como |
mas |
foi |
ao |
ele |
das |
tem |
à |
seu |
sua |
ou |
ser |
quando |
muito |
há |
nos |
já |
está |
eu |
também |
só |
pelo |
pela |
até |
isso |
ela |
entre |
era |
depois |
sem |
mesmo |
aos |
ter |
seus |
quem |
nas |
me |
esse |
eles |
estão |
você |
End of preview. Expand
in Dataset Viewer.
stopwords-en
Overview
The stopword-en dataset contains a stopword list of frequently used in the Portuguese language. These words do not carry significant meaning and are often removed from text data during preprocessing and training in shallower models on a text classification task.
Dataset Details
- Dataset Name: stopwords-en
- Total Size: 257 demonstrations
Contents
The dataset consists of one column with strings like all the letters of the Roman alphabet, numbers from 1 to 10, and words frequently used in the Portuguese language, such as "", "de", "que", "em", "para", etc.
How to use
from sklearn.feature_extraction.text import TfidfVectorizer
# Download the Portuguese stopword list.
stopwords = load_dataset('AiresPucrs/stopwords-pt', split='train')['stopwords']
# Create a vectorization object via `TfidfVectorizer`
vectorizer = TfidfVectorizer(min_df=10,
max_features=100000,
analyzer='word',
ngram_range=(1, 2),
stop_words=stopwords, # Our list of stopwords.
lowercase=True)
# Fit the TfidfVectorizer to our dataset.
vectorizer.fit(dataset['text'])
License
This dataset is licensed under the Apache License, version 2.0.
- Downloads last month
- 8