Package: kss
Kss: A Toolkit for Korean sentence segmentationThis repository contains the source code of Kss, a representative Korean sentence segmentation toolkit. I also conduct ongoing research about Korean sentence segmentation algorithms and report the results to this repository.
If you have some good ideas about Korean sentence segmentation, please feel free to talk through theissue.What's New:December 19, 2022Released Kss 4.0 Python.May 5, 2022Released Kss Fluter.August 25, 2021Released Kss Java.August 18, 2021Released Kss 3.0 Python.December 21, 2020Released Kss 2.0 Python.August 16, 2019Released Kss 1.0 C++.InstallationInstall KssKss can be easily installed using the pip package manager.pip install kssInstall Mecab (Optional)Please install mecab or konlpy.tag.Mecab to use Kss much faster.mecab (Linux/MacOS):https://github.com/hyunwoongko/python-mecab-kormecab (Windows):https://cleancode-ws.tistory.com/97konlpy.tag.Mecab (Linux/MacOS):https://konlpy.org/en/latest/api/konlpy.tag/#mecab-classkonlpy.tag.Mecab (Windows):https://uwgdqo.tistory.com/363Features1)split_sentences: split text into sentencesfromkssimportsplit_sentencessplit_sentences(text:Union[str,List[str],Tuple[str]],backend:str="auto",num_workers:Union[int,str]="auto",strip:bool=True,ignores:List[str]=None,)Parameterstext: String or List/Tuple of stringsstring: single text segmentationlist/tuple of strings: batch texts segmentationbackend: Morpheme analyzer backendbackend='auto': findmecab→konlpy.tag.Mecab→pecab→punctand use first found analyzer (default)backend='mecab': findmecab→konlpy.tag.Mecaband use first found analyzerbackend='pecab': usepecabanalyzerbackend='punct': split sentences only near punctuation marksnum_workers: The number of multiprocessing workersnum_workers='auto': use multiprocessing with the maximum number of workers if possible (default)num_workers=1: don't use multiprocessingnum_workers=2~N: use multiprocessing with the specified number of workersstrip: Whether it doesstrip()for all output sentences or notstrip=True: dostrip()for all output sentences (default)strip=False: do notstrip()for all output sentencesignores: ignore strings to do not splitSee detailed usage from the followingUsagesUsagesSingle text segmentationimportksstext="회사 동료 분들과 다녀왔는데 분위기도 좋고 음식도 맛있었어요 다만, 강남 토끼정이 강남 쉑쉑버거 골목길로 쭉 올라가야 하는데 다들 쉑쉑버거의 유혹에 넘어갈 뻔 했답니다 강남역 맛집 토끼정의 외부 모습."kss.split_sentences(text)# ['회사 동료 분들과 다녀왔는데 분위기도 좋고 음식도 맛있었어요', '다만, 강남 토끼정이 강남 쉑쉑버거 골목길로 쭉 올라가야 하는데 다들 쉑쉑버거의 유혹에 넘어갈 뻔 했답니다', '강남역 맛집 토끼정의 외부 모습.']Batch texts segmentationimportksstexts=["회사 동료 분들과 다녀왔는데 분위기도 좋고 음식도 맛있었어요 다만, 강남 토끼정이 강남 쉑쉑버거 골목길로 쭉 올라가야 하는데 다들 쉑쉑버거의 유혹에 넘어갈 뻔 했답니다","강남역 맛집 토끼정의 외부 모습. 강남 토끼정은 4층 건물 독채로 이루어져 있습니다.","역시 토끼정 본 점 답죠?ㅎㅅㅎ 건물은 크지만 간판이 없기 때문에 지나칠 수 있으니 조심하세요 강남 토끼정의 내부 인테리어.",]kss.split_sentences(texts)# [['회사 동료 분들과 다녀왔는데 분위기도 좋고 음식도 맛있었어요', '다만, 강남 토끼정이 강남 쉑쉑버거 골목길로 쭉 올라가야 하는데 다들 쉑쉑버거의 유혹에 넘어갈 뻔 했답니다']# ['강남역 맛집 토끼정의 외부 모습.', '강남 토끼정은 4층 건물 독채로 이루어져 있습니다.']# ['역시 토끼정 본 점 답죠?ㅎㅅㅎ', '건물은 크지만 간판이 없기 때문에 지나칠 수 있으니 조심하세요', '강남 토끼정의 내부 인테리어.']]Remain all prefixes/suffixes space characters for original text recoverabilityimportksstext="회사 동료 분들과 다녀왔는데 분위기도 좋고 음식도 맛있었어요\n다만, 강남 토끼정이 강남 쉑쉑버거 골목길로 쭉 올라가야 하는데 다들 쉑쉑버거의 유혹에 넘어갈 뻔 했답니다 강남역 맛집 토끼정의 외부 모습."kss.split_sentences(text)# ['회사 동료 분들과 다녀왔는데 분위기도 좋고 음식도 맛있었어요\n', '다만, 강남 토끼정이 강남 쉑쉑버거 골목길로 쭉 올라가야 하는데 다들 쉑쉑버거의 유혹에 넘어갈 뻔 했답니다 ', '강남역 맛집 토끼정의 외부 모습.']Ignore strings from sentence splittingimportksstext="""첫째. 베트남 지역에서는 일찍부터 반랑국, 어우락 왕국, 남비엣(남월) 등이 건국되어 발전하였다. 그러나 한 무제의 공격으로 중국의 지배를 받기 시작하면서 중국 문화의 영향을 받게 되었다. 특히 당의 지배를 받으면서 당 문화의 영향을 많이 받았다.둘째. 베트남에서도 중국 문화의 영향 속에서 유교 문화가 발달하였다. 특히 베트남의 리 왕조 때에는 문묘가 설치되고, 과거제가 시행되기도 하였다. 한편 레(후기) 왕조 때에는 성리학을 바탕으로 한 유교 문화가 확산되었다.셋째. 베트남에서는 강수량이 풍부하고, 날씨가 따뜻하여 벼농사 중심의 농경 생활이 이루어지고 있다.넷째. 동아시아 지역은 계절에 따라 방향이 바뀌는 계절풍의 영향을 강하게 받는 곳이다. 서안 해양성 기후는 중위도의 대륙 서쪽 지역에 주로 나타난다."""output=kss.split_sentences(text,ignores=["첫째.","둘째.","셋째.","넷째."])print(output)# ['첫째. 베트남 지역에서는 일찍부터 반랑국, 어우락 왕국, 남비엣(남월) 등이 건국되어 발전하였다.', '그러나 한 무제의 공격으로 중국의 지배를 받기 시작하면서 중국 문화의 영향을 받게 되었다.', '특히 당의 지배를 받으면서 당 문화의 영향을 많이 받았다.', '둘째. 베트남에서도 중국 문화의 영향 속에서 유교 문화가 발달하였다.', '특히 베트남의 리 왕조 때에는 문묘가 설치되고, 과거제가 시행되기도 하였다.', '한편 레(후기) 왕조 때에는 성리학을 바탕으로 한 유교 문화가 확산되었다.', '셋째. 베트남에서는 강수량이 풍부하고, 날씨가 따뜻하여 벼농사 중심의 농경 생활이 이루어지고 있다.', '넷째. 동아시아 지역은 계절에 따라 방향이 바뀌는 계절풍의 영향을 강하게 받는 곳이다.', '서안 해양성 기후는 중위도의 대륙 서쪽 지역에 주로 나타난다.']Performance Analysis1) Test CommandsYou can reproduce all the following results using source code and datasets in./bench/directory and the source code was copied fromhere.
Note that theBaselineis regex based segmentation method (re.split(r"(?<=[.!?])\s", text)).NameCommand (in root directory)Baselinepython3 ./bench/test_baseline.py ./bench/testset/*.txtKiwipython3 ./bench/test_kiwi.py ./bench/testset/*.txtKoalanlppython3 ./bench/test_koalanlp.py ./bench/testset/*.txt --backend=OKT/HNN/KMR/RHINO/EUNJEON/ARIRANG/KKMAKss(ours)python3 ./bench/test_kss.py ./bench/testset/*.txt --backend=mecab/pecab2) Evaluation datasets:I used the following 7 evaluation datasets for the follwing experiments. Thanks toMinchul Leefor creating various sentence segmentation datasets.NameDescriptionsThe number of sentencesCreatorblogs_leeDataset for testing blog style text segmentation170Minchul Leeblogs_koDataset for testing blog style text segmentation, which is harder than Lee's blog dataset346Hyunwoong KosampleAn example used in README.md (강남 토끼정)41Isaac, modified byHyunwoong KotweetsDataset for testing tweeter style text segmentation178Minchul LeewikipediaDataset for testing wikipedia style text segmentation326Hyunwoong KonestedDataset for testing text which have parentheses and quotation marks segmentation91Minchul Leev_endingDataset for testing difficult eomi segmentation, it contains various dialect sentences30Minchul LeeNote that I modified labels of two sentences insample.txtmade byIssacbecause theoriginal blog postwas written like the following:But Issac's labels were:In fact,사실 전 고기를 안 먹어서 무슨 맛인지 모르겠지만..and(물론 전 안 먹었지만are embraced sentences (안긴문장), not independent sentences. So sentence segmentation tools should do not split that parts.3) Sentence segmentation performance (Quantitative Analysis)The following tables show the segmentation performance based onExact Match (EM),F1 score (F1)andNormalized F1 score (NF1).EM score: This only gives score when the output predictions are exactly the same with gold labels. This could be useful, but too harsh and clunky.NameLibrary versionBackendblogs_lee (EM)blogs_ko (EM)sample (EM)tweets (EM)wikipedia (EM)nested (EM)v_ending (EM)Average (EM)BaselineN/AN/A0.535290.436420.341460.511240.662580.681320.000000.45261Koalanlp2.1.7OKT0.535290.436420.365850.533710.659510.791210.000000.47457Koalanlp2.1.7HNN0.541180.442200.341460.544940.677910.780220.000000.47541Koalanlp2.1.7KMR0.511760.384390.268290.421350.457060.791210.000000.40486Koalanlp2.1.7RHINO0.529410.413290.292680.393260.677910.791210.000000.44253Koalanlp2.1.7EUNJEON0.511760.387280.219510.382020.598160.703300.000000.40029Koalanlp2.1.7ARIRANG0.511760.416180.292680.443820.665640.791210.000000.44589Koalanlp2.1.7KKMA0.529410.459540.317070.382020.576690.582420.066670.41626Kiwi0.14.1N/A0.782350.612720.902440.662920.638040.835160.200000.66194Kss (ours)4.2.0pecab0.870590.826590.951220.741570.981600.868130.366670.80091Kss (ours)4.2.0mecab0.870590.826590.951220.752811.000000.868130.366670.80514F1 score (dice similarity): This calculates the overlap between the output predictions and gold labels. It means this gives score even if the output predictions are not exactly same with gold labels. This is less reliable because this gives huge advantages to splitters which separate sentences too finely.NameLibrary versionBackendblogs_lee (F1)blogs_ko (F1)sample (F1)tweets (F1)wikipedia (F1)nested (F1)v_ending (F1)Average (F1)BaselineN/AN/A0.668470.557240.547320.654460.766640.854380.113590.59458Koalanlp2.1.7OKT0.668470.557240.586420.694340.766390.930100.113590.61665Koalanlp2.1.7HNN0.693410.591850.570920.703500.981160.941630.113590.65658Koalanlp2.1.7KMR0.635060.486610.490260.563640.548060.854260.113590.52735Koalanlp2.1.7RHINO0.683130.535480.522580.579000.967430.854260.113590.60792Koalanlp2.1.7EUNJEON0.670630.540100.484460.650180.918460.802330.113590.59710Koalanlp2.1.7ARIRANG0.694070.572300.568720.678820.978840.854260.113590.63722Koalanlp2.1.7KKMA0.781270.665990.783350.568320.925270.899520.307970.70457Kiwi0.14.1N/A0.913230.762140.960030.845030.977400.984470.385350.83252Kss (ours)4.2.0pecab0.921620.903350.968260.827200.988010.930120.481530.86001Kss (ours)4.2.0mecab0.921620.903350.968260.833291.000000.930120.481530.86259Normalized F1 score: This is the most reliable metric made by the Kss project. It makes up for the downside of the F1 score by penalizing splitters which separate too finely.NameLibrary versionBackendblogs_lee (NF1)blogs_ko (NF1)sample (NF1)tweets (NF1)wikipedia (NF1)nested (NF1)v_ending (NF1)Average (NF1)BaselineN/AN/A0.598840.526070.547320.618060.763790.759910.113590.56108Koalanlp2.1.7OKT0.621680.557240.586420.661980.763540.838320.113590.59182Koalanlp2.1.7HNN0.625150.570980.570920.669220.972860.820310.113590.62043Koalanlp2.1.7KMR0.616360.484120.490260.555350.548060.854260.113590.52314Koalanlp2.1.7RHINO0.636190.518350.522580.551400.958860.854260.113590.59360Koalanlp2.1.7EUNJEON0.621040.521320.484460.577660.913070.802330.113590.57261Koalanlp2.1.7ARIRANG0.589790.511490.568720.535000.946170.854260.113590.58843Koalanlp2.1.7KKMA0.739720.640480.783350.564080.892180.750680.307970.66835Kiwi0.14.1N/A0.843780.723670.937170.790560.910310.926870.341790.78202Kss (ours)4.2.0pecab0.888780.886050.968260.807710.981600.920630.481530.84957Kss (ours)4.2.0mecab0.888780.886050.968260.813791.000000.920630.481530.85129Kss performed best in most metrics and datasets, and Kiwi performed well. Both baseline and koalanlp performed poorly.4) Consideration of metrics and Normalized F1 scoreThe evaluation source code which was copied fromkiwipiepyprovides both EM score and F1 score (dice similarity).But I don't believe both are good metrics to measure sentence segmentation performance.In this section, I will show you the problems of both EM score and F1 score, and propose a new metric, Normalized F1 score to solve these problems.
For these experiments, I used Kiwi (0.14.1) and Word Split, and the Word Split is equivalent totext.split(" ").4.1) Problem of EM scoreFirstly, the EM score has a problem like the following. Let's look at an example like this:Input text:델포이 섬에 있는 아폴론 신전은 앞일을 예언하는 신탁으로 유명하다.[3] 아폴론이 아직 태어나기 이전에 레토는, 자신이 임신한 쌍둥이들이, 아버지인 제우스 다음가는 권력을 누리게 될 것이라는 예언을 받았다고 한다.Label:델포이 섬에 있는 아폴론 신전은 앞일을 예언하는 신탁으로 유명하다.[3] 
아폴론이 아직 태어나기 이전에 레토는, 자신이 임신한 쌍둥이들이, 아버지인 제우스 다음가는 권력을 누리게 될 것이라는 예언을 받았다고 한다.And the two splitters split input text like the following:Output of Kiwi (0.14.1):# EM score: 0.0

델포이 섬에 있는 아폴론 신전은 앞일을 예언하는 신탁으로 유명하다.
[3] 아폴론이 아직 태어나기 이전에 레토는, 자신이 임신한 쌍둥이들이, 아버지인 제우스 다음가는 권력을 누리게 될 것이라는 예언을 받았다고 한다.Output of Word Split:# EM score: 0.0

델포이
섬에
있는
아폴론
신전은
앞일을
예언하는
신탁으로
유명하다.[3]
아폴론이
아직
태어나기
이전에
레토는,
자신이
임신한
쌍둥이들이,
아버지인
제우스
다음가는
권력을
누리게
될
것이라는
예언을
받았다고
한다.The Kiwi separated sentences well excluding the footnote ([3]).
Even if it didn't split sentences exactly accurate, it split somewhat well.
On the contrary, the Word Split separated sentences completely wrong.
However, since none of these outputs are the same with label, both are rated as 0.0 with EM score.
It's too harsh evaluation for Kiwi.
As such, the EM score does not properly evaluate the performance in the case of the sentence segmentation is not exactly accurate.You can reproduce this result using the following commands:Kiwi:python3 ./bench/test_kiwi.py ./bench/metrics/em_problem.txtWord Split:python3 ./bench/test_word_split.py ./bench/metrics/em_problem.txt4.2) Problem of F1 scoreWe can utilize the F1 score to solve the problem of EM score.
But F1 score has another problem. Let's look at an example like this:Input text:기억해 넌 그 애의 친구야. 네가 죽으면 마 들레 느가 펑펑 울 거야 비 체는 슬퍼하겠지 이 안은 화를 낼 거야. 메이 시는 어쩌면 조금은 생각 해 주지 않을까 중요한 건 그건 네가 지키고 싶어 했던 사람들이잖아 어서 가.Label:기억해 
넌 그 애의 친구야.
네가 죽으면 마 들레 느가 펑펑 울 거야
비 체는 슬퍼하겠지
이 안은 화를 낼 거야.
메이 시는 어쩌면 조금은 생각 해 주지 않을까
중요한 건 그건 네가 지키고 싶어 했던 사람들이잖아
어서 가.And the two splitters split this input like the following:Output of Kiwi (0.14.1):F1 score: 0.56229

Output:
기억해 넌 그 애의 친구야.
네가 죽으면 마 들레 느가 펑펑 울 거야
비 체는 슬퍼하겠지
이 안은 화를 낼 거야.
메이 시는 어쩌면 조금은 생각 해 주지 않을까 중요한 건 그건 네가 지키고 싶어 했던 사람들이잖아 어서 가.Output of Word Split:F1 score: 0.58326

Output:
기억해
넌
그
애의
친구야.
네가
죽으면
마
들레
느가
펑펑
울
거야
비
체는
슬퍼하겠지
이
안은
화를
낼
거야.
메이
시는
어쩌면
조금은
생각
해
주지
않을까
중요한
건
그건
네가
지키고
싶어
했던
사람들이잖아
어서
가.Neither two splitters split the sentence perfectly, but Kiwi split sentences pretty well.
On the contrary, the Word Split separated sentences completely wrong.
Interestingly, Word Split's F1 score is 0.58326, which is higher than Kiwi's 0.56229.
This means that the F1 score (dice similarity) gives a huge advantage to splitters which separate sentences too finely.You can reproduce this result using the following commands:Kiwi:python3 ./bench/test_kiwi.py ./bench/metrics/f1_problem.txtWord Split:python3 ./bench/test_word_split.py ./bench/metrics/f1_problem.txt4.3) Normalized F1 scoreTo overcome the problems of both EM score and F1 score, I propose a new metric namedNormalized F1 score.
This can be obtained by the following formula.Normalized_F1_score = F1_score * min(1, len(golds)/len(preds))This inherits the advantages of the F1 score, but penalizes splitters which separate sentences too finely.
If we re-evaluate the above two cases with the Normalized F1 score, the scores change as follows.SplitterLibrary versionInput sentencesEM scoreNormalized F1 scoreKiwi0.14.1델포이 섬에 있는 아폴론...0.00.96341Word SplitN/A델포이 섬에 있는 아폴론...0.00.02145SplitterLibrary versionInput sentencesF1 scoreNormalized F1 scoreKiwi0.14.1기억해 넌 그 애의 친구...0.562290.56229Word SplitN/A기억해 넌 그 애의 친구...0.583260.11964In both cases, Word Split scores significantly lower than Kiwi.
This means that the Normalized F1 score can complement the EM score and F1 score.
That's why I'm introducing this new metric, Normalized F1 to sentence segmentation evaluation.5) Where does the difference in performance come from? (Qualitative Analysis)So far, I've conducted quantitative analysis and have been considering evaluation metrics.
However, it is meaningless to simply compare them by number. I definitely want you to see the segmentation results.
Let's takeblogs_kosamples as examples, and compare performance of each library.
For this, I will take the best backend of each library (Kss=mecab, Koalanlp=KKMA) on theblogs_kodataset, because looking results of all backends may make you tired.Example 1Input text거제 내려가는 길에 휴게소를 들렸는데 새로 생겼나보더라구요!? 남편과 저, 둘 다 빵러버라 지나칠 수 없어 구매해 먹어봤답니당😊 보성녹차휴게소 안으로 들어오시면 딱 가운데 위치해 있어요ㅎㅎ 그래서 어느 문으로라도 들어오셔도 가깝답니다😉 메뉴판을 이렇고, 가격은 2000원~3000원 사이에 형성 되어 있어요! 이런거 하나하나 맛보는거 너무 좋아하는데... 진정하고 소미미 단팥빵 하나, 옥수수 치즈빵 하나, 구리볼 하나 골랐습니다! 다음에 가면 강낭콩이랑 밤 꼭 먹어봐야겠어요😙Label거제 내려가는 길에 휴게소를 들렸는데 새로 생겼나보더라구요!?
남편과 저, 둘 다 빵러버라 지나칠 수 없어 구매해 먹어봤답니당😊
보성녹차휴게소 안으로 들어오시면 딱 가운데 위치해 있어요ㅎㅎ
그래서 어느 문으로라도 들어오셔도 가깝답니다😉
메뉴판을 이렇고, 가격은 2000원~3000원 사이에 형성 되어 있어요!
이런거 하나하나 맛보는거 너무 좋아하는데... 진정하고 소미미 단팥빵 하나, 옥수수 치즈빵 하나, 구리볼 하나 골랐습니다!
다음에 가면 강낭콩이랑 밤 꼭 먹어봐야겠어요😙Sourcehttps://hi-e2e2.tistory.com/193Output textsBaseline:

거제 내려가는 길에 휴게소를 들렸는데 새로 생겼나보더라구요!?
남편과 저, 둘 다 빵러버라 지나칠 수 없어 구매해 먹어봤답니당😊 보성녹차휴게소 안으로 들어오시면 딱 가운데 위치해 있어요ㅎㅎ 그래서 어느 문으로라도 들어오셔도 가깝답니다😉 메뉴판을 이렇고, 가격은 2000원~3000원 사이에 형성 되어 있어요!
이런거 하나하나 맛보는거 너무 좋아하는데...
진정하고 소미미 단팥빵 하나, 옥수수 치즈빵 하나, 구리볼 하나 골랐습니다!
다음에 가면 강낭콩이랑 밤 꼭 먹어봐야겠어요😙Baseline separates input text into 5 sentences. First of all, the first sentence was separated well because it has final symbols. However, since these final symbols don't appear from the second sentence, you can see that these sentences were not separated well.Koalanlp (KKMA):

거제 내려가는 길에 휴게 소를 들렸는데 새로 생겼나
보더라구요!?
남편과 저, 둘 다 빵 러버라 지나칠 수 없어 구매해 먹어 봤답니당
😊 보성 녹차 휴게소 안으로 들어오시면 딱 가운데 위치해 있어요
ㅎㅎ 그래서 어느 문으로 라도 들어오셔도 가깝답니다
😉 메뉴판을 이렇고, 가격은 2000원 ~3000 원 사이에 형성 되어 있어요!
이런 거 하나하나 맛보는 거 너무 좋아하는데... 진정하고 소미 미 단팥빵 하나, 옥수수 치즈 빵 하나, 구리 볼 하나 골랐습니다!
다음에 가면 강낭콩이랑 밤 꼭 먹어봐야겠어요😙Koalanlp splits sentences better than baseline because it uses morphological information. It splits input text into 8 sentences in total.
But many mispartitions still exist. The first thing that catches your eye is the immature emoji handling.
People usually put emojis at the end of a sentence, and in this case, the emojis should be included in the sentence.
The second thing is the mispartition between생겼나and보더라구요!?.
Probably this is because the KKMA morpheme analyzer recognized생겼나as a final eomi (종결어미). but it's a connecting eomi (연결어미).
This is because the performance of the morpheme analyzer. Rather, the baseline is a little safer in this area.Kiwi:

거제 내려가는 길에 휴게소를 들렸는데 새로 생겼나보더라구요!?
남편과 저, 둘 다 빵러버라 지나칠 수 없어 구매해 먹어봤답니당😊
보성녹차휴게소 안으로 들어오시면 딱 가운데 위치해 있어요ㅎㅎ
그래서 어느 문으로라도 들어오셔도 가깝답니다😉 메뉴판을 이렇고, 가격은 2000원~3000원 사이에 형성 되어 있어요!
이런거 하나하나 맛보는거 너무 좋아하는데...
진정하고 소미미 단팥빵 하나, 옥수수 치즈빵 하나, 구리볼 하나 골랐습니다!
다음에 가면 강낭콩이랑 밤 꼭 먹어봐야겠어요😙Kiwi shows better performance than Koalanlp. It splits input text into 7 sentences.
Most sentences are pretty good, but it doesn't split가깝답니다😉and메뉴판을.
The second thing is it separates좋아하는데...and진정하고.
This part may be recognized as an independent sentence depending on the viewer,
but the author of the original article didn't write this as an independent sentence, but an embraced sentence (안긴문장).Theoriginal articlewas written like:Kss (mecab):

거제 내려가는 길에 휴게소를 들렸는데 새로 생겼나보더라구요!?
남편과 저, 둘 다 빵러버라 지나칠 수 없어 구매해 먹어봤답니당😊
보성녹차휴게소 안으로 들어오시면 딱 가운데 위치해 있어요ㅎㅎ
그래서 어느 문으로라도 들어오셔도 가깝답니다😉
메뉴판을 이렇고, 가격은 2000원~3000원 사이에 형성 되어 있어요!
이런거 하나하나 맛보는거 너무 좋아하는데... 진정하고 소미미 단팥빵 하나, 옥수수 치즈빵 하나, 구리볼 하나 골랐습니다!
다음에 가면 강낭콩이랑 밤 꼭 먹어봐야겠어요😙The result of Kss is same with gold label. Especially it succesfully separates가깝답니다😉and메뉴판을. In fact, this part is the final eomi (종결어미), but many morpheme analyzers confuse the final eomi (종결어미) with the connecting eomi (연결어미). Actually, mecab and pecab morpheme analyzers which are backend of Kss also recognizes that part as a connecting eomi (연결어미). For this reason, Kss has a feature to recognize wrongly recognized connecting eomi (연결어미) and to correct those eomis. Thus, it is able to separate this part effectively. Next, Kss doesn't split좋아하는데...and진정하고becuase좋아하는데...is not an independent sentence, but an embraced sentence (안긴문장). This means Kss doesn't split sentences simply because.appears, unlike baseline. In most cases,.could be the delimiter of sentences, actually there are many exceptions about this.Example 2Input text어느화창한날 출근전에 너무일찍일어나 버렸음 (출근시간 19시) 할꺼도없고해서 카페를 찾아 시내로 나갔음 새로생긴곳에 사장님이 커피선수인지 커피박사라고 해서 갔음 오픈한지 얼마안되서 그런지 손님이 얼마없었음 조용하고 좋다며 좋아하는걸시켜서 테라스에 앉음 근데 조용하던 카페가 산만해짐 소리의 출처는 카운터였음(테라스가 카운터 바로옆) 들을라고 들은게 아니라 귀는 열려있으니 듣게된 대사.Label어느화창한날 출근전에 너무일찍일어나 버렸음 (출근시간 19시)
할꺼도없고해서 카페를 찾아 시내로 나갔음
새로생긴곳에 사장님이 커피선수인지 커피박사라고 해서 갔음
오픈한지 얼마안되서 그런지 손님이 얼마없었음
조용하고 좋다며 좋아하는걸시켜서 테라스에 앉음
근데 조용하던 카페가 산만해짐
소리의 출처는 카운터였음(테라스가 카운터 바로옆)
들을라고 들은게 아니라 귀는 열려있으니 듣게된 대사.Sourcehttps://mrsign92.tistory.com/6099371Output textsBaseline:

어느화창한날 출근전에 너무일찍일어나 버렸음 (출근시간 19시) 할꺼도없고해서 카페를 찾아 시내로 나갔음 새로생긴곳에 사장님이 커피선수인지 커피박사라고 해서 갔음 오픈한지 얼마안되서 그런지 손님이 얼마없었음 조용하고 좋다며 좋아하는걸시켜서 테라스에 앉음 근데 조용하던 카페가 산만해짐 소리의 출처는 카운터였음(테라스가 카운터 바로옆) 들을라고 들은게 아니라 귀는 열려있으니 듣게된 대사.Baseline doesn't split any sentences because there's no.!?in the input text.Koalanlp (KKMA)

어느 화창한 날 출근 전에 너무 일찍 일어나 버렸음 ( 출근시간 19시) 할 꺼도 없고 해서 카페를 찾아 시내로 나갔음 새로 생긴 곳에 사장님이 커피선수인지 커피박사라고 해서 갔음 오픈한지 얼마 안 되 서 그런지 손님이 얼마 없었음 조용하고 좋다며 좋아하는 걸 시켜서 테라스에 앉음 근데 조용하던 카페가 산만 해짐 소리의 출처는 카운터였음( 테라스가 카운터 바로 옆) 들을라고
들은 게 아니라 귀는 열려 있으니 듣게 된 대사.Koalanlp separates들을라고and들은but it is not correct split point.
And I think it doesn't consider predicative use of eomi transferred from noun (명사형 전성어미의 서술적 용법).Kiwi

어느화창한날 출근전에 너무일찍일어나 버렸음 (출근시간 19시) 할꺼도없고해서 카페를 찾아 시내로 나갔음 새로생긴곳에 사장님이 커피선수인지 커피박사라고 해서 갔음 오픈한지 얼마안되서 그런지 손님이 얼마없었음 조용하고 좋다며 좋아하는걸시켜서 테라스에 앉음 근데 조용하던 카페가 산만해짐 소리의 출처는 카운터였음(테라스가 카운터 바로옆) 들을라고 들은게 아니라 귀는 열려있으니 듣게된 대사.Kiwi doesn't separate any sentence, similar with baseline.
Similarly, it doesn't consider predicative use of eomi transferred from noun (명사형 전성어미의 서술적 용법).Kss (Mecab)

어느화창한날 출근전에 너무일찍일어나 버렸음 (출근시간 19시)
할꺼도없고해서 카페를 찾아 시내로 나갔음
새로생긴곳에 사장님이 커피선수인지 커피박사라고 해서 갔음
오픈한지 얼마안되서 그런지 손님이 얼마없었음
조용하고 좋다며 좋아하는걸시켜서 테라스에 앉음
근데 조용하던 카페가 산만해짐 소리의 출처는 카운터였음(테라스가 카운터 바로옆)
들을라고 들은게 아니라 귀는 열려있으니 듣게된 대사.The result of Kss is very similar with gold label, Kss considers predicative use of eomi transferred from noun (명사형 전성어미의 서술적 용법).
But Kss couldn't split산만해짐and소리의. That part is a correct split point, but it was blocked by one of the exceptions which I built to prevent wrong segmentation. Splitting eomi transferred from noun (명사형 전성어미) is one of the unsafe and difficult tasks, so Kss has many exceptions to prevent wrong segmentation.Example 3Input text책소개에 이건 소설인가 실제인가라는 문구를 보고 재밌겠다 싶어 보게 되었다. '바카라'라는 도박은 2장의 카드 합이 높은 사람이 이기는 게임으로 아주 단순한 게임이다. 이런게 중독이 되나? 싶었는데 이 책이 바카라와 비슷한 매력이 있다 생각들었다. 내용이 스피드하게 진행되고 막히는 구간없이 읽히는게 나도 모르게 페이지를 슥슥 넘기고 있었다. 물론 읽음으로써 큰 돈을 벌진 않지만 이런 스피드함에 나도 모르게 계속 게임에 참여하게 되고 나오는 타이밍을 잡지 못해 빠지지 않았을까? 라는 생각을 하게 됐다. 이 책에서 현지의 꿈은 가격표를 보지 않는 삶이라 한다. 이 부분을 읽고 나돈데! 라는 생각하면서 순간 도박이라는걸로라도 돈을 많이 벌었던 현지가 부러웠다. 그러면서 내가 도박을 했다면?라는 상상을 해봤다. 그리고 이런 상상을 할 수 있게 만들어줘서 이 책이 더 재밌게 다가왔다. 일상에 지루함을 느껴 도박같은 삶을 살고싶다면 도박하지말고 차라리 이 책을 보길^^ㅋLabel책소개에 이건 소설인가 실제인가라는 문구를 보고 재밌겠다 싶어 보게 되었다.
'바카라'라는 도박은 2장의 카드 합이 높은 사람이 이기는 게임으로 아주 단순한 게임이다.
이런게 중독이 되나? 싶었는데 이 책이 바카라와 비슷한 매력이 있다 생각들었다.
내용이 스피드하게 진행되고 막히는 구간없이 읽히는게 나도 모르게 페이지를 슥슥 넘기고 있었다.
물론 읽음으로써 큰 돈을 벌진 않지만 이런 스피드함에 나도 모르게 계속 게임에 참여하게 되고 나오는 타이밍을 잡지 못해 빠지지 않았을까? 라는 생각을 하게 됐다.
이 책에서 현지의 꿈은 가격표를 보지 않는 삶이라 한다.
이 부분을 읽고 나돈데! 라는 생각하면서 순간 도박이라는걸로라도 돈을 많이 벌었던 현지가 부러웠다.
그러면서 내가 도박을 했다면?라는 상상을 해봤다.
그리고 이런 상상을 할 수 있게 만들어줘서 이 책이 더 재밌게 다가왔다.
일상에 지루함을 느껴 도박같은 삶을 살고싶다면 도박하지말고 차라리 이 책을 보길^^ㅋSourcehttps://hi-e2e2.tistory.com/63Output textsBaseline:

책소개에 이건 소설인가 실제인가라는 문구를 보고 재밌겠다 싶어 보게 되었다.
'바카라'라는 도박은 2장의 카드 합이 높은 사람이 이기는 게임으로 아주 단순한 게임이다.
이런게 중독이 되나?
싶었는데 이 책이 바카라와 비슷한 매력이 있다 생각들었다.
내용이 스피드하게 진행되고 막히는 구간없이 읽히는게 나도 모르게 페이지를 슥슥 넘기고 있었다.
물론 읽음으로써 큰 돈을 벌진 않지만 이런 스피드함에 나도 모르게 계속 게임에 참여하게 되고 나오는 타이밍을 잡지 못해 빠지지 않았을까?
라는 생각을 하게 됐다.
이 책에서 현지의 꿈은 가격표를 보지 않는 삶이라 한다.
이 부분을 읽고 나돈데!
라는 생각하면서 순간 도박이라는걸로라도 돈을 많이 벌었던 현지가 부러웠다.
그러면서 내가 도박을 했다면?라는 상상을 해봤다.
그리고 이런 상상을 할 수 있게 만들어줘서 이 책이 더 재밌게 다가왔다.
일상에 지루함을 느껴 도박같은 삶을 살고싶다면 도박하지말고 차라리 이 책을 보길^^ㅋBaseline separates input text into 13 sentences. You can see it can't distinguish final eomi(종결어미) and connecting eomi(연결어미), for example it splits이런게 중독이 되나?and싶었는데. But되나?is connecting eomi (연결어미). And here's one more problem. It doesn't recognize embraced sentences (안긴문장). For example it splits못해 빠지지 않았을까?and라는 생각을 하게 됐다..Koalanlp (KKMA)

책 소개에 이건 소설인가 실제 인가라는 문구를 보고 재밌겠다 싶어 보게 되었다.
' 바카라' 라는 도박은 2 장의 카드 합이 높은 사람이 이기는 게임으로 아주 단순한 게임이다.
이런 게 중독이 되나?
싶었는데 이 책이 바카라와 비슷한 매력이 있다 생각 들었다.
내용이 스피드하게 진행되고 막히는 구간 없이 읽히는 게 나도 모르게 페이지를 슥슥 넘기고 있었다.
물론 읽음으로써 큰 돈을 벌진 않지만 이런 스피드함에 나도 모르게 계속 게임에 참여하게 되고 나오는 타이밍을 잡지 못해 빠지지 않았을까?
라는 생각을 하게 됐다.
이 책에서 현지의 꿈은 가격표를 보지 않는 삶이라 한다.
이 부분을 읽고 나돈데!
라는 생각하면서 순간 도박이라는 걸로라도 돈을 많이 벌었던 현지가 부러웠다.
그러면서 내가 도박을 했다면? 라는 상상을 해봤다.
그리고 이런 상상을 할 수 있게 만들어 줘서 이 책이 더 재밌게 다가왔다.
일상에 지루함을 느껴 도박 같은 삶을 살고 싶다면 도박하지 말고 차라리 이 책을 보길 ^^ ㅋThe result of Koalanlp was really similar with baseline, the two problems (final-connecting eomi distinction, embracing sentences recognization) still exist.Kiwi

책소개에 이건 소설인가 실제인가
라는 문구를 보고 재밌겠다 싶어 보게 되었다.
'바카라'라는 도박은 2장의 카드 합이 높은 사람이 이기는 게임으로 아주 단순한 게임이다.
이런게 중독이 되나?
싶었는데 이 책이 바카라와 비슷한 매력이 있다 생각들었다.
내용이 스피드하게 진행되고 막히는 구간없이 읽히는게 나도 모르게 페이지를 슥슥 넘기고 있었다.
물론 읽음으로써 큰 돈을 벌진 않지만 이런 스피드함에 나도 모르게 계속 게임에 참여하게 되고 나오는 타이밍을 잡지 못해 빠지지 않았을까?
라는 생각을 하게 됐다.
이 책에서 현지의 꿈은 가격표를 보지 않는 삶이라 한다.
이 부분을 읽고 나돈데!
라는 생각하면서 순간 도박이라는걸로라도 돈을 많이 벌었던 현지가 부러웠다.
그러면서 내가 도박을 했다면?
라는 상상을 해봤다.
그리고 이런 상상을 할 수 있게 만들어줘서 이 책이 더 재밌게 다가왔다.
일상에 지루함을 느껴 도박같은 삶을 살고싶다면 도박하지말고 차라리 이 책을 보길^^ㅋThe two problems are also shown in result of Kiwi. And it additionally splits실제인가and라는, but이건 소설인가 실제인가is not an independent sentence, but an embraced sentence (안긴문장).Kss (Mecab)

책소개에 이건 소설인가 실제인가라는 문구를 보고 재밌겠다 싶어 보게 되었다.
'바카라'라는 도박은 2장의 카드 합이 높은 사람이 이기는 게임으로 아주 단순한 게임이다.
이런게 중독이 되나? 싶었는데 이 책이 바카라와 비슷한 매력이 있다 생각들었다.
내용이 스피드하게 진행되고 막히는 구간없이 읽히는게 나도 모르게 페이지를 슥슥 넘기고 있었다.
물론 읽음으로써 큰 돈을 벌진 않지만 이런 스피드함에 나도 모르게 계속 게임에 참여하게 되고 나오는 타이밍을 잡지 못해 빠지지 않았을까? 라는 생각을 하게 됐다.
이 책에서 현지의 꿈은 가격표를 보지 않는 삶이라 한다.
이 부분을 읽고 나돈데! 라는 생각하면서 순간 도박이라는걸로라도 돈을 많이 벌었던 현지가 부러웠다.
그러면서 내가 도박을 했다면?라는 상상을 해봤다.
그리고 이런 상상을 할 수 있게 만들어줘서 이 책이 더 재밌게 다가왔다.
일상에 지루함을 느껴 도박같은 삶을 살고싶다면 도박하지말고 차라리 이 책을 보길^^ㅋThe result of Kss is same with gold label. This means that Kss considers the two problems. Of course, it's not easy to detect that parts while splitting sentences, so Kss has one more step after splitting sentences. It's postprocessing step which corrects some problems in segmenration results. For example, Korean sentence doesn't start from josa (조사) in general. Therefore if segmented results (sentences) started from josa (조사), Kss recognizes them as embraced sentences (안긴문장), and attaches them to their previous sentence. For your information, Kss has many more powerful postprocessing algorithms which correct wrong segmentation results like this.In conclusion, Kss considers more than other libraries in Korean sentences. And these considerations led to difference in performance.6) Speed analysisI also measured speed of tools to compare their computation efficiency. The following table shows computation time of each tool when it splitssample.txt(41 sentences).
This is a single blog post, so you can expect the following time when you split a blog post into sentences.
Since the computation time may vary depending on the current CPU status, so I measured 5 times and calculated the average.
Note that every experiment was conducted on single thread / process environment with my M1 macbook pro (2021, 13'inch).NameLibrary versionBackendAverage time (msec)BaselineN/AN/A0.22koalanlp2.1.7OKT27.37koalanlp2.1.7HNN50.39koalanlp2.1.7KMR757.08koalanlp2.1.7RHINO978.53koalanlp2.1.7EUNJEON881.24koalanlp2.1.7ARIRANG1415.53koalanlp2.1.7KKMA1971.31Kiwi0.14.1N/A36.26Kss (ours)4.2.0pecab7050.50Kss (ours)4.2.0mecab46.81The baseline was fastest (because it's a just regex function), and Koalanlp (OKT backend), Kiwi, Kss (mecab backend) followed.
The slowest library was Kss (pecab backend) and it was about 160 times slower than its mecab backend.
Mecab and Kiwi were written in C++, All Koalanlp backends were written in Java and Pecab was written in pure python.
I think this difference was caused by speed of each language. Therefore, if you can install mecab, it makes most sense to use Kss Mecab backend.For Linux/MacOS users: Kss tries to installpython-mecab-korwhen you install kss. so you can use mecab backend very easily.
But if it was failed, please install mecab yourself to use mecab backend.For Windows users: Kss supportsmecab-ko-msvc(mecab for Microsoft Visual C++), and its konlpy wrapper.
To use mecab backend, you need to install one of mecab and konlpy.tag.Mecab on your machine.
There are much information about mecab installing on Windows machine in internet like the following.mecab:https://cleancode-ws.tistory.com/97konlpy.tag.Mecab:https://uwgdqo.tistory.com/3637) ConclusionI've measured the performance of Kss and other libraries using 7 evaluation datasets, and also measured their speed.
And I proposed a new metric named 'Normalized F1 score'. In terms of segmentation performance, Kss performed best on most datasets.
In terms of speed, baseline was the fastest, and Koalanlp (OKT backend) and Kiwi followed.
but Kss (mecab backend) also showed a speed that could compete with others.Although much progress has been made by Kiwi and Kss, there are still many difficulties and limitations in Korean sentence segmentation libraries.
In fact, it's also because very few people attack this task. If anyone wants to discuss Korean sentence segmentation algorithms with me or contribute to my work, feel free to send an email tokevin.ko@tunib.aior let me know on the Githubissuepage.2)split_morphemes: split text into morphemesfromkssimportsplit_morphemessplit_morphemes(text:Union[str,List[str],Tuple[str]],backend:str="auto",num_workers:Union[int,str]="auto",drop_space:bool=True,return_pos:bool=True,)Parameterstext: String or List/Tuple of stringsstring: single text segmentationlist/tuple of strings: batch texts segmentationbackend: Morpheme analyzer backend.backend='auto': findmecab→konlpy.tag.Mecab→pecab→punctand use first found analyzer (default)backend='mecab': findmecab→konlpy.tag.Mecaband use first found analyzerbackend='pecab': usepecabanalyzerbackend='punct': split sentences only near punctuation marksnum_workers: The number of multiprocessing workersnum_workers='auto': use multiprocessing with the maximum number of workers if possible (default)num_workers=1: don't use multiprocessingnum_workers=2~N: use multiprocessing with the specified number of workersdrop_space: Whether it drops all space characters or notdrop_space=True: drop all space characters in output (default)drop_space=False: remain all space characters in outputreturn_pos: Return pos information or notreturn_pos=True: return results with pos information (default)return_pos=False: return results without pos informationUsagesSingle text segmentationimportksstext="회사 동료 분들과 다녀왔는데 분위기도 좋고 음식도 맛있었어요 다만, 강남 토끼정이 강남 쉑쉑버거 골목길로 쭉 올라가야 하는데 다들 쉑쉑버거의 유혹에 넘어갈 뻔 했답니다 강남역 맛집 토끼정의 외부 모습."kss.split_morphemes(text)# [('회사', 'NNG'), ('동료', 'NNG'), ('분', 'NNB'), ('들', 'XSN'), ('과', 'JKB'), ('다녀왔', 'VV+EP'), ('는데', 'EC'), ('분위기', 'NNG'), ('도', 'JX'), ('좋', 'VA'), ('고', 'EC'), ('음식', 'NNG'), ('도', 'JX'), ('맛있', 'VA'), ('었', 'EP'), ('어요', 'EF'), ('다만', 'MAJ'), (',', 'SC'), ('강남', 'NNP'), ('토끼', 'NNG'), ('정', 'NNG'), ('이', 'JKS'), ('강남', 'NNP'), ('쉑쉑', 'MAG'), ('버거', 'NNG'), ('골목길', 'NNG'), ('로', 'JKB'), ('쭉', 'MAG'), ('올라가', 'VV'), ('야', 'EC'), ('하', 'VV'), ('는데', 'EC'), ('다', 'MAG'), ('들', 'XSN'), ('쉑쉑', 'MAG'), ('버거', 'NNG'), ('의', 'JKG'), ('유혹', 'NNG'), ('에', 'JKB'), ('넘어갈', 'VV+ETM'), ('뻔', 'NNB'), ('했', 'VV+EP'), ('답니다', 'EC'), ('강남역', 'NNP'), ('맛집', 'NNG'), ('토끼', 'NNG'), ('정의', 'NNG'), ('외부', 'NNG'), ('모습', 'NNG'), ('.', 'SF')]Batch texts segmentationimportksstexts=["회사 동료 분들과 다녀왔는데 분위기도 좋고 음식도 맛있었어요 다만, 강남 토끼정이 강남 쉑쉑버거 골목길로 쭉 올라가야 하는데 다들 쉑쉑버거의 유혹에 넘어갈 뻔 했답니다","강남역 맛집 토끼정의 외부 모습. 강남 토끼정은 4층 건물 독채로 이루어져 있습니다.","역시 토끼정 본 점 답죠?ㅎㅅㅎ 건물은 크지만 간판이 없기 때문에 지나칠 수 있으니 조심하세요 강남 토끼정의 내부 인테리어.",]kss.split_morphemes(texts)# [[('회사', 'NNG'), ('동료', 'NNG'), ('분', 'NNB'), ('들', 'XSN'), ('과', 'JKB'), ('다녀왔', 'VV+EP'), ('는데', 'EC'), ('분위기', 'NNG'), ('도', 'JX'), ('좋', 'VA'), ('고', 'EC'), ('음식', 'NNG'), ('도', 'JX'), ('맛있', 'VA'), ('었', 'EP'), ('어요', 'EF'), ('다만', 'MAJ'), (',', 'SC'), ('강남', 'NNP'), ('토끼', 'NNG'), ('정', 'NNG'), ('이', 'JKS'), ('강남', 'NNP'), ('쉑쉑', 'MAG'), ('버거', 'NNG'), ('골목길', 'NNG'), ('로', 'JKB'), ('쭉', 'MAG'), ('올라가', 'VV'), ('야', 'EC'), ('하', 'VV'), ('는데', 'EC'), ('다', 'MAG'), ('들', 'XSN'), ('쉑쉑', 'MAG'), ('버거', 'NNG'), ('의', 'JKG'), ('유혹', 'NNG'), ('에', 'JKB'), ('넘어갈', 'VV+ETM'), ('뻔', 'NNB'), ('했', 'VV+EP'), ('답니다', 'EC')],# [('강남역', 'NNP'), ('맛집', 'NNG'), ('토끼', 'NNG'), ('정의', 'NNG'), ('외부', 'NNG'), ('모습', 'NNG'), ('.', 'SF'), ('강남', 'NNP'), ('토끼', 'NNG'), ('정은', 'NNP'), ('4', 'SN'), ('층', 'NNG'), ('건물', 'NNG'), ('독채', 'NNG'), ('로', 'JKB'), ('이루어져', 'VV+EC'), ('있', 'VX'), ('습니다', 'EF'), ('.', 'SF')],# [('역시', 'MAJ'), ('토끼', 'NNG'), ('정', 'NNG'), ('본', 'VV+ETM'), ('점', 'NNB'), ('답', 'MAG+VCP'), ('죠', 'EF'), ('?', 'SF'), ('ㅎ', 'IC'), ('ㅅ', 'NNG'), ('ㅎ', 'IC'), ('건물', 'NNG'), ('은', 'JX'), ('크', 'VA'), ('지만', 'EC'), ('간판', 'NNG'), ('이', 'JKS'), ('없', 'VA'), ('기', 'ETN'), ('때문', 'NNB'), ('에', 'JKB'), ('지나칠', 'VV+ETM'), ('수', 'NNB'), ('있', 'VV'), ('으니', 'EC'), ('조심', 'NNG'), ('하', 'XSV'), ('세요', 'EP+EF'), ('강남', 'NNP'), ('토끼', 'NNG'), ('정의', 'NNG'), ('내부', 'NNG'), ('인테리어', 'NNG'), ('.', 'SF')]]Remain space characters for original text recoverabilityimportksstext="회사 동료 분들과 다녀왔는데 분위기도 좋고 음식도 맛있었어요\n다만,\t강남 토끼정이 강남 쉑쉑버거 골목길로 쭉 올라가야 하는데 다들 쉑쉑버거의 유혹에 넘어갈 뻔 했답니다 강남역 맛집 토끼정의 외부 모습."kss.split_morphemes(text,drop_space=False)# [('회사', 'NNG'), (' ', 'SP'), ('동료', 'NNG'), (' ', 'SP'), ('분', 'NNB'), ('들', 'XSN'), ('과', 'JKB'), (' ', 'SP'), ('다녀왔', 'VV+EP'), ('는데', 'EC'), (' ', 'SP'), ('분위기', 'NNG'), ('도', 'JX'), (' ', 'SP'), ('좋', 'VA'), ('고', 'EC'), (' ', 'SP'), ('음식', 'NNG'), ('도', 'JX'), (' ', 'SP'), ('맛있', 'VA'), ('었', 'EP'), ('어요', 'EF'), ('\n', 'SP'), ('다만', 'MAJ'), (',', 'SC'), ('\t', 'SP'), ('강남', 'NNP'), (' ', 'SP'), ('토끼', 'NNG'), ('정', 'NNG'), ('이', 'JKS'), (' ', 'SP'), ('강남', 'NNP'), (' ', 'SP'), ('쉑쉑', 'MAG'), ('버거', 'NNG'), (' ', 'SP'), ('골목길', 'NNG'), ('로', 'JKB'), (' ', 'SP'), ('쭉', 'MAG'), (' ', 'SP'), ('올라가', 'VV'), ('야', 'EC'), (' ', 'SP'), ('하', 'VV'), ('는데', 'EC'), (' ', 'SP'), ('다', 'MAG'), ('들', 'XSN'), (' ', 'SP'), ('쉑쉑', 'MAG'), ('버거', 'NNG'), ('의', 'JKG'), (' ', 'SP'), ('유혹', 'NNG'), ('에', 'JKB'), (' ', 'SP'), ('넘어갈', 'VV+ETM'), (' ', 'SP'), ('뻔', 'NNB'), (' ', 'SP'), ('했', 'VV+EP'), ('답니다', 'EC'), (' ', 'SP'), ('강남역', 'NNP'), (' ', 'SP'), ('맛집', 'NNG'), (' ', 'SP'), ('토끼', 'NNG'), ('정의', 'NNG'), (' ', 'SP'), ('외부', 'NNG'), (' ', 'SP'), ('모습', 'NNG'), ('.', 'SF')]Get result without POS tagging.importksstext="회사 동료 분들과 다녀왔는데 분위기도 좋고 음식도 맛있었어요\n다만,\t강남 토끼정이 강남 쉑쉑버거 골목길로 쭉 올라가야 하는데 다들 쉑쉑버거의 유혹에 넘어갈 뻔 했답니다 강남역 맛집 토끼정의 외부 모습."kss.split_morphemes(text,return_pos=False)# ['회사', '동료', '분', '들', '과', '다녀왔', '는데', '분위기', '도', '좋', '고', '음식', '도', '맛있', '었', '어요', '다만', ',', '강남', '토끼', '정', '이', '강남', '쉑쉑', '버거', '골목길', '로', '쭉', '올라가', '야', '하', '는데', '다', '들', '쉑쉑', '버거', '의', '유혹', '에', '넘어갈', '뻔', '했', '답니다', '강남역', '맛집', '토끼', '정의', '외부', '모습', '.']3)summarize_sentences: summarize text into important sentencesfromkssimportsummarize_sentencessummarize_sentences(text:Union[str,List[str],Tuple[str]],backend:str="auto",num_workers:Union[int,str]="auto",max_sentences:int=3,tolerance:float:0.05,strip:bool=True,ignores:List[str]=None,)Parameterstext: String or List/Tuple of stringsstring: single text segmentationlist/tuple of strings: batch texts segmentationbackend: Morpheme analyzer backend.backend='auto': findmecab→konlpy.tag.Mecab→pecab→punctand use first found analyzer (default)backend='mecab': findmecab→konlpy.tag.Mecaband use first found analyzerbackend='pecab': usepecabanalyzerbackend='punct': split sentences only near punctuation marksnum_workers: The number of multiprocessing workersnum_workers='auto': use multiprocessing with the maximum number of workers if possible (default)num_workers=1: don't use multiprocessingnum_workers=2~N: use multiprocessing with the specified number of workersmax_sentences: The maximum number of output sentencesmax_sentences=1~N: return 1~N sentences by sentence importancetolerance: Threshold for omitting edge weights.strip: Whether it doesstrip()for all output sentences or notstrip=True: dostrip()for all output sentences (default)strip=False: do notstrip()for all output sentencesignores: ignore strings to do not splitSee detailed usage from the followingUsagesUsagesSingle text summarizationimportksstext="""개그맨 겸 가수 ‘개가수’ UV 유세윤이 신곡 발매 이후 많은 남편들의 응원을 받고 있다. 유세윤은 지난 3일 오후 6시 새 싱글 ‘마더 사커(Mother Soccer)(Feat. 수퍼비)’를 발매했다. ‘마더 사커’는 아내에 대한 서운한 마음을 위트 있고 강한 어조로 디스 하는 남편 유세윤의 마음을 담은 곡이다. 발매 후 소셜 미디어 상에서 화제를 모으고 있는 가운데, 가수 하동균은 “유세유니 괜찮겠어”라는 반응을 보이기도 했다. 누리꾼들은 ‘두 분의 원만한 합의가 있기를 바랍니다’, ‘집에는 들어갈 수 있겠나’ 등 유세윤의 귀가를 걱정하는 모습을 보였다. 유세윤은 점입가경으로 ‘마더 사커’ 챌린지를 시작, 자신의 SNS를 통해 “부부 싸움이 좀 커졌네요”라며 배우 송진우와 함께 촬영한 영상을 게재했다. 해당 영상에서는 양말을 신고 침대에 들어간 뒤 환호를 지르거나 화장실 불을 끄지 않고 도망가는 등 아내의 잔소리 유발 포인트를 살려 재치 있는 영상을 완성했다. 유세윤은 ‘마더 사커’를 통해 남편들의 마음을 대변해 주고 있는 한편 아내의 반응은 어떨지 궁금증을 모은다."""kss.summarize_sentences(text)# ['개그맨 겸 가수 ‘개가수’ UV 유세윤이 신곡 발매 이후 많은 남편들의 응원을 받고 있다.', '‘마더 사커’는 아내에 대한 서운한 마음을 위트 있고 강한 어조로 디스 하는 남편 유세윤의 마음을 담은 곡이다.', '유세윤은 ‘마더 사커’를 통해 남편들의 마음을 대변해 주고 있는 한편 아내의 반응은 어떨지 궁금증을 모은다.']Batch texts summarizationimportksstexts=["""개그맨 겸 가수 ‘개가수’ UV 유세윤이 신곡 발매 이후 많은 남편들의 응원을 받고 있다. 유세윤은 지난 3일 오후 6시 새 싱글 ‘마더 사커(Mother Soccer)(Feat. 수퍼비)’를 발매했다. ‘마더 사커’는 아내에 대한 서운한 마음을 위트 있고 강한 어조로 디스 하는 남편 유세윤의 마음을 담은 곡이다. 발매 후 소셜 미디어 상에서 화제를 모으고 있는 가운데, 가수 하동균은 “유세유니 괜찮겠어”라는 반응을 보이기도 했다. 누리꾼들은 ‘두 분의 원만한 합의가 있기를 바랍니다’, ‘집에는 들어갈 수 있겠나’ 등 유세윤의 귀가를 걱정하는 모습을 보였다. 유세윤은 점입가경으로 ‘마더 사커’ 챌린지를 시작, 자신의 SNS를 통해 “부부 싸움이 좀 커졌네요”라며 배우 송진우와 함께 촬영한 영상을 게재했다. 해당 영상에서는 양말을 신고 침대에 들어간 뒤 환호를 지르거나 화장실 불을 끄지 않고 도망가는 등 아내의 잔소리 유발 포인트를 살려 재치 있는 영상을 완성했다. 유세윤은 ‘마더 사커’를 통해 남편들의 마음을 대변해 주고 있는 한편 아내의 반응은 어떨지 궁금증을 모은다.""","""제임스 카메론 감독의 영화 ‘아바타: 물의 길’(아바타2)이 개봉 21일 만에 전국 누적 관객 800만명을 달성했다. 올해 국내 첫 ‘천만 영화’가 될지 주목된다. 4일 영화진흥위원회(영진위)에 따르면 지난달 14일 개봉한 ‘아바타2’는 전날 11만3902명의 관객을 모았다. 누적 관객 800만1930명으로 전편 ‘아바타’보다 4일 빠른 기록이다. 이는 한국의 신종 코로나바이러스 감염증(코로나19) 팬데믹 이후 세 번째 기록이다. 지난해 개봉한 ‘범죄도시2’와 ‘탑건: 매버릭’에 이어 관객 800만명을 넘어선 것이다. 2021년 12월 개봉한 ‘스파이더맨: 노 웨이 홈’도 800만명을 넘지 못했다. 이번에 ‘아바타2’가 1000만명을 돌파한다면 2019년 개봉한 ‘어벤져스: 엔드게임’ 이후 5년 만에 첫 1000만 국내 개봉 외국 영화가 된다. 영진위의 통합전산망에 따르면 ‘아바타2’의 국내 실시간 예매율은 53.9%(4일 오전 10시 기준)로 이날 개봉한 일본 영화 ‘더 퍼스트 슬램덩크’(12.9%)보다 약 4배 이상 높은 예매율을 기록했다. 박스오피스 2위는 정성화 주연의 한국 뮤지컬 영화 ‘영웅’으로, 누적 관객 180만명을 기록했다. 이어 작년 11월 말 개봉한 일본 영화 ‘오늘 밤, 세계에서 이 사랑이 사라진다 해도’가 누적 관객 72만명으로 3위를 유지하고 있다.""",]kss.summarize_sentences(texts)# [['개그맨 겸 가수 ‘개가수’ UV 유세윤이 신곡 발매 이후 많은 남편들의 응원을 받고 있다.', '‘마더 사커’는 아내에 대한 서운한 마음을 위트 있고 강한 어조로 디스 하는 남편 유세윤의 마음을 담은 곡이다.', '유세윤은 ‘마더 사커’를 통해 남편들의 마음을 대변해 주고 있는 한편 아내의 반응은 어떨지 궁금증을 모은다.'],# ['제임스 카메론 감독의 영화 ‘아바타: 물의 길’(아바타2)이 개봉 21일 만에 전국 누적 관객 800만명을 달성했다.', '4일 영화진흥위원회(영진위)에 따르면 지난달 14일 개봉한 ‘아바타2’는 전날 11만3902명의 관객을 모았다.', '박스오피스 2위는 정성화 주연의 한국 뮤지컬 영화 ‘영웅’으로, 누적 관객 180만명을 기록했다.']]Setmax_sentencesif you want get more or less three sentences from textimportksstext="""개그맨 겸 가수 ‘개가수’ UV 유세윤이 신곡 발매 이후 많은 남편들의 응원을 받고 있다. 유세윤은 지난 3일 오후 6시 새 싱글 ‘마더 사커(Mother Soccer)(Feat. 수퍼비)’를 발매했다. ‘마더 사커’는 아내에 대한 서운한 마음을 위트 있고 강한 어조로 디스 하는 남편 유세윤의 마음을 담은 곡이다. 발매 후 소셜 미디어 상에서 화제를 모으고 있는 가운데, 가수 하동균은 “유세유니 괜찮겠어”라는 반응을 보이기도 했다. 누리꾼들은 ‘두 분의 원만한 합의가 있기를 바랍니다’, ‘집에는 들어갈 수 있겠나’ 등 유세윤의 귀가를 걱정하는 모습을 보였다. 유세윤은 점입가경으로 ‘마더 사커’ 챌린지를 시작, 자신의 SNS를 통해 “부부 싸움이 좀 커졌네요”라며 배우 송진우와 함께 촬영한 영상을 게재했다. 해당 영상에서는 양말을 신고 침대에 들어간 뒤 환호를 지르거나 화장실 불을 끄지 않고 도망가는 등 아내의 잔소리 유발 포인트를 살려 재치 있는 영상을 완성했다. 유세윤은 ‘마더 사커’를 통해 남편들의 마음을 대변해 주고 있는 한편 아내의 반응은 어떨지 궁금증을 모은다."""kss.summarize_sentences(text,max_sentences=4)# ['개그맨 겸 가수 ‘개가수’ UV 유세윤이 신곡 발매 이후 많은 남편들의 응원을 받고 있다.', '‘마더 사커’는 아내에 대한 서운한 마음을 위트 있고 강한 어조로 디스 하는 남편 유세윤의 마음을 담은 곡이다.', '유세윤은 점입가경으로 ‘마더 사커’ 챌린지를 시작, 자신의 SNS를 통해 “부부 싸움이 좀 커졌네요”라며 배우 송진우와 함께 촬영한 영상을 게재했다.', '유세윤은 ‘마더 사커’를 통해 남편들의 마음을 대변해 주고 있는 한편 아내의 반응은 어떨지 궁금증을 모은다.']Why text summarization in Kss?There'stextrankr, a text summarization module for Korean. So someone might ask me like "Why are you adding summarization feature into Kss?".The reason of adding this feature is sentence segmentation performance is very important in text summarization domain.Before summarize text into sentences, we must split text into sentences. buttextrankrhas been split sentences using very naive regex based method, and this makes text summarization performance poorly. In addition, user must input tokenizer into theTextRankclass, but this is a little bit bothering. So I fixed the two problems oftextrankr, and added the codebase into Kss.Kss has one of the best sentence segmentation module in all of the Korean language processing libraries, and this can improve text summarization performance without modifying any summarization related algorithms intextrankr.Let's see the following example.text="""어느화창한날 출근전에 너무일찍일어나 버렸음 (출근시간 19시)할꺼도없고해서 카페를 찾아 시내로 나갔음새로생긴곳에 사장님이 커피선수인지 커피박사라고 해서 갔음오픈한지 얼마안되서 그런지 손님이 얼마없었음조용하고 좋다며 좋아하는걸시켜서 테라스에 앉음"""Output oftextrankris:importtextrankrimportmecabtokenizer=mecab.MeCab().morphstextrankr_class=textrankr.TextRank(tokenizer=tokenizer)textrankr_output=textrankr_class.summarize(text,verbose=False)print(textrankr_output)output:

['어느화창한날 출근전에 너무일찍일어나 버렸음 (출근시간 19시) 할꺼도없고해서 카페를 찾아 시내로 나갔음 새로생긴곳에 사장님이 커피선수인지 커피박사라고 해서 갔음 오픈한지 얼마안되서 그런지 손님이 얼마없었음 조용하고 좋다며 좋아하는걸시켜서 테라스에 앉음 근데 조용하던 카페가 산만해짐 소리의 출처는 카운터였음(테라스가 카운터 바로옆)']Output ofkssis:importksskss.sumarize_sentences(text)output:

['할꺼도없고해서 카페를 찾아 시내로 나갔음', '새로생긴곳에 사장님이 커피선수인지 커피박사라고 해서 갔음', '조용하고 좋다며 좋아하는걸시켜서 테라스에 앉음']You can seetextrankrfailed summarizing text because it couldn't split input text into sentences. but Kss summarized text very well. And usage ofkssis also much easier thantextrankr! That's why I am adding this feature into Kss.Kss in various programming languagesKss is available in various programming languages.Kss Python versionKss Java versionKss Flutter versionKss C++ versionCitationIf you find this toolkit useful, please consider citing:@misc{kss,
  author       = {Ko, Hyunwoong and Park, Sang-kil},
  title        = {Kss: A Toolkit for Korean sentence segmentation},
  howpublished = {\url{https://github.com/hyunwoongko/kss}},
  year         = {2021},
}LicenseKss project is licensed under the terms of the BSD 3-Clause "New" or "Revised" License.Copyright 2021Hyunwoong KoandSang-kil Park. All Rights Reserved.