습관처럼

programmers [python] : 2018 KAKAO BLIND RECRUITMENT 뉴스 클러스터링 본문

Algorithms/programmers

programmers [python] : 2018 KAKAO BLIND RECRUITMENT 뉴스 클러스터링

dev.wookii 2019. 12. 23. 19:01

https://programmers.co.kr/learn/courses/30/lessons/17677

 

코딩테스트 연습 - [1차] 뉴스 클러스터링 | 프로그래머스

뉴스 클러스터링 여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다. 개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 카카오 신입 개발자 공채 관련 기사를 검색해보았다. 카카오 첫 공채..'블라인드' 방식 채용 카카오, 합병 후 첫

programmers.co.kr

뉴스 클러스터링 문제


더보기

기사의 제목을 기준으로 블라인드 전형에 주목하는 기사와 코딩 테스트에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 자카드 유사도라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 1을 3개 가지고 있고, 다중집합 B는 원소 1을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 1을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 1을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 FRANCE와 FRENCH가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

str str2 answer
FRANCE french 16384
handshake shake hands 65536
aa1+aa2 AAAA12 43690
E=M*C^2 e=m*c^2 65536

접근 방식


1. 글자를 2자씩 자른다.

2. 글자중 영어가 아닌 다른 문자를 포함하면 리스트에 포함시키지 않는다.

3. str1,str2에서 나뉘어진 리스트에서 합집합 교집합을 구하여 문제를 해결한다.

저는 이중에서 3번의 합집합 교집합을 구하는 과정을 딕셔너니로 해보려다가 실패를 했습니다. 이후 69/100으로 실패.... 고민한 결과 다른방법은 코드가 길어질거 같아 좋은 풀이를 공부해서 풀어 봤습니다.

먼저 다음과 같은 두 가지 방법을 이용하면 쉽게 풀 수 있습니다.

- 정규화 

- set (집합)

 

 

 

나의 첫 번째 풀이


import collections

def solution(str1, str2):
    answer = 0
    str1=str1.upper() #대소문자 상관없이 
    str2=str2.upper()
    if len(str1)==0 or len(str2)==0:
        return 65536
    
    str1_result=[]
    str2_result=[]
    
    for i in range(len(str1)-1):
        if not((ord(str1[i])>=65 and ord(str1[i])<=90) or (ord(str1[i])>=97 and ord(str1[i])<=122)):
            continue
        if not((ord(str1[i+1])>=65 and ord(str1[i+1])<=90) or (ord(str1[i+1])>=97 and ord(str1[i+1])<=122)):
            continue
        str1_result.append(str1[i:i+2])
        
    for i in range(len(str2)-1):
        if not((ord(str2[i])>=65 and ord(str2[i])<=90) or (ord(str2[i])>=97 and ord(str2[i])<=122)):
            continue
        if not((ord(str2[i+1])>=65 and ord(str2[i+1])<=90) or (ord(str2[i+1])>=97 and ord(str2[i+1])<=122)):
            continue
        str2_result.append(str2[i:i+2])
    
    print(str1_result);print(str2_result)
    s=[];m=[]
    s=(list)(collections.Counter(str2_result)-collections.Counter(str1_result))
    m=(list)(collections.Counter(str1_result)+collections.Counter(s))

    if len(s)==0: return 65536
    
    mo=len(str1_result)+len(s)
    ja=len(str2_result)-len(s)

    answer=(int)((float)(ja/mo)*65536)
    return answer
   

위는 딕셔너리를 이용한 잘못된 풀이입니다. 

 

 

 

나의 두번째 풀이


from collections import Counter
import re
def solution(str1, str2):
    answer = 0
    str1=str1.upper() #대소문자 상관없이 
    str2=str2.upper()
    if len(str1)==0 or len(str2)==0:
        return 65536
    
    str1_result=[]
    str2_result=[]
    
    for i in range(len(str1)-1):
        if not((ord(str1[i])>=65 and ord(str1[i])<=90) or (ord(str1[i])>=97 and ord(str1[i])<=122)):
            continue
        if not((ord(str1[i+1])>=65 and ord(str1[i+1])<=90) or (ord(str1[i+1])>=97 and ord(str1[i+1])<=122)):
            continue
        str1_result.append(str1[i:i+2])
        
    for i in range(len(str2)-1):
        if not((ord(str2[i])>=65 and ord(str2[i])<=90) or (ord(str2[i])>=97 and ord(str2[i])<=122)):
            continue
        if not((ord(str2[i+1])>=65 and ord(str2[i+1])<=90) or (ord(str2[i+1])>=97 and ord(str2[i+1])<=122)):
            continue
        str2_result.append(str2[i:i+2])
        
    if len(str1_result) == len(str2_result) == 0: return 65536
    
    str1_count, str2_count = Counter(str1_result), Counter(str2_result)
    intersect, union = set(str1_result) & set(str2_result), set(str1_result) | set(str2_result)
    intersect = sum([min(str1_count[i], str2_count[i]) for i in intersect])
    union = sum([max(str1_count[i], str2_count[i]) for i in union])

    return int((intersect / union) * 65536)
   

 

 

더 나은 풀이~


from collections import Counter
import re
def solution(str1,str2):
    regex=re.compile('[a-z][a-z]')
    str1,str2=str1.lower(),str2.lower()

    str1_result = regex.findall(" ".join(str1[i:i+2]for i in range(len(str1))))
    str2_result = regex.findall(" ".join(str2[i:i+2]for i in range(len(str2))))
    
    if len(str1_result)==len(str2_result)==0:
        return 65536
    
    str1_count,str2_count=Counter(str1_result),Counter(str2_result)

    intersect,union=set(str1_result)&set(str2_result),set(str1_result)|set(str2_result)

    intersect = sum([min(str1_count[i],str2_count[i])for i in intersect])
    union=sum([max(str1_count[i],str2_count[i])for i in union])
    
    return int((intersect/union)*65536)

 

 

Funny Algorithms :0