당신의 나의 뜨거운 감자!
스팸 처리 관련된 분야다. 그래서 책을 보고 있는데 이거 참 무척이나 잼나다. ending spam 이라는 책인데, 사파리북에서 온라인으로 읽다가 뽐뿌질 받아서 구입한 책이다. (야후 직원이면 누구나 사파리 북에서 공짜로 책을 볼 수 있다. 나처럼 책을 좋아하는 사람은 정말 좋은 제도가 아닐수 없다.) 스팸 필터링이 검색엔진과 정말 비슷한 점 몇가지를 꼽는다면… 1. 사용자(스패머)의 의도를 파악해야 한다.2. […]
계속 읽기Hadoop을 처음에 Java로만 접근을 했다. 물론 Java API가 기본이기 때문에 그럴것이다.물론 저번주 사내 Tech Talk에서도 Java Code만 공개해서 예제를 보여줬다. 사내에서 많이 쓰는 언어에 대해서 예제를 만들고 보여줬어야 하는데 조금 아쉽기는 하다.(설명 당시에는 전혀 감을 못잡은 상태였다.)그러다 짬을내서 API와 소스를 보고 예제를 구현해 봤다. Java api is not a only way to construct map&reduce function. […]
계속 읽기hadoop wiki에 밝혀져 있는 야후 본사의 클러스터 사용 허가를 신청했다. 벌써 관계자는 승인이 난 상태이고, 계정 생성만 남았다. ^^ 내용은 분산 한글 형태소 분석에 대해서 신청했고, 이번기회에 600노드클러스터를 어떤방식으로 구성했는지 살짝 엿보고, 실제 그 퍼포먼스도 어느정도 가늠해 볼수 있을거 같다. 오늘 아침부터 hadoop관련 사내 위키로 문서작성해 올리고 관계자에게 메일보내고, 만들었던 코드들 정리하고 그랬다. 재미난것은 분산처리 […]
계속 읽기물론 아직 형태소 분석기는 작동시켜서 한건 아니였지만, 참으로 재미난 경험이였다. 문서를 (term, docids)로 만들기위해서, 문서 파싱하고 텀단위 추출하기 위한 map,reduce작업, 그리고 그것들을 역파일 구조로 만들기 위한 combine과 reduce 작업을 했다. 여기서 가장 고민을 많이 했던점은 Docid를 제너레이션 하기가 쉽지 않았다는 것이다.(이것은 피보나치 수열을 mapreduce모델로 제너레이션 하기 힘든것과 비슷한 문제다. )솔직히 Class 객체하나에 static 멤버변수를 모든 […]
계속 읽기평소 절친한(?) 사이인 conv2님이 요즘 신나셨다. 왜냐면 자신이 쓰신 책이 강컴 베스트셀러에 2권이나 오른것이다. 오픈소스 OpenCV를 이용한 컴퓨터 비전 실무 프로그래밍 : 기본편 오픈소스 CxImage를 이용한 Visual C++ 디지털 영상처리 2번째 책은 사인도 당시 받아서 봤는데, 요즘에 나온 첫번째 책은 아직 받지 못했다. 아마도 강남교보문고에서 또 다시 함깨 서점 습격을 같이 할때 주신다고 했으니 믿어볼 […]
계속 읽기이사하는데 하나도 도움을 못줘서 죄송한 마음에 포스팅을 올린다. 하지만 4년만에 Daum에서 독립해서 나오니 감개무량하네…앞으로 좋은 자료들 많이 공유하자구요. 재미난 쓰레드 많이 올리겠습니다. ^^ http://irgroup.org/
계속 읽기전에 포스팅에서 구글 엔지니어에게 Map&Reduce가 어디에 쓰이는지 여쭈어 본적이 있었다고 글을 썼다. 오늘 스팸 처리 알고리즘 모듈을 생각하다가, 이거 스팸처리 하는 확률을 계산하는데, complexity가 상당히 높게 나오고, 스팸 리포팅들어오면 거의 모든 텀의 스팸 확률을 재계산 해야 한다는 그런 어려움(?) 생길거 같다는 생각을 해보다가, 결국 MapReduce로 분산처리를 해볼수 있을거라는 생각을 해봤다. 만일 스팸처리 자체가 텀의 독립성 […]
계속 읽기스프링노트 정말 좋은 툴이다, 게다가 이 곳에다가 정말 나의 아이디어를 메모하는 용도로 많이 썼는데, conv2님이 이곳 약관이 이상하다는 이야기를 하셔서 내 계정의 wiki로 옮긴다. 제 15 조 (게시물에 대한 저작권) 회원이 단독으로 또는 공동으로 서비스 내에 작성한 게시물의 저작권은 게시한 회원에게 귀속됩니다. 회원은 게시물의 다른 사람에게 자신의 저작물의 이용을 허락할 수 있고, 이용허락을 받은 […]
계속 읽기야후에서의 2주를 한단어로 설명하자면? Fun 오자마자 잠깐의 Test Project로 흠뻑 Hadoop에 빠져서 분석하고 실험했다. 2.3G 텍스트 데이터, Hadoop 머신들 그리고 Map&Reduce Design 및 Hadoop 소스분석 등등…. (Lucene과 Hadoop의 창시자인 Doug cutting이 야후 직원이다.) 그리고 야후 내부 네트웍 엄청난 Research 자료들 하며…. (@.@) 아마도 매일 날을 새도 전 세계에서 날아드는 Wiki문서나 Research 자료를 보기도 벅찰거 같다는 […]
계속 읽기약 4일동안 Hadoop을 가지고 놀고 있다. 논다기 보다는, 약간의 삽질과 개념 이해를 위해 코딩 약간… 정도. (가장 힘들었던것은 역시나 한글 코드가 깨지는 것이였다. 물론 하루 반나절만에 해결을 했다. 이런 삽질은 역시나 빨리 해결하려고 하는게 정신 건강에 좋다. 이자리는 빌어 김형준님에게 감사드린다. JVM fork관련된 충고가 없었다면 이렇게 빠르게 해결하지 못했을 것이다.) 전에 Distribute Sort에 대해서 한번정도 […]
계속 읽기