당신의 나의 뜨거운 감자!
좀 오래(?) 전 이야기를 해보고자 한다. 한때 MapReduce니, GFS니 등 구글 기술에 관심이 많았던 때가 있었는데, 마침 구글직원을 만나서 논문을 보면서 궁금했던 것을 직접 물어볼 기회가 있었다. 질문들이다. 1. GFS에서 서버가 추가될때 데이터 레벨링이 어떻게 이루어 지는가?(논문에 자세한 내용이 나오지 않았다.) 답 : 5년전 페이퍼라서 지금 쓰는 구조와는 많은 차이가 있다. (답변을 하는 사람의 우월감을 […]
계속 읽기요즘 가장 고민을 많이 하는 부분이 바로 이 제목과 같은 것이다. 이것때문에 교수님이 추천해주신 Language Model을 공부하였으나.. 영 고민하는 주제와 연결감이 안오는 바람에 좀 다른 생각을 하고 있다. 그렇다면 어느 블로그가 좋은지 나쁜지 사람이 판단하는 기준을 보고 측정할 수밖에 없을것이다. 말하자면 휴리스틱한 방법을 말이다. 휴리스틱은 정말 좋은 방법이지만 어떻게 좋음을 표현하는 문제가 있다. 컴퓨터가 알아듣게 […]
계속 읽기지난 한달동안 …. 이랬다. ㅡㅡ; 엄청난 심리적 공황을 경험 했다. 하지만 오늘 저녁에…. 이렇게 편하게 맥주를 마신다. 쉬는 한달동안 저에게 격려해주시고, 관심을 가져준 typos님, 홍모형님, 싸이오형님, 아폴로형님, 박모누님 그리고 저의 여친님 등 많은 분들에게 감사하다고 전했고 이 포스팅을 통해서 또 한번 드리고 싶습니다.기대에 부흥할 수 있도록 열심히 하는 고감자가 되기를 다짐합니다. 그리고 본의 아니게 오해와 […]
계속 읽기크롤러 제작으로 검색쪽일을 시작한거나 다름 없으나, 지금은 거의 신경을 안쓰고 있지만, 시간이 가면 갈수록 웹 검색 인프라로서 크롤링 기술의 중요성은 커지는거 같다. 검색에서 크롤링 기술을 가지고 있느냐 아니냐가 검색 랭킹에 대한 펙터 수집을 원하는 대로 할수 있냐 없냐로 판가름 되어버리기 때문이다. 웹 검색, 특히나 그 분야는 링크구조로 되어 있어서 링크 펙터를 고려하지 않고서는 좋은 검색 […]
계속 읽기저번 학기부터 교수님에게 개설해 달라구 노래를 불렀던…. Data Mining 과목이 이번에 학기에 개설이 되었다. 대학원은 실제 과목 이름이 애매할 경우가 있어서 의심이 가는 과목은 되도록 첫 강의 시간에 들어가서 들어봐야 한다. 어제의 과목 이름도 “지능형 실시간 시스템”이였는데, 저번학기에는 Machine Learning 으로 강의를 하셨고, 이번학기는 Data Mining으로 강의를 하신다. 첫 시간부터 Data Mining에서 Spam에 관련된 질문을 […]
계속 읽기나름대로 기술면접을 다양하게 봐서 정리를 좀 해볼라구 한다. 전체적 소감으로는 경력이 많아지면 많이질수록 그리고 회사의 name value나 기술 수준이 높으면 높을수록 기술면접의 강도는 높아지는것 같다. 그래서 결국 실력이 없으면 반드시 뽀록이 나게 되어있다. 몇몇 회사는 기술 면접이 거의 형식적이고 질문의 수준도 낮은 회사가 있는 반면. 어떤 회사는 기술적 질문이 내가 요즘 고민하고 예전에 고민했던거, 그러나 […]
계속 읽기오늘 오픈마루에서 inverted index compression 발표를 했다. ppt는 아래 논문과 서적을 참고로 만들었다. 무엇보다 이 발표자료를 만들면서 그동안 몇가지 알고리즘을 알고 있었던것과 더불어 새로운 알고리즘까지 내 자신이 스스로 총정리 할 수 있었던 아주 좋은 기회가 되었던거 같다.그리고 앞으로 어떤 Doc Id특성을 가지고 있을경우는 어떤걸 쓴다든지 하는 그런 나만의 아니 그 누구나 수긍할 수 있는 설득력 […]
계속 읽기이번주 꽤 좋은 자료들을 봐서 몇가지 정리해 봤다. “프리챌의 장면 인식 동영상 검색엔진 개발에 대해” 기사 보구 conv님이 불끈 하셨나 보다.역시 책 쓰시는 분이라서 포스팅에 정성이 뭇어난다. 동영상 feature에 대한 고민이 선행이 되어서 색인을 설계하는게 맞는거란 생각이 든다. 데스크탑 검색이 날짜에 대해서 정렬이 default로 된다고 했을때 색인도 그에 맞춰서 구성이 되는것처럼 말이다. 좀더 버티면 conv2님이랑 […]
계속 읽기오늘 커널 공부하다가 지루한 나머지 Distribute Indexing에 대한 공부를 좀 해봤다. (역시나 지루한 코드를 보는것보다 이런 개념 학습이 더 재미난다. ^^) 예전에 MapReduce에 대한 개념을 설명할 때가 있었다. 이때 내가 느낀것은 단 한가지 였다. MapReduce는 큰일을 작은 일로 분산시켜서 처리할때 굉장히 심플한 처리 공정을 보여 준다는 것이다. 그럼 여기서 Distribute Indexing을 하는 이유는 무엇인가? 1. 웹 […]
계속 읽기쿼리 프로세싱(Query Processing)은 검색 결과를 가져오는 프로세스이다. 그럼 어떻게 Query에 맞는 결과를 가져올 것인가? 각 term의 모든 posting list를 가져와서 교집합을 하던가 합집합을 하던가… 아니면 이것들 후보 문서 모두를 vector space 모델이나 확률모델을 적용해서 가져오는 방법이 있겠다.하지만 위의 방법은 너무 복잡도가 크고, 이 문제때문에 검색 시간이 많이 걸릴것이다. 그래서 Query Process분야에서는 얼마나 빨리 가져오는 문제가 […]
계속 읽기