• Home

TensorFlow with R

최근 Python이 데이터 분석 및 머신러닝에서 매우 좋은 도구로 인지되는 가장 중요한 역할을 한 부분은 딥러닝 기술을 리딩하고 있는 코어 랭귀지라는 측면이 가장 크다. 그 중심에는 TensorFlow가 있을 것이다. 필자의 경우 MXNet기반으로 몇몇 딥러닝 모형을 만들었고, 그중 몇몇은 실제 중요한 모델로서 역할을 잘 수행하고 있다. 물론 MXNet을 사용한 가장 중요한 이유는 R을 지원하는 몇 안되는 프레임웍이라는 것이었다. H2O라는 것도 있지만 딥러닝에서는 다소 기능적인 측면에서 부족한 부분이 많은 상황이다.

그동안 MXNet을 잘 사용하다가 사용을 포기하게 된 중요한 계기가 된건 MXNet이 GPU 메모리를 효과적으로 활용하지 못하는 것을 직접 경험을 통해 알았을 때였다. 매우 심각한 문제였으나 그 이슈에 대한 어떠한 리소스도 없고 해결방안을 찾기 못해 결국 TensorFlow로 갈아타게 되었다. 물론 TensorFlow로 갈아타기 위해 느낀 부담을 덜 수 있게 도움이 된건 RStudio에서 만든 TensorFlow with R이다..

패키지 자체는 용량이 얼마 크지 않은데, 역시나 R긱들이 모여있는 RStudio에서 만든거라 그런지 다른 언어를 Wrapping한 패키지로는 매우 완성도가 높아 개인적으로 시스템에 설치된 Python 라이브러리들을 호출해서 쓰는데까지 사용한다. 아래처럼 말이다.

library(tensorflow)


sys <- import("sys")
sys$stdout$writelines("test")

R의 tensorflow 패키지는 시스템에 설치된 모든 Python라이브러리들의 클래스 구조를 매핑해 R 함수로 동적으로 Wrapping하는 구조를 가지고 있어 Python 함수를 R함수처럼 사용가능하게 한다. 게다가 Python의 Help 구문도 읽어들여 R Help처럼 툴팁으로 보여준다. 결국 R에서의 데이터 전처리의 간편함과 시각화의 강점을 그대로 살려 TensorFlow를 사용할 수 있게 해준다.

무엇보다 아래 예제에서 보여주겠지만, R의 자료구조를 바로 TensorFlow로 넣어줄 수 있어 별도의 복잡한 데이터 변환작업이 전혀 필요없다. 그리고 이런 과정의 대부분이 Native 함수 호출로 되어 있어 그 속도도 매우 빨라 Python Wrapping인지 느껴지지 않을 정도이다.

DNN 예제

분류 예제를 통해 TensorFlow를 R에서 어떻게 사용하는지 확인해보자.

library(tensorflow)
library(Matrix)
library(caret)
library(pROC)
library(data.table)

tf$set_random_seed(1)

data(Sonar, package="mlbench")

Sonar[,61] = as.numeric(Sonar[,61])-1

#scale ,centering으로 변수 전처리 수행 on caret
sonar_scaled <- predict(preProcess(Sonar[,-61]), Sonar[,-61])

#학습셋과 테스트셋 분류 
train.ind<- createDataPartition(Sonar[,61],p = 0.7, list = F)

train.x <- data.matrix(sonar_scaled[train.ind[,1],])
train.y <- Sonar[train.ind, 61]
test.x <- data.matrix(sonar_scaled[-train.ind[,1],])
test.y <- Sonar[-train.ind, 61]


num_x <- as.integer(ncol(train.x))
num_y <- 1L

x <- tf$placeholder(dtype = tf$float32, shape = list(NULL, num_x))
y <- tf$placeholder(dtype = tf$float32, shape = list(NULL, num_y))

#일반적인 
with(tf$name_scope("DNN"),{ 
    fc1 <- tf$contrib$layers$fully_connected(x,10L,
              activation_fn=tf$nn$relu, weights_initializer=tf$contrib$layers$xavier_initializer(uniform = F))
    pred <- tf$contrib$layers$fully_connected(fc1, num_y, 
              weights_initializer=tf$contrib$layers$xavier_initializer(uniform = F))
     })

#노드 1개 출력이니 binary cross entropy로 계산한다.
#AdaGrad와 Momentum을 융합한것과 같은 효과를 보이는 AdamOptimizer를 사용한다. 
#GPU가 있다면 아래 CPU를 GPU로 바꿔주면 된다. 
with({tf$name_scope("loss");tf$device('/cpu:0')},{
  loss <- tf$reduce_mean(tf$nn$sigmoid_cross_entropy_with_logits(pred, y))
  optimizer <- tf$train$AdamOptimizer(learning_rate=0.01)$minimize(loss)
  })

#Accuracy계산 
#ROC계산은 Tensorflow에서 다소 불편하니 R에서 별도로 계산할 것이다. 
with(tf$name_scope("metric"), {
  compare_pred <- tf$cast(tf$sigmoid(pred) > 0.5, tf$float32)
  accuracy <- tf$reduce_mean(tf$cast(tf$equal(compare_pred, y),tf$float32))
  })



# training 
num_of_epoc <- 100L


sess <- tf$Session()

sess$run(tf$global_variables_initializer())

n_batch <- 5

aucs <- list()
for(i in 1:num_of_epoc){
  #print(sprintf("epoc %d", i))

  folds <- createFolds(train.y, k = n_batch)
  for(j in 1:n_batch){
    sess$run(optimizer, dict(x=train.x[folds[[j]],], y=matrix(train.y[folds[[j]]])))
  }

  accu <- sess$run(tf$sigmoid(pred), dict(x=test.x))
  accur <- sess$run(accuracy, dict(x=test.x, y=matrix(test.y)))

  aucs[[i]]<- data.table(epoc=i,aucs=as.numeric(auc(roc(test.y, accu[,1]))),  accuracy=accur)
}

dt_aucs <- rbindlist(aucs)

knitr::kable(dt_aucs[order(-aucs)][1:5])
epoc aucs accuracy
78 0.8464912 0.7741935
80 0.8464912 0.7741935
81 0.8464912 0.7741935
79 0.8453947 0.7741935
82 0.8453947 0.7741935

0.8464912정도로 가장 좋은 AUC가 도출되었다. 물론 정확한 판단을 위해서는 검증셋으로 검증해야 된다. 오버피팅이 되었을 수 있기 때문이다.

그럼 좀더 네트웍을 깊이 만들면 성능이 어떻게 변화될지 실험해 보자.

아래와 같이 레이어를 추가한다.

x <- tf$placeholder(dtype = tf$float32, shape = list(NULL, num_x))
y <- tf$placeholder(dtype = tf$float32, shape = list(NULL, num_y))



with(tf$name_scope("DNN"),{ 
    fc1 <- tf$contrib$layers$fully_connected(x,10L,
              activation_fn=tf$nn$relu, weights_initializer=tf$contrib$layers$xavier_initializer(uniform = F))
    fc2 <- tf$contrib$layers$fully_connected(fc1,10L,
              activation_fn=tf$nn$relu, weights_initializer=tf$contrib$layers$xavier_initializer(uniform = F))
    pred <- tf$contrib$layers$fully_connected(fc2, num_y, 
              weights_initializer=tf$contrib$layers$xavier_initializer(uniform = F))
     })



#노드 1개 출력이니 binary cross entropy로 계산한다.
#AdaGrad와 Momentum을 융합한것과 같은 효과를 보이는 AdamOptimizer를 사용한다. 
#GPU가 있다면 아래 CPU를 GPU로 바꿔주면 된다. 
with({tf$name_scope("loss");tf$device('/cpu:0')},{
  loss <- tf$reduce_mean(tf$nn$sigmoid_cross_entropy_with_logits(pred, y))
  optimizer <- tf$train$AdamOptimizer(learning_rate=0.01)$minimize(loss)
  })

#Accuracy계산 
#ROC계산은 Tensorflow에서 다소 불편하니 R에서 별도로 계산할 것이다. 
with(tf$name_scope("metric"), {
  compare_pred <- tf$cast(tf$sigmoid(pred) > 0.5, tf$float32)
  accuracy <- tf$reduce_mean(tf$cast(tf$equal(compare_pred, y),tf$float32))
  })



# training 
num_of_epoc <- 100L


sess <- tf$Session()

sess$run(tf$global_variables_initializer())

n_batch <- 5

aucs <- list()
for(i in 1:num_of_epoc){
  #print(sprintf("epoc %d", i))

  folds <- createFolds(train.y, k = n_batch)
  for(j in 1:n_batch){
    sess$run(optimizer, dict(x=train.x[folds[[j]],], y=matrix(train.y[folds[[j]]])))
  }

  accu <- sess$run(tf$sigmoid(pred), dict(x=test.x))
  accur <- sess$run(accuracy, dict(x=test.x, y=matrix(test.y)))

  aucs[[i]]<- data.table(epoc=i,aucs=as.numeric(auc(roc(test.y, accu[,1]))),  accuracy=accur)
}

dt_aucs_2nd <- rbindlist(aucs)

knitr::kable(dt_aucs_2nd[order(-aucs)][1:5])
epoc aucs accuracy
89 0.8750000 0.8225806
87 0.8640351 0.7903226
84 0.8607456 0.8225806
86 0.8607456 0.7903226
82 0.8541667 0.8064516

위에서 보이는바와 같이 레이어를 추가해주면서 성능이 다소 상승한 모습을 볼 수 있다. 물론 문제 자체가 복잡하지 않아서 딥러닝으로 더 이상의 성능향상이 가능할지는 모르겠지만 간단한 예제로서는 손색이 없다고 본다. (참고로 여기서 Sonar데이터의 알고리즘별 성능을 볼 수 있으니 비교를 해보는것도 좋을 것이다.)

정리를 해보면 아래와 같다.

  1. R에서도 무리없이 tensorFlow를 사용할 수 있다. 100%
  2. DNN에서 레이어를 추가하면 예측성능이 좋이질 수 있다.

필자의 코드에서 보는것과 같이 caret,pROC 등등의 R 패키지들과 결합해서 쓰면 매우 편리하게 TensorFolw를 사용할 수 있는데, 이는 TensorFlow와 R간의 데이터 변환이 매우 원활하기 때문이라 생각한다. 필자의 경우 심지어 R의 animation 패키지로 모형이 학습되는 과정을 동영상으로 만들어 보기도 한다.

딥러닝은 “복잡한 문제 + 많은 양의 데이터"의 조건에 부합하는 영역이면 다른 어떠한 모형보다 성능이 잘 나올 수 있다고 생각한다. 하지만 그 궁극의 모형에 가기 위해서는 다소 많은 양의 시행착오가 필요하다. 개인적인 경험으로는 입력 포맷과 아키텍처를 잡는데 시간을 많이 쓰는 편이고 효과도 좋았다. 그 이외의 부분들은 도메인과 모델링 목적 그리고 학습 데이터의 차원 그리고 양에 따라 매우 다른 파라메터를 요구하는 편이다. 결국 속성을 자동으로 찾아주는 장점 대비 딥러닝 아키텍처를 시행착오를 통해 찾아야 되는 또 다른 부담이 생기는 것이다. 하지만 다른 어떠한 모형보다 잘 나올 수 있는 잠재력이 있는 방법론이기 때문에 이를 잘 다룰 수 있는 경험과 노력이 필요하다고 생각한다.

개인 분석으로는 윈도우 머신에서 docker 설정을 통해 tensorFlow + RStudio 기반으로 사용중인데, 현재 업데이트를 통해 도커 없이 사용할 수 있으며, 테스트 결과 Python3.5 + Rtools + RStudio 조합으로 가능했다. 회사에서는 GPU를 사용해 원활하게 사용중이다. Deep Learning 용도만이 아니라 수치 연산의 중요 플랫폼으로 tensorFlow가 큰 가지를 지니고 있음을 실무에서 사용해보고 연구해 보면서 느낄 수 있었으며, 중요한 분석 도구로 항상 옆에 둬야 겠다는 생각도 들었다.

2016년 결산

2016년은 연말 회식도 그다지 많지 않아 2015년만큼이나 정신없이 지내지 않은 것 같다. 아마도 최근 최순실 사태 및 여러 마무리 되지 않은 사회적 이슈와 더불어 개인적으로도 마무리해야 되는 것들에 대한 정리로 바쁘게 연말이 지난 것 같다. 그래도 한해 소회 정도는 블로그에 올리는게 연례 행사인지라 간단하게 정리하고자 한다.

 

가족

두 아이의 아버지로서 그리고 한 여자의 남편으로서 개인적으론 충실했다고 생각하고, 아이들도 아내도 크게 다르지 않게 생각하는 것 같다. 이제 어느정도 상대방을 이해하고 그에 맞춰주는 배려의 여유가 우리 가족 내에서도 생겨난게 아닐까 하는 생각을 해보고 2016년은 그 배려의 여유를 확인한 한해가 된 것 같다. 한해동안 건강하고 행복해줘서 고맙고, 무엇보다 아이들의 순수함에 대해서 아이를 키우면서 느끼고 지킬 수 있는 기회를 가진 것을 매우 감사하게 생각하는 한해였다.

 


비즈니스 관련 중요한 의사결정에 쓰이는 회사의 백본과 같은 예측모델링 업무를 수행할 기회가 년초에 주어져 12월까지 수행했고, 지금까지도 마무리 작업을 하고 있다. 이 모형에 대한 모델링/적용/운영에 거의 70%이상의 시간을 할애했다. 이 진행 과정을 통해 예전의 ‘데이터 분석의 70% 이상은 데이터 전처리에 소요되고 나머지는 모델링과 통계분석이다’라는 통념이 깨지게 되었다. 비즈니스 모델링 혹은 분석의 70%는 업을 이해하고 관계자들과의 커뮤니케이션을 통해 어떻게 모형을 절충 적용할 것인지 그 방법을 찾는 과정에 소요되었고, 데이터 전처리 및 모델링은 2월부터 12월까지 해온 일 중에서 단 3개월에 불과했다. 나머지는 적용에 대한 A/B테스트와 현업과의 조정 그리고 성과 창출에 대한 고민에 들어갔다. 성공적으로 적용 및 성과창출이 되었고, 이에 대한 인정도 받았으며, 개인적으로도 매우 규모있고 리스크 있는 모델링 프로젝트를 잘 수행해서 의미가 컸다. 매달 월말이 되면 이 모형의 스코어 도출 때문에 신경이 곤두서고 담당자로부터 스코어 설명에 대한 요청이 올때마다 뭔가 잘못된 것인지 마음이 조마조마 하지만 이 또한 의미있는 경험이라 생각한다.

년초부터 업무를 하면서 딥러닝을 내가 하고 있는 업무에 적용 가능할까?라는 고민을 계속 해왔다. 사실 2016년초만 하더라도 부정적이었다. 왜냐면 딥러닝이 성과를 발휘하는 영역의 대부분은 이미지 인식이나 자연어처리쪽에 가까웠기 때문이고 내 업무 영역은 이 도메인하고는 거리가 있었기 때문이었다. 다행히도 입력 속성을 딥러닝에 맞게 변환하는 방식으로 10월쯤 일반 분류문제에서도 기존 모형보다 훨씬 좋은 퍼포먼스를 보여줄 수 있다는 것을 발견했고, 이를 이용해 신규 스코어링 모형을 구축/적용했다. 이 경험은 내가 딥러닝을 본격적으로 공부하게 하는 중요한 계기가 되었고, 지금도 중요한 관심사로 자리매김 하고 있다. 역시나 머신이 찾아내는 하이퍼 파라메터가 존재한다는 것을 이 과정을 통해서 충분히 공감하게 되었다. 물론 학습 및 튜닝에 시간 소요가 많이 되지만 의미있는 과정이고 추후 미션 크리티컬한 영역에서는 매우 큰 역할을 발휘할 수 있다고 생각한다.

 

개인

올해는 논문작업과 업무를 병행하는게 매우 어려운 일이라는 것을 뼈저리게 느낀 한해였다. 논문에 대한 변명은 하고싶지 않다. 다만 내가 개인적인 시간 컨트롤을 못했고 이 부분을 잘 하지 못하면 쓰지 못한다는 것도 충분히 이해하게 되었다. 하지만 논문 실험과 아웃라인을 잡고 관련 연구에 대한 리서치를 수행하면서 논문 읽기에 대한 습관과 연구 영역을 좁힌건 올해 매우 큰 수확이었다.

10월 논문작업을 잠시중단하게 한 일은 KoNLP의 개선에 쓸 시간이 부족했기 때문이었다. 그 동안 3년 넘게 방치해둔 패키지 이슈들과 사용자들의 요청을 외면할 수 없었는데, 다행히 정보화진흥원 에서 좋은 기회를 제공해 줘 개인적으로 만족할 만한 수준까지의 패키지 성능 개선을 하게 되었다. KoNLP는 개인적으로 업무로서 거리가 생겨버린 텍스트 마이닝의 연결점이라는 의미가 있고, 사용자에게는 좋은 텍스트 기반 연구도구로서 잘 사용될 수 있도록 지속적인 관심과 연구와 업데이트를 해갈 예정이다. 120만 형태소 사전을 활용해 분석을 수행하게 만들면서 기존의 메모리 낭비 이슈라든지 퍼포먼스 이슈를 함께 해결해야 했으며 문장 분리기 및 자동 띄어쓰기 등의 플러그인을 개발해야 했다. 약 3개월동안 주말 및 일과 이외 시간을 KoNLP에 썼으며 지금 생각해보면 2016년에 가장 의미있게 수행한 개인 업무였다 생각한다.

 

2017년

2017년은 좀더 다른 경험을 하는 한해가 되었으면 한다. 이미 작년 초중반부터 내가 가지고 있는 기술이 이미 과거 기술이 되고 있는게 아닌가 하는 생각을 했었고, 2017년 초가 되면서 이 생각은 거의 확실화 되고 있다. 지금 가지고 있는 기술과 능력에 대해서 반복 사용하면서 지낼 것인가 아니면 지금의 경험을 기반으로 새로운 기술에 대해서 경험을 쌓을 수 있는 기회를 만들 것인가의 고민을 계속하고 있다. 다만 확실한 건 이미 이런 고민을 하고 있는 사이에 세상은 변하고 있다는 것이다. 따라서 나도 보폭을 맞춰야 되겠다는 생각을 해본다. 보폭을 맞출 수 있고, 새로운 경험을 할 수 있는 한해가 되길 기대해 본다.

 


 

페이스북 포스트 워드클라우로 돌아보는 2016년

이런 워드클라우드를 그려보는건 거의 4년만인거 같다. KoNLP 초기 버전을 개발하고 나서 가장 먼저 했던 일이 워드클라우드를 그려보는 일이었고, 최근엔 이 워드클라우드를 그리는게 R을 배울때 'hello world!'격의 예제가 되어 버렸다.

필자가 가끔씩 페이스북 API로 이런 저런 분석작업을 하는데, 연말이고 하니 1년간 페이스북에 올린 포스트를 기반으로 워드클라우드를 그리는 작업을 해봤다.

올해 wordcloud2 패키지까지 나와줘서 아주 예쁘게 워드클라우드가 그려진다.

library(Rfacebook)
library(KoNLP)
library(data.table)
library(wordcloud2)
#token을 얻는 방법은 "https://developers.facebook.com/tools/explorer"에서
fb_page <- getPage(page="me", token=token, n=2000, since='2016/01/01', until='2016/12/15')


commentslist <- list()
for(id in fb_page$id){
  post <- data.table(getPost(post=id, token=token, comments = F,likes=F))
  #print(id)
  commentslist[[id]] <- post
}

dtlist <- sapply(commentslist, function(x){x$V1})


comm <- rbindlist(dtlist)
#98만 형태소 사전...
useNIADic()

#문장에 NA가 포함된 경우 특정 환경에서 에러가 생길 수 있다. 
#NA를 직접 제거해 주던지, devtools::install_github('haven-jeon/KoNLP') 
#명령어로 보완된 패키지를 설치해 사용한다. 
nouns <- extractNoun(comm$message)

nouns_norm <- Map(function(x){if(!is.na(x) && is.ascii(x)) toupper(x) else x},unlist(nouns))

cnts <- table(unlist(nouns_norm))

cnts_ <- cnts[cnts > 2 & nchar(names(cnts)) > 1]


wordcloud2(data.frame(word=names(cnts_), freq=as.numeric(cnts_)),  color = "random-light", backgroundColor = "grey", shape="star")