GenAI 시대의 UX 설계: 피드백 루프 설계와 이를 위한 인간의 비판적 사고의 중요성

어제 Carnegie Mellon의 AI 사용에 대한 비판적 사고 연구 논문을 읽으며, 작년 말 GenAI 기반 서비스의 UX 프로토타입을 만들었던 경험이 떠올랐습니다. 당시 고민했던 많은 부분들이 이 연구에서 실증적으로 확인되었고, 이를 기존에 봤던 GhostWriter 연구, Cursor vs Copilot 개인적 사용 사례, 그리고 Science Advances의 AI 기반 글쓰기 생산성 연구와 함께 종합해보니 뭔가 통합된 통찰을 얻을 수 […]

계속 읽기

OpenAI의 Deliberative Alignment

OpenAI가 오늘 AI 안전성 확보를 위한 새로운 접근 방식인 Deliberative Alignment(DA)를 공개했습니다. 이는 AI 모델의 윤리적 판단과 안전성 확보에 있어 의미있는 진전을 보여주는 발표이고 리즈닝으로 성능을 극대화 하는 최근 추세와도 딱 맞는 접근 방법이라 생각합니다. 또한 DA는 안전성, 견고성, 일반화 능력 등 대부분의 중요 지표에서 기존 방식들을 크게 개선했으며, 특히 Jailbreak 방어를 위해 과도하게 응답을 […]

계속 읽기

레드락 캐년 캠핑 그리고 자전거 라이딩

아래 내용은 작년 모 해외 초청의 공식 스케줄 직전 레드락 캐년을 자전거로 라이딩 하고 캠핑을 했던 경험과 소회를 정리한 글입니다. 해외 캠핑과 자전거 라이딩을 한번에 호기롭게 했던 개인적으로 의미있었던 엑티비티 중 하나였습니다. 출발 “형님은 정말 뭐에든 진심이시네요?” 지난 연말 모임 도중 이런 이야기를 하는 전 직장 후배의 말을 들으면서 이번 여행에 대해서 설명을 이어갔다. 하긴 […]

계속 읽기

AI 시대를 준비하는 젊은 세대를 위한 Nate Silver의 5가지 조언

급변하는 시대의 불확실성과 불안감 속에서, 이러한 변함없는 여러 원칙들을 재확인하는 것은 우리 모두에게 큰 위안이 되는 것 같습니다. https://www.natesilver.net/p/sbsq-17-how-should-you-prepare-for 이 글은 제가 블로그를 다시 쓰기 시작하는데 영향을 준 글로 저와 같은 어느정도 경력의 황혼기를 맞는 사람보다는 초반 경력을 준비하는 분들에게 좀더 큰 의미가 있다고 생각합니다. Nate Silver는 데이터 분석과 예측 모델링 분야의 선구자적 인물이죠. 야구 […]

계속 읽기

2024년 2월 주간 AI 기술 동향: AI 인프라 투자 경쟁과 모델 혁신

앞으로 주 1회 정도 AI 시장 뉴스를 정리하고 나름대로 시장을 예측하는 용도로 사용해 보려고 합니다.  물론 작금의 상황이 예측 보다는 빠른 대응을 요구하는 시장 상황이 맞습니다. 아마도 이런 자료가 모이면 짧은 예측도 가능하지 않을까 하는 생각을 해봅니다. 현재 소프트웨어 업계는 흥미로운 변곡점에 있습니다. 자동차와 휘발유처럼, AI 개발 도구와 PM의 역할은 좀더 높은 상호보완적 관계로 발전이 […]

계속 읽기

21년 2월 2주

안녕하세요. 고감자 입니다. 블로그에서는 오랜만이네요. 한창 블로그를 많이 쓰던 때에 비교하면 거의 블로그는 방치 상태였는데, 그럼에도 불구하고 글쓰기의 묘미는 여전히 있다고 생각합니다. 그리고 공개되는 글이 없는 반면에 제가 개인적으로 정리하고 메모하는 글을 상당합니다. 그런데, 그러한 글들은 거의 공유되지 못하고 죽어버린 정보가 되는 경우가 많다는 생각이 들었습니다. 따라서 올해부터는 개인적으로 정리하고 소화하는 정보를 블로그에 정리해보고자 합니다. […]

계속 읽기

AI 연구/개발자로서 1년을 보내며

AI 연구/개발자로서 첫 1년.. 결과적으로 매우 의미있었습니다. DT조직에서 AI 조직으로 옮긴지 1년이 넘었다. 왜 옮겼는지 궁금한 분들은 이전 블로그 글에서 확인할 수 있다. 올해는 서비스 적용 가능한 대화 엔진을 만드는데 집중했는데, 생각지도 못하게 서비스에 적용하는 경험도 했으며,엔진의 컴포넌트를 평가하기 위해 참석한 국제 대회에서도 첫 참가에 2등의 성적으로 입상했다. Data Scientist로 오랫동안 일하고 고작 1년만에 이런 […]

계속 읽기

버트(BERT) 파인튜닝 간단하게 해보자.

작년 말에 GluonNLP 0.6버전 개발에 활발하게 참여하였는데, 그중에서 사용자들이 편리하게 사용할만한 부분에 대해 소개하기 위해 글을 써봤다. 다들 버트, 버트 하는데, 어떻게 사용할지 모를 분들에게 도움이 될 것이라 예상해 본다. 이 글은 MXNet-Gluon 기반으로 설명이 된다. 최근 훌륭한 한글 자료가 인터넷에 나왔으니 관심 있으신 분들은 먼저 참고하시길 바란다. 버트(BERT) 인간은 직접 혹은 간접 경험을 통해 […]

계속 읽기

DMLC 맴버로 초청받다.

지난 2월 온전히 1개월을 모두 뉴질랜드 가족여행에 쏱아 붓고 있던 중 뉴질랜드 푸카키 호수 마운트 쿡 빙하 아래 있던 (전화도 잘 터지지 않던)오지 캠핑장에서 작은 메일을 받았다. DMLC에 초대를 하고 싶다는 메일이었다. DMLC(Distributed (Deep) Machine Learning Community ) DMLC는 대표적으로 데이터 사이언스를 한다면 알고 있을 xgboost를 만든 개발자 집단이라 보면 된다. xgboost는 지금도 그렇지만 케글과 […]

계속 읽기

데이터 과학자에서 AI 연구자로 들어서며…

2018년 9월에 5년 넘게 몸담았던 DT조직에서 AI 조직으로 옮기면서 AI 연구자로 새로운 직무를 시작했다. 그동안 이러한 소식을 블로그에 올리지 못한것은 이 발걸음에 불확실함과 기대, 불안이 공존해 있었기 때문이었다. 4개월이 지나고 어느정도 바쁜 적응의 시간을 보내고 펜을 들어 그 소회를 고백해 보고자 한다. 데이터 분석, 기술, 문화 AI 연구자가 되기 전에 6년 넘게 데이터 분석 업무를 […]

계속 읽기