당신의 나의 뜨거운 감자!
최근 METR에서 발표한 “Measuring AI Ability to Complete Long Tasks” 보고서는 AI 발전 추세에 대한 흥미로운 관점을 제시했습니다. 이 분석은 AI 기술을 활용하는 우리 모두에게 중요한 시사점을 던져주고 있어 오늘은 이 보고서의 핵심 내용과 제 생각을 공유하고자 합니다. METR 보고서의 핵심: 작업 길이를 통한 AI 능력 예측 METR 연구진은 AI 성능을 측정하는 새로운 접근법을 제시했습니다. […]
계속 읽기
“형님 태백 눈 엄청 왔데요” 라는 후배의 말을 미끼로 덥썩 물어 버리는데는 그리 오랜 시간이 걸리지 않았다. 무엇보다 겨울의 끝자락을 붙잡고 싶었다. 그래서 주말을 맞이하여 다시 길을 나섰다. 강원도로 향하는 길, 그것은 마치 사라져가는 계절을 마지막으로 어루만지는 행위처럼 느껴졌다. 나에게 있어 백패킹 계획이란 본래 먼 훗날의 일이 아니라, 수요일이나 목요일쯤 불현듯 결심을 하게 하는 그런 […]
계속 읽기AI 엔지니어 쪽에서 최근 몇 달간 타임라인을 가득 채우는 MCP(Model Context Protocol) 이야기에 주목하게 됩니다. 2024년 말에 시작된 이 프로토콜이 왜 이렇게 빠르게 AI 개발 생태계의 표준으로 자리잡았는지, 그리고 이것이 우리 AI 개발 방식에 어떤 변화를 가져올지 살펴보겠습니다. MCP의 성공 요인: 컨텍스트의 핵심 가치를 이해하다 Anthropic이 MCP를 개발할 때 가장 중요시한 철학은 “모델은 제공되는 컨텍스트만큼만 […]
계속 읽기
LLM 에이전트와 기술의 현재 위치 최근 들어 LLM(대규모 언어 모델) 기반 에이전트들의 성능과 가능성에 대한 논의가 활발히 이루어지고 있습니다. 이들은 웹 검색, 코드 작성, 프로그램 실행, 동료와의 소통 등 디지털 작업자와 유사한 방식으로 실제 업무를 수행할 수 있는 잠재력을 가진 도구로 주목받고 있습니다. 하지만 현재의 성과를 보면, 인간의 생산성을 완벽히 대체하기에는 아직 갈 길이 멀어 […]
계속 읽기들어가며 소프트웨어 개발은 오랫동안 인간의 창의성과 기술적 역량이 요구되는 고도화된 영역으로 여겨져 왔습니다. 하지만 최근 몇 년간 AI의 발전은 단순한 코드 생성부터 복잡한 문제 해결까지 점차 그 역할을 넓혀가고 있습니다. 그렇다면 개발 조직의 중심인 소프트웨어 엔지니어링 매니저(팀장)의 역할 역시 AI로 대체될 수 있을까요? 이번 글에서는 AI가 개발 업무에서 얼마나 실제적인 성과를 낼 수 있는지, 그리고 […]
계속 읽기
오늘 인간 추론의 정의와 GenAI의 능력에 관련된 논문을 보면서 앞으로 중요하게 쓰일 인간만의 능력은 뭐가 될까 몇가지 정리해봅니다. GenAI가 잘 하는 논리적이 추론 작업은 GenAI에게 충분히 맡기고 이외의 인간 능력으로 생산성을 높이는 전략은 누구나 예상할 만한 가까운 미래의 업무 진행 방식이 될거라 의심치 않고 이런 인간이 좀더 능력자로 인정될 수 있을 거니까요. 공상과학 영화에서는 종종 […]
계속 읽기
어제 Carnegie Mellon의 AI 사용에 대한 비판적 사고 연구 논문을 읽으며, 작년 말 GenAI 기반 서비스의 UX 프로토타입을 만들었던 경험이 떠올랐습니다. 당시 고민했던 많은 부분들이 이 연구에서 실증적으로 확인되었고, 이를 기존에 봤던 GhostWriter 연구, Cursor vs Copilot 개인적 사용 사례, 그리고 Science Advances의 AI 기반 글쓰기 생산성 연구와 함께 종합해보니 뭔가 통합된 통찰을 얻을 수 […]
계속 읽기OpenAI가 오늘 AI 안전성 확보를 위한 새로운 접근 방식인 Deliberative Alignment(DA)를 공개했습니다. 이는 AI 모델의 윤리적 판단과 안전성 확보에 있어 의미있는 진전을 보여주는 발표이고 리즈닝으로 성능을 극대화 하는 최근 추세와도 딱 맞는 접근 방법이라 생각합니다. 또한 DA는 안전성, 견고성, 일반화 능력 등 대부분의 중요 지표에서 기존 방식들을 크게 개선했으며, 특히 Jailbreak 방어를 위해 과도하게 응답을 […]
계속 읽기
아래 내용은 작년 모 해외 초청의 공식 스케줄 직전 레드락 캐년을 자전거로 라이딩 하고 캠핑을 했던 경험과 소회를 정리한 글입니다. 해외 캠핑과 자전거 라이딩을 한번에 호기롭게 했던 개인적으로 의미있었던 엑티비티 중 하나였습니다. 출발 “형님은 정말 뭐에든 진심이시네요?” 지난 연말 모임 도중 이런 이야기를 하는 전 직장 후배의 말을 들으면서 이번 여행에 대해서 설명을 이어갔다. 하긴 […]
계속 읽기