요즘 당근 AI
[books
LLM
]

당근마켓 개발팀에서 작년에 출간한 책인데 이제야 보게 되었다.
일단 나는 당근마켓 같은 기업에서 LLM을 대놓고 이렇게 많이 쓰는 줄 몰랐다. 대기업이라면 LLM에 정보를 전달하는 것을 상당히 꺼리지만, 여기는 다양한 LLM들을 마음껏(?) 사용하고 있었다. 어쩌면 스타트업으로 시작한 회사라 가능했을지 모르겠다.
다음으로 느낀 것은 UX의 방향이 상당히 바뀌었다는 점이다. UX의 기본은 ‘사용자가 편리하게’였지만 여러가지 기술적 장벽으로 인해 도전을 하지 못했던 부분들이 많았다. 하지만 AI기술이 도입됨에 따라 이런 장벽들이 하나둘 씩 무너지기 시작함을 이 책에서 보았다. 예를 들어 중고 거래 게시 화면에서 AI가 자동으로 게시글 초안을 써 주는 것이나 판매된 물품이 나에게 편지를 써 주는 기능들은 사용자의 고민을 덜 하게 하거나 호기심 및 거래 후기 유도를 해 주는 글들이다. 굳이 화면 플로우를 고민하지 않아도 사용자를 충분히 편리하게 느끼게 한다. (물론 AI를 도입하는 과정에서도 멤버들은 많은 실험과 시행착오를 겪는다)
그리고 AI 에이전트는 이제 필수라는 느낌이 들었다. 앞 부분은 주로 비개발자들의 AI활용을 다뤘고, 다음은 운영팀, 후반부는 개발팀의 이야기를 다뤘는데, 운영, 개발팀의 대부분은 n8n이나 자체 제작한 AI에이전트를 사용하고 있었다. 하나의 LLM 보다는 다양한 데이터 소스로부터 이를 다양한 방법으로 가공하는 것이다.
마지막으로 LLM의 활용의 품질은 결국 ‘프롬프트’ 이고 이의 정제에 많은 시간을 들여야 한다는 것이다. 거꾸로 말하면 결과가 우리가 예상치 못하게 나올 경우가 있고 당근마켓 내에서도 잘못된 결과가 가져올 위험성이 높은 고객 접점 보다는 내부 운영 데이터 정리, VOC데이터 정리 등에 활용하고 있었다.
정부 기관의 리포트를 보면 이제 AI를 만드는 인력 보다 AI를 실무에 응용하는 인력이 더 많이 필요하다는 이야기를 한다. 이 책은 실무에 어떻게 AI가 사용되고 있는지 잘 보여주고 있다. 다시 말하면 이 책처럼 활용을 해야 잘팔리는 인력이 될 거라는 생각이 든다.