# 2월 1일
요즘 AI판이 돌아가는걸 보면, 특히 그 새로운 제품이 나오고 반짝 관심 받고 사라지고 또 다음게 나오고 하는 패턴이 점점 빨라지는걸 보면, 무엇보다 이번주의 Crawbot, 아니 Moltbot, 아니 OpenCraw와 Moltbook을 보면 점점 크립토판처럼 되어 간다는 느낌을 많이 받는다.
그 어텐션의 duration과 새로운 것에 호응하는 interval까지 모든 것이 거의 instant화 되어 간다. 아무래도 서비스 개발이 전례없이 가벼워지고, 어떤 면에서는 무의해졌다고 할 정도로 딸깍화되고, 그만큼 서비스 제작자들이 갖던 헤게모니가 해체되면서 이제 그야말로 서비스 개발을 무겁해 해서는 점점 더 살아남을 수 없는 시대가 되가고 있다고 느낀다.
그것이 그리고 아주 빨리 전개될 것이다. 크립토판을 겪었던 내 느낌에는 이제 AI도 거의 모든게 인스턴트화 될 것 같다. Attention을 얻는게 기껏해야 6개월이면 긴거고 3개월, 한달, 2주 이렇게 점점 짧아질 것 같다. 천하의 OpenAI도 18개월 내 망하네 소리가 나오는걸 보면(물론 또 이 글을 쓸 때는 이런 이야기가 나왔는데 이 글을 올릴 때는 이미 OpenAI가 또 160조 가까이 펀딩 받았다). 모든 것이 변한다. 정말 꽉 잡아야 한다. 우리도 언제든지 망할 수 있다.
이제 서비스 개발을 할 때 너무 진지해져서는 안된다. 하나를 오래 붙잡고 있어서는 안된다. 이제 그 정신을 뼛속까지 심지 못한 제작자는 바로 도태될 것이다. 이제 ‘못 만드는 것’은 아무 것도 없기 때문에 온전히 아이디어의 시대고 서비스가 유튜브 쇼츠가 되는 시대다. 서비스를 한글만 쓸줄 알면(그리고 곧 한글을 쓸줄 모르는 사람은 그냥 말로도) 유치원생이든 노인정 어르신이든 정말 ‘누구나’ 그냥 자기한테 필요한걸 만들게 될 것이다.
요컨대 1인 미디어의 시대가 가고 1인 서비스의 시대가 온다. 1인 제작자는 말할 것도 없고, 1인 소비자의 시대가 온다. 딱 한 사람을 위한 서비스가 과거엔 ROI가 안나와 불가했지만, 이제 가능해진다. 완전히 새로운 형태와 목적의 서비스를 만들 수 있게 된다.
그런 관점에서 정말 훌륭한 사업 아이템이 많이 보인다.
# 2월 5일
오늘 글로벌 AI 모델 개발사 디렉터를 만나서 한시간 반 정도 대화를 나눌 기회가 있었는데 뭔가 차원이 다른 AI 세상을 경험한 것 같은 느낌이다. 한국에만 있으면 시야가 극도로 좁아지는데(누가 누가 경쟁사네 비슷한 제품을 냈네 어쩌고 저쩌고) 약간 소꿉장난 하고 있는 수준이라는 생각이 들었다.
그들이 만나는 사람들과 나누는 대화는 어느 수준일까? 물론 요즘은 유튜브와 AI의 영향으로 미국/중국에서 나온걸 이제 우리가 바로 알게 되어서 정보 비대칭은 많이 줄어든 시대이지만 그래도 여전히 크립토 판에서 겪었던, 어떻게 해서든 글로벌 커뮤니티에 끼지 못하면 유의미한 일을 할 수 없다는 그런 느낌이 AI에서도 강하게 든다.
아는 것과 되는 것은 천지차이인데, 아는 것이야 공부로 커버가 되지만 되는 것의 대부분은 누구를 아느냐가 만든다.
# 2월 8일
2년만 지나도 또 다르게 우리가 AI를 쓰고 있을지 모르지만, 어쨌든 오늘은 .md로 AI의 모든 성격과 스킬, 기억, 해야하는 업무를 제어한다. LLM의 context window는 평균적으로 커지고 있고, 경쟁사가 그리하면 내가 안할 수는 없으니 아마 점차 context window는 커지고 싸질 것이다. (캐싱 등의 영향으로)
유저는 고작 .md에 적힌 몇자 텍스트를 베이스로 생성하는 글을 에이전트의 ‘성격’으로 이해하고 감정 이입을 할 것이다. 이 .md는 또한 너무나 쉽게 대체 가능하고, 다른 에이전트로 이식 가능하다. 그런 점에서 사람을 감정적으로 이입시키는 일은 이토록 쉬운가 하는 현타가 온다.
우리가 높은 지능이나 지성인줄 알았던 무언가는 단지 사람 말을 따라하는 Pre-trained LLM + .md 파일 몇개로 깜빡 동화돼 친구나 동료쯤 되는 무언가로 인식할 수 있는 것인가 하는 것이다.
물론 현실 세계의 인간 관계 영역은 아직 인간 지성과 성격을 규정하는 남은 큰 축 중 하나이지만 적어도 컴퓨터와 모바일 기기를 들고 인터넷 상에서 활동하는 인간은 생각보다 간단하고 취약하다.
그런데 이게 물리적 실체만 없다 뿐이지 현실 세계의 인터랙션도 얼마든지 해킹 가능하다 생각한다. 단지 인간 말을 흉내내는 장치와 일부 개인화된 .md 파일(과 메모리 파일) + 너무 이질적이지 않은, 대화와 스킨십으로 상호작용 가능한 물리적 실체 정도만 있으면 충분하지 않나 싶다.
# 2월 16일
주말 내내 클로드 코드와 씨름했는데 정말 거의 중학교 때 밤새워 웹사이트 만들고 도메인 연결할 때 수준의 재미를 오랜만에 느낀다. 그런데 동시에 얘가 아직은 (불과 6개월 전에 바이브 코딩 할 때보다는 훨씬 좋아졌지만) 여전히 구구절절히 무언가를 요청해야 함에 약간 현타를 느낀다.
어차피 한 2년 뒤, 아니 불과 6개월만 지나도 이렇게 구구절절히 요청하지 않아도 눈부시게 발전할게 뻔하다보니 지금의 이런 ‘최첨단’ 상태가 오히려 약간 시간이 지나서 보면 몹시 답답했던 한 순간이 될거라 생각하면 그냥 지금 이렇게 AI랑 하루종일 대화하고 있는 미련한 짓을 안하고 그냥 기다리며 노는게 더 나을까? 하는 생각마저도 든다.
마치 한 1년 반 전쯤에 프롬프트 엔지니어링을 열심히 배웠던 사람들이 지금 약간 현타를 느끼는 것과 비슷한 맥락이다. 어차피 그런건 AI가 다 해준다. 그냥 시간 문제다. 지금 우리가 여러 CLI와 씨름하고 있는 것 또한 과도기일 뿐이다. AI 개발사들은 이 모든 사람-AI 인터랙션을 학습하여 사람이 어떤 제품을 만들어 갈 때 가장 궁금해하고 신경쓰는 부분들을 이해해 모델 개선에 쓸 것이다. 그러다보면 지금 티키타카는 그냥 AI를 위한 데이터 모으기에 지나지 않는다.
결국 모든 것은 금방 자동화되고 그냥 진짜 말 한마디면 기능부터 보안, 비용 모든 면에서 만들고자 한 사람보다 더 훌륭한 제품이 바로 튀어나오게 될 것이다. 그러면 거기에는 어떠한 변별력도 없어질 것이다. 프롬프트를 우리 같이 제품 만드는 사람 극히 일부 빼고는 이제 유저 누가 신경이나 쓰나? 한마디면 AI가 알아서 이해하고 풍성하게 해서 스스로 나은 답을 가져온다.
제품 개발도 똑같이 될 것이다. 코딩부터 기획, 디자인, PPT 제작, 엑셀 편집까지 AI가 하는 모든 일이 다 그렇게 될 것이다. 결국 그냥 말 한마디, 클릭 한 번이면 모든 것이 다 최고로 상향평준화된 결과물이 튀어나온다. 더 이상 어떠한 노하우도 배움도, 경험도 경력도, 지역성도 언어 장벽도 차별성이나 변별력이 없다.
사람의 ‘전문성’이랄게 사람마다 이제 거의 차이가 없어진다. 아주 완전히 없어지진 않겠지만 과도기일 때나 차이가 있을 것이다 앞으로 5년 내 확실히 모든 전문성의 장벽이 사라진다. 스무살 대학교 1학년이 혼자서 아주 대단한 제품을 풀스택으로 기획-디자인-개발-출시-마케팅-결제/정산 모든걸 다할 수 있게 된다. 그것도 그 어떤 곳도 특별히 빠지는 구멍이 없이.
글로벌을 타겟으로 하는 서비스를 하나 만들고 있는데 이제는 정말 모든 것이 API화 되어 있음에 감탄하고 있다. 2010년대 들어 클라우드가 처음 나온 이래 지금은 이제 그거 세팅도 귀찮으니 그냥 모든 PaaS가 준비되어 있어서 SaaS 만들 때 그냥 필요한 컴포넌트만 API로 조립하면 뚝딱 뚝딱 말도 안되게 빠른 속도로 원하는 서비스가 만들어진다.
말그대로 ‘서비스 레고’ 시대라 해도 과언이 아니다. AI가 오죽 잘하겠나? 그냥 앞으로는 ‘내가 이런거 만들고 싶어’ 한다미만 하면 이 사람도 모르는 부분 휴먼인더루프 몇번 해서 명세 뽑고 알아서 그냥 조립할 컴포넌트들 API 키만 달라고 해서 뚝딱뚝딱 만들어 짜잔 도메인 연결하고 출시하게 될 것이다.
그게 무슨 언어로 되어 있든, 어떻게 만들었든 사람은 더 이상 알 바가 아니다. 초기엔 문제가 많겠지만 다 시간 문제다. AI가 알아서 보안 취약점도 스스로 발견하고 패치하고, 비용 효율성도 알아서 계산해서 최적화할 것이다. 그냥 진짜 한 1-2천불 태울 생각만 하고 한 2-3일만 주면 SaaS 하나쯤은 금방 만들어 낼 것이다. 데이터 이전이 어려운 제품이나 양측 시장 제품만 그나마 네트워크 이펙트 덕에 살아남을 것이다. 나머지 네트워크 이펙트가 없는 툴들은 정말 위험하다. 우리를 포함해서.
지금 AI 시대의 유일한 정답은 계속 새로운 시도를 하는 것 외에는 정말 없다. AI 회사를 포함해서 어느 누구도 지금 Comfort zone에 머무를 수 있는 회사는 없다. 지금 잘되는 BM도 과감히 버릴 수 있어야 살아남을 수 있을 것이다. 장담컨대 2년 내 모든 것이 바뀐다. AI가 다소 멍청한 지금이 마지막 기회다.
# 3월 8일
주말에 일하다 중요한 변화를 느꼈다. 이제 Claude나 Gemini 점유율이 올라감에 따라 후발 모델 개발사들이 Anthropic Compatible API를 지원한다는 점이다. 그 덕에 우리도 Claude 모델 기반으로 만든 신제품에서 Anthropic Compatible API를 지원하는 대안 모델들을 고려하기 시작했다. 이 Endpoint를 제공하는 최근 출시된 중국 모델이 전세계로부터 막대한 트래픽을 받고 있다고 하는데 아마도 그런 이유가 있을듯 하다.
뭐랄까, Claude를 증류해 만든 짝퉁인데 Claude와 모든 기능이 얼추 하위 호환된다. 공기청정기 정품 필터 말고 호환 필터 정도로 생각할 수 있을거 같다. 적당히 만족스러운 대답이 나오는데 가격은 1/5, 1/10 이런식으로. 나름 후발 모델 개발사들에게는 틈새 전략이 될 수 있을거 같다.
# 3월 10일
요새 B2C AI 서비스를 만들다보니 B2B랑은 또 완전 딴판이라는 생각을 한다. 특히 우리 웍스AI는 종량제 서비스이다보니 Eval을 할 필요가 없다. 모델의 효율 같은걸 특별히 따질 경제적 동인이 없기 때문이다. 그런데 B2C는 유저가 적절한 목적을 달성할 수 있도록 하기 위해 가장 좋은 모델이 무엇인가, 가장 가성비 좋은 모델이 무엇인가, 어떻게 유저가 ‘안녕?, 하이’ 이 정도를 입력했는데 플래그십 모델이 돌지 않도록 할 것인가, 이런 것들이 매우 중요한 문제다. 그런게 다 우리의 돈이요, 고객의 돈이요, 서비스의 성패를 좌우하기 때문이다.
가성비가 B2C에서는 매우 중요하다는걸 느낀다. 그래서 B2B보다 생각할 점이 많다. B2B는 보안이나 내부 통제, 조직에서의 사용 이런걸 중점적으로 생각하면 되지만 B2C는 그보다는 어떤 기능에 유저가 Wow 하는가, 그 Wow moment을 유지하면서 얼마나 가성비 있게 서빙하는가, 앞으로 계속 새 모델이 나오는데 그 Wow setting을 그대로 유지 또는 향상시킬 수 있는가 이런 것들이 매우 어려운 것 같다.
그래서 지금 생전 안해본 Model Eval만을 위한 light client를 만들고 있다. 얘는 이제 계속 그냥 여러 언어로 가상의 tool calling을 계속 하고, 다양한 섹터별 test case를 만들어서 새로 나온 모델들을 계속 넣어보고 가성비와 유저들의 가심비를 따져보게 될 것이다. Eval as a Service가 앞으로 꼭 필요한데 문제는 이걸 제품화하는게 별로 의미가 없다는 점이다. 이제 코딩 에이전트 덕분에 Eval도 그냥 누구나 자기 제품의 필요에 따라 완전 커스텀으로 정교하게 짤 수 있기 때문이다.
그럼 도대체 이제 세상에 뭔가 제품화해서 의미가 있는게 무엇일까? 그런 면에서 아무리 OpenAI가 밀린다, 힘들다 해도 ChatGPT가 선점한 유저 베이스가 그냥 전부가 아닌가 싶다. 개발자들이야 뭐 조금만 새로운게 나와도 맨날 옮겨 다니지만 사실 세상의 대부분은 그냥 ChatGPT가 짱이다. 아무리 Claude 앱이 1위한다고 해도 ChatGPT의 6억~8억 MAU는 그냥 넘사다.
그리고 OpenAI가 어차피 계속 엎치락 뒤치락하면서 새 모델을 내며 따라가고 있기 때문에 사람들은 OpenAI가 완전 개똥볼을 차기 전에는 쓰던걸 쉽게 바꾸지 않을 것이다. 그러니 밀리네 망하네 해도 OpenAI가 또 왕창 투자를 받는 것일게다. 개발은 클로드 코드, 일반 대화는 ChatGPT 뭐 이런식으로 거의 선점을 했기 때문이다.
그런 면에서는 AI에서는 선점이 매우 중요한 것으로 보인다. 어떤 영역이 새로 발견되었는데 내가 처음 한거면 후발주자들이 비슷하게 만드는거야 너무 쉬워도 사람들은 먼저 한 1등 것을 쉽사리 내려 놓지 못하는듯 하다. 여기서는 그러니까 빨리 조금이라도 새로운거 내놓고 PMF 찾으면 그냥 집중해서 계속 R&D 때려서 카테고리 킬러가 되는 수 밖에 다른 수가 없는거 같다.
우리도 조금이라도 다른 무언가의 최초가 되어야 한다.
#
얼마전에 해외에서 온 핵심 AI 모델 개발사 시니어 디렉터들과 저녁을 먹은 적이 있는데 그런 이야기를 하더라. 이제는 Model itself -> Model as a Service를 넘어 Model as a Product이 되고 있다고. 무슨 이야기인고 하면 Model이 과거에는 그냥 그 자체여서 앞 뒤로 문서 전처리, 후처리, Tool call 온갖 기능을 붙여야 했는데 이제는 그런 부분들이 상당히 내재화 되었고(Model as a Service 단계) 앞으로는 아예 모델이 혼자 북치고 장구 치고 원맨쇼로 모든걸 할 수 있는 Model 그 자체가 곧 완제품이 되는 시대가 아주 금방 온다는 이야기였다. 이미 자기네들은 그런 모델을 개발하고 있다고.
즉, 모델이 혼자서 그냥 알아서 OCR도 하고 문서 전처리 기능도 내장 툴로 가지고 있고 PPTX/XLSX/DOCX/PDF 제작 기능 내장, 코딩 기능 내장, 프롬프트 알아서 고도화 기능 내장, 멀티모달 인식 및 생성 내장, 그냥 유저가 아무말 대잔치 해도 알잘딱깔센으로 모든걸 알아서 해내는 그런 수준의 모델 그 자체가 곧 모든 완제품이 되는 그런 모델을 만들고 있다 이 말이다.
그러니 모델을 가져다가 굳이 에이전트 루프를 짜고 툴을 잔뜩 만들어 붙이고 이런 것들이 다 금방 무의미해질 수 있는 것이다. 요컨대 지금 소위 ‘에이전트’를 만들고 있는 많은 집들은 한 2년 전쯤 소위 ‘프롬프트 엔지니어링’을 잘한다거나 소위 ‘RAG 좀 한다’거나 하는 집들이 지금 그 의미가 퇴색된 것처럼 그 운명을 그대로 물려 받게 될거라는 소리다.
너무 뼈를 때려서 나는 공감하지 않을 수 없었다. 이미 그리고 그들이 다 우리가 아는 초 빅테크들에서 모델 개발을 하고 있는 사람들이다보니 그것은 금세 올 자명한 미래인 것이고. (2년도 아닌 6개월, 1년 내로)
그러면 또 우리는 무엇을 해야하는가? 나는 또 집에 오는 길에 멘붕이 오지 않을 수 없었다. 그래도 AI가 세상을 먹을걸 뻔히 알면서도 계속 일을 안하고 출근 안할 수 없는 우리 인간들은 계속 그날까지 일을 열심히 해야하는 시지푸스처럼 계속 AI 학습의 먹이가 되기 위해 에이전트를 만들고, PMF를 찾으며 AI에게 또 먹히고, 계속 그런 개밥 만들고 스스로 먹고 또 AI에게 먹히기를 앞으로 한 5년간 끊임없이 반복 실행하는 수 밖에 없는 운명을 가지고 있어 보인다. 특히 IT인은, AI로 밥 벌어 먹고 살고 있는 사람들은.
음 일단 일주일 정도 생각하고 내가 이 글을 쓰면서 드는 그나마 나만의 해법은 일단 AI한테 모든게 먹힐거기 때문에 어떤 기능적인, 기술적인 해자는 그냥 제로인 것이 상수라고 보는 편이 맞다는 것이다. 대신 우리가 고객을 모아 놓으면 그것은 어느 정도는 해자로 기능할 수 있다고 생각한다.
왜냐면 앞으로 그 ‘제품 그 자체가 된 모델들’도 누구나 Accessible 할거기 때문에 그냥 우리가 가져다 쓰면 되는 것이다. 서로들 끊임없이 경쟁해서 점점 Fat protocol들이 될거고, 성능은 서로 베끼고 계속 Distill 해서 대동소이 해질거고, 그러면 그냥 결국 누가 그 모델을 써줄거냐만 남는다. 그러면 결국 먼저 고객을 모아 놓은 사람이 유리해지는 게임이 된다.
그러니 지금은 할 수 있는 한 최대한 빠른 속도로 사용자를 모으고 그들이 사용하는 고객 접점이 우리 제품이 되면 된다. 그러면 나중에 AI가 아무리 발전하고 Model as a Product 시대가 와도 우리는 점점 더 과거엔 불가능하던 편의를 고객에게 제공할 수 있어서 살아남을 수 있다.
근데 다시 한번 느끼지만 그냥 글로벌 플레이어들과 만나면 그냥 한국에서 만나고 논의하던 주제와 깊이와는 아예 차원이 다른 배움이 있다. 딱 세시간 밥을 먹어도 한 6개월보다 더 많은 배움을 얻곤 한다. 그날 저녁을 먹으며 정말 많은 유익한 인사이트를 얻었는데 그런 것들도 결국 우리가 고객이 있기 때문에 얻는 기회인 것이다. 그러니 무조건 AI는 유저를 모으면 이긴다. 유저를 모을 방법만 고민하면 된다.
어찌보면 참 심플한 게임일 수도 있다.
#
클로드 코드를 쓰다보면 가끔 모델 개발사가 API 문서를 클로드가 읽는걸 막아둔 경우가 있어 당황할 때가 있다. 근데 이제는 이런 에이전트가 사람보다 문서를 많이 읽을텐데 그걸 막아두면 자기 기술 확산을 막는 쇄국 행위나 다름 없어 보인다. 이제 자기 기술 확산을 위해서는 특히 B2B 제품은 완전 AI 친화적으로 모든 철학을 개편해야 한다.
앞으로는 사실 UI도 필요 없고 B2B 제품은 그냥 에이전트를 위한 CLI만 있어도 충분하겠다 생각한다. 1) 이게 뭐하는 제품이다는 간단한 설명과(물론 그게 메리트 있어야 하고), 2) 에이전트가 너무 쉽게 end-to-end로 사용 가능한 CLI(그게 제품 전체), 3) 실제 제품이 잘 돌아간다. 딱 이 세가지만 있으면 끝인거 같다.
#
AI 군단에게 하루 종일 명령을 내리다보면 무엇보다 국어를 잘해야 한다는 생각을 한다. 국어가 곧 AI 활용 능력이다. 그렇다고 요즘 아이들에게 국어 교육을 열심히 해야하느냐? 또 그건 애매하다. 어차피 1-2년만 지나면 대충 쳐도 알아서 의도 파악해서 결과는 다 상향평준화 될거다. ‘AI를 잘 다룬다’는 것은 매우 형이상학적인, 아무 의미 없는 말이 될 것이다. 한 상위 5%의 룸이야 언제나 있겠지만 그래도 95%는 누구나 국어를 못해도 대충 좋은 AI의 효용을 누리며 편해질 것이다.
어쨌든 국어를 잘해야 하는 시간은 앞으로 좀 남아있다. 한 2-3년은 그래도 국어가 중요하다. 영어는 못해도 국어는 잘하고 제품 출시 전반의 과정을 잘 아는 나같은 사람에게는 아주 유리한 시간이 앞으로 2-3년간 잠깐 온다. 그리고 그마저도 Fat AI model에 의해 무의미해진다.
#
이 거대한 흐름을 보자. 소름이 돋는다. 오픈클로에서 가장 인기있는 앱들은 다 CLI다. 이제 유저를 상대하는 프론트는 그냥 에이전트 하나만 남고, 나머지 모든 서비스는 에이전트가 사용할 수 있는 CLI만 남는다고 상상해도 될 것 같다. UI는 사람이 인터넷을 직접 다뤄야 했던 과거 20년의 산물이 될 것이다.
연결과 검색을 왜 사람이 해야하나 이런 근본적인 질문의 시대가 도래하고 있는 것이다. 앞으로는 그게 쇼핑으로, 노동으로, 정치로 모든 곳으로 확산되어 사람이 개입하는게 굉장히 비효율적이고, 오히려 약간 취미처럼 딱 그 이상/이하 아무 의미가 없는 형태가 될 것이다.
Charles Pyo 