#
한글 Fine-tuning을 좀 해볼까 하고 봤는데 이미 많이들 시도하고 있어서 한글도 머잖아 하이퍼클로바만큼이나 잘하는 오픈소스 모델이 나올거 같다. AI 상장사를 중심으로 한글 Foundation Model을 100여개사가 공동 개발해 함께 사용하자는 오픈소스 무브먼트도 나오고 있다고 하고, Llama-2-70b를 한글로 Fine-tuning해 높은 성과를 내는 모델이 곧 나올 것 같다. 심지어 좀 보니까 아주 잘 정제된 영문 데이터셋을 DeepL로 한글 번역해 학습시키는 시도도 있는 모양이다. 그게 물론 국내 포털들이 가진 데이터보다는 못할지 모르겠으나 OpenAI의 독점력을 오픈소스 진형이 빠르게 해체하고 있는걸 볼 때 국내에서도 시간 문제라 본다.
#
GPU가 정말 모자라는 모양이다. GPU를 국내에서 가장 많이 가진 회사에서 연구중인 모델을 사전 제공하기로 했었는데, GPU 부족으로 원래 주기로 했던 초기 파트너들에게 당장 못주게 되었다고 한다. 그 회사가 그 정도면 스타트업들은 더욱 힘들 것이다. 가트너 Hype Cycle 상 Generative AI와 Foundation Model이 정점에 있다고 하니, 다음에는 초전도체 같은 어떤 다른 아이가 나와 또 Hype을 꺼뜨리게 될까? 작년엔 메타버스였고 재작년엔 NFT였고, 올해는 Gen AI가 와있다. 테크 업계는 유행도 싫증도 너무 빠르다.
#
자연어 UX가 새로 나와 사람들이 신기해하는 것을 더 편리하다고 느낀다고 착각하면 안된다. 그런데 자연어를 하는 회사들은 기존에 이미 오랜 기간 유저들이 익숙하게 쓰고 있는 웹/앱 회사들에 자연어 기반 UX를 제공하면 더 편할 것이라 영업하고 있다. 물론 지금이야 사내에서 ‘우리도 뭐 ChatGPT 같은거 안하나?’ 이런 이야기가 나오니 먹힐 수 있겠지만 실제 자연어 UX를 기존 웹/앱에 넣는다 한들 이용자들은 익숙해진 방식으로 서비스를 소비할 것이다. 음성인식이 나온지 한참 되었지만 여전히 아주 가끔 쓰는 것과 마찬가지다. 글(자연어)이 인간에게 가장 익숙한 UX라 주장한다면, 말(음성)로 하는 UX가 그리 인기를 끌지 못하는 것은 어떻게 설명할 수 있을까? 앞으로도 말과 글로 대화하는 것보다 내가 원하는걸 눌러서 얻는 현재의 방식이 서비스 이용 목적을 훨씬 빨리 달성할 수 있을 것이다. 물론 언젠가는 자비스 같은게 나오겠지만 적어도 이번 Hype Cycle에서만큼은 아니다.
#
지금은 내 생각에 빨리온 유행은 빨리 꺼지기 때문에, 당장 내년에도 LLM이 여전히 지금같이 관심받을 것이냐를 생각해야 할 때인 것 같다. 그렇기에 비용이 많이 드는 쪽으로 사업을 전개하기에는 이 Hype이 지속될거라는 근거가 약하므로(Retention이나 유료 Conversion 같이 객관저기 지표가 좋으면 근거가 될 수 있겠지만, 일단 현재 모든 Generative AI는 Retention과 Conversion이 평균보다도 낮다. 그나마 SNOW의 AI 자기 프로필 이미지 만들어주는 기능처럼 Image쪽이 유일하게 Conversion이 높은 것 같다.) 아주 비용 효율적인 방향으로, 그래서 당장 내일 Hype이 꺼져도 오래 생존 가능한 방향으로 전략을 세우는게 맞을거 같다. 물론 국가적으로 AI를 밀어준다 하니 상장 특례 등 특별 보증이든 어떻게든 살릴 산업이기는 하겠으나, 그래도 지금의 Hype이 지속될거라는 가정으로 사업을 전개하기에는 현재 상황이 지나칠 정도로 황금빛이다.
#
직접 모델 학습을 해야하는 회사는 최소 고객에게 월 $20을 받아야 할 수 있다. 그러나 학습을 직접하지 않는 회사는 월 $5를 받아도 이윤이 남을지 모른다. 한계 비용의 차이로 의외로 모델 컨슈머가 프로바이더보다 더 비즈니스를 유리하게 끌고 갈 수 있을지도 모른다.
비용은 이 순으로 적게 들 것이고, 비용 중심적 사고로 해자를 생각해 보는 것도 좋을 것이다.
단순 모델 컨슈머 < Fine-tuner < Foundation Model Provider
#
4년에 한번 비트코인 공급량이 절반이 되는 반감기마다 Crypto Cycle이 돌아왔었다. 그렇게 믿는 사람들이 많아지고 심지어 그 사이클이 반복되었다면, 반감기라는 펀더멘털 이벤트 자체가 유의미한가와는 별개로 어쨌든 시장의 기대감은 돌아오게 되어 있다. 지난 사이클은 NFT만 아니었다면 진작에 꺼질 것이 1년 정도 질질 끌렸던 느낌이 있었다. 그로써 사람들의 피로감이 더욱 많이 쌓였다. 환희가 완전히 사라지고 탐욕으로 인한 피로가 슬픔과 분노를 넘어 체념 단계로 들어설 때가 한 사이클의 종료다. 아직은 지난 불장의 미련과 피로감을 사람들이 완전히 떨쳐내지 못했다고 생각한다. 좀 더 지나면 한 사이클이 끝나고 다음 사이클이 시작된다. 지금은 다음 사이클을 대비해 무엇을 할 것이냐가 아주 중요한 시점이다. 다음 사이클은 무엇을 타고 올까? 테마적인 것들은 올 초에 한 번 정리한 적이 있다. 이후 또 추가될 것들이 보이는데, 결국 이 많은 것들 중 딱 한 두 가지를 골라 집중하는 것이 필요하다. 그게 정말 어렵다. 무엇이 가장 ROI가 높을지 모르는데, 불확실한 지금 먼저 결정을 내려야 하는 것이다. 그나마 확실한 것은 이런 베어장에서는 새로운 시도가 활발히 일어나기 어렵다는 점이다. 새 회사가 태어나는 수도 적다. 따라서 잘 선택해 개발하면 다음 사이클의 수혜를 입을 가능성이 높다. 지속함으로써 해자가 커지는 분야라면 더욱 좋다. 업비트가 거래소만 계속해 점점 넘사벽이 되는 것과 같은 이치다. 그러려면 베어 마켓에서도 수익을 낼 수 있는 사업이어야 한다. 불장 때만 반짝하고 베어 마켓에 같이 추락할 비즈니스는 좋은 선택이 아니다. 그런데 여기는 전체 시장이 사이클 영향을 너무 크게 받다보니 떨어질 때도 돈을 벌고, 떨어진 후에도 돈을 버는 그런 사업을 찾는다는 것이 현실적으로 불가능해 보이기도 한다. 그럼에도 찾아내기 위해 최선을 다하고 있다.
Charles Pyo 