[개안뽑] ㉞클라우드 서비스는 과연 혁신이었나? 단순히 개발자 시장 진입 장벽을 낮춰준 도구에 불과했나?

Picture

Member for

4 months

Real name

Keith Lee

Bio

Head of GIAI Korea
Professor of AI/Data Science @ SIAI

Input

2024-01-16 18:30

AWS가 만든 클라우드 서비스는 실력없는 개발자들의 진입 장벽을 낮춰줬을 뿐
해외처럼 글로벌 서비스하는 회사들에게는 유효한 혁신이었지만, 시장이 제한된 한국에서는 무의미
결국 개발자들 경험치만 늘려주는 돈 버리기를 '개발 기술'로 포장했던 것

예전에 봤던 표현 중에 AWS가 '클라우드 1.0'시대를 이끌었고, 챗GPT를 비롯한 LLM 모델이 '클라우드 2.0'시대를 이끌고 있다는 이야기가 있었다. 챗GPT가 텍스트 재조합 기능을 갖춘 자동화 시스템이라고 보면 적절한 요약이 될 것 같은데, 이게 과연 클라우드 2.0을 만들어 내는 지는 잘 모르겠지만, AWS가 '클라우드 1.0'시대를 만들었다는 점에는 많은 부분 동의할 수 있다.

덕분에 초대형 서버를 갖추기 위해 사무실을 새로 빌려야 한다거나, IDC센터에 고가의 비용을 내야한다거나, 사무실 내에 서버실을 만들고 각종 관리를 해 줘야 한다거나 같은 생각들을 안 할 수 있게 됐기 때문이다. 다만 한국에서 과연 얼마나 많은 회사들이 '클라우드 1.0'에 해당하는 서비스가 필요했는지에 대해서는 동의할 수 없는 부분이 많다. 대부분의 작은 스타트업들은 중고 서버 시장에서 50만원 정도의 비용을 들이면 충분히 회사 운영에 문제없는 서버를 구매할 수 있었고, 중형 이상 기업들은 IDC센터를 쓰면 됐지, 굳이 AWS같은 클라우드 서비스를 써야할 이유가 없었기 때문이다.

클라우드 서비스는 혁신이었나?

내 입장에서 AWS 류의 클라우드 서비스는 기존의 IDC센터 서비스에 이런저런 개발자 전용 서비스가 추가된 정도의 서비스 정도로 보인다. 직접 IDC센터에 자기네 서버를 2U 정도만 넣으려고 해도 서버 하드웨어 자체의 비용도 만만치 않고, 2U 공간 대여 비용 및 관리 비용도 매 달 만만치 않은 비용이 나가야 했는데, AWS는 그런 고정 비용을 줄여줬다는 점에서 큰 의미가 있고, 다른 한편으로는 서버를 직접 셋팅하는 중에 생기는 여러 개발 문제들을 GUI로 손 쉽게 해결할 수 있는 시스템을 만들어 줬다는 점에서 큰 의미가 있다.

그런데, 그런 서비스를 써야하는 회사들은 어떤 회사들일까?

우리 회사가 운영하는 웹서비스 전체 합계로 최대 동접으로 얼마 전에 1만을 찍어 본 적이 있는데, 36 코어 서버로 아무 문제 없이 서비스를 하는 중이다. 대부분 캐시된 콘텐츠들을 Cloudflare의 APO, Varnish Cache, Nginx FastCGI Cache에서 html 파일만 던져주는 방식으로 처리하고 있기 때문이다. 동접 1만을 찍는 서비스가 그렇게 많지 않다는 점을 생각해보면, 거의 대부분의 회사들은 서버 셋팅만 잘 해 놓으면 100만원 미만의 중고 서버 한 대로 아무런 문제없이 웹서비스를 운영할 수 있다는 점을 미루어 짐작할 수 있을 것이다.

그나마 AWS가 유의미했던 구간이 있다면 'Machine learning' 계열의 각종 라이브러리들을 개발자들이 쉽게 갖다 쓸 수 있도록 만들어놓은 확장 서비스들인데, 그마저도 멀쩡한 Data Scientist 한 명만 데려다놨어도 Python으로 풀린 라이브러리들을 고쳐가며 쓰거나, 프로그래밍 능력치까지 더 갖춘 분들이 C로 직접 Tensorflow 같은 라이브러리들을 컴파일하면서 작업할 수 있었을 것이다.

요컨대, 클라우드가 필요한 한국 회사가 그렇게 많지 않았다. 그 서비스가 필요했던 회사들은 서울, 도쿄, 베이징, 상해, 홍콩, 싱가포르 같은 지역에 여러 서버를 분산 배치하고, 각 서버들이 실시간 연동이 되도록 서비스를 운영해야하는데, 그걸 굳이 현지까지 가서 서버 셋팅하고 관리하기 쉽지 않았을 회사들 밖에 없었다. 우리나라에 그런 글로벌 서비스하는 회사는 과연 몇 개나 될까?

단순히 개발자 시장 진입 장벽을 낮춰준 도구에 불과

지난 몇 달간 서버 관련 정보를 찾아가며 시스템을 만들면서 알게 된 사실인데, 비개발자가 3달 공부한 상태보다 서버 지식이 더 많은 개발자들이 그렇게 많질 않더라. 난 스스로를 겨우 기초 지식을 알고 있는 비전문가라고 생각하는데, 한국어로 된 설명서와 스크린 샷을 잔뜩 담은 블로그 글 몇 개가 없으면 아예 Nginx, PHP 같은 서버 프로그램을 설치하지도 못하는 경우도 봤고, 각각이 업그레이드 되면서 어떤 방식으로 과거의 문제를 해결했고, 버전 업그레이드하면서 생기는 각종 문제들을 어떻게 대처해봤는지 같은 종류의 질문을 던져보면 그런건 찾아보면 안다고 대답하는 정도였다. 실제로 찾아보라고 시간을 줘도 못 찾고, 그런걸 왜 찾으라고 그러냐는 식의 표정들을 짓는다.

AWS가, 혹은 경쟁 서비스였던 Azure와 GCP가 어떻게 시장에 진입했을까를 생각해보면, 저런 '무늬만 개발자'인 사람들이 정보를 찾아서 읽고 이해하고 응용해서 적용할 줄 모르는 상황인 점을 이용했을 것 같다. 단순히 자료만 찾아서 읽어도 이해하고 수정할 수 있는 Configuration 문제는 말할 것도 없고, 머신러닝, 딥러닝, 인공지능 등의 용어로 불린 코딩 라이브러리들을 자기네 서비스에 붙일 때 생기는 각종 문제들도 전혀 대응할 수 있는 역량이 안 됐을 것이다.

쉽게, 편하게 쓰겠다는 게으름을 최대한 맞춰주면서 이 시장에 진입했고, 마침 IT스타트업들에 엄청난 거품이 끼어들어가면서 코드 한 줄만 갖다 붙일 수 있어도 고급 인력이고, '고등학교만 졸업해서 AI 전문가 될 수 있다'는 터무니 없는 사고방식이 확산된 덕분에 그 시장에서 큰 수익을 얻어냈으리라 생각된다.

'클라우드 2.0'부터는 '기술'이 아니라 '도구'라는 관점으로 변경되어야

개발자들이 쓰는 표현 중에 가장 불편한 표현 중 하나로 '기술', '새로운 기술이 매일 쏟아져 나온다'라는 표현을 고를 수 있다.

내 눈에는 '기술'이 아니라 주어진 상황에 맞게 적절하게 뜯어고친 '도구'의 변형에 불과하기 때문이다.

하나 예시를 들어보자. 국내 모 반도체 전문 대기업의 어느 팀이 Nvidia에서 H100을 무려 5천대를 구매했다는 소문을 들었다. LLM 기반 시스템을 하나 만들어서 자기네 회사 내의 모든 Knowledge base를 통합하고, 직원들이 다른 부서에 질문할 것 없이, 그냥 그 LLM에 질문하면 바로 대답을 해 주도록 만들겠단다.

H100의 한 대 가격을 생각하면 5천대 구매는 왠만한 중소 상장사 하나를 M&A할 수 있는 금액일 것 같은데, 그 소문이 얼마나 사실에 기반해있는지 모르겠지만 최소한 한국이 지난 1년 동안 Nvidia에서 수입한 H100이 5천대는 넘을 것이다.

저런 서비스를 만드는게 그렇게 많은 H100이 필요할까? 내가 쓰는 워드프레스 플러그인들이 요즘 경쟁적으로 자기네 Knowledge base를 연동한 Q&A 게시판 서비스를 내놨다. 질문을 올리면 정말 10초 안에 답장 메일이 온다. 마지막에는 ChatGPT로 만들어진 답변인데, 부족하면 다시 질문해라고 적혀있다. 그 플러그인들이 연간 100만 달러 버는 경우가 1개도 없을 것 같은데, 이미 국내 모 반도체 전문기업이 H100을 5천대나 구매해 주면서 지원해주는 서비스를 만든 상황이다. H100 한 대 구매하기 쉽지 않을 작은 워드프레스 플러그인 전문 회사들이 도대체 무슨 마법을 부려서 그런 '인공지능' 서비스를 만들어 냈을까?

사실 나도 우리 콘텐츠들 다 밀어넣고, 그걸 기반으로 자동 답변해주는 서비스 만드는데 1달이면 충분해 보인다. 플러그인을 하나 구매하면 기능 셋팅과 UI 신경 쓰는데 2주일만 쓰면 될 수도 있다. 사실 백엔드 구축도 2주일을 안 쓸 가능성이 높다. 이미 어지간한 솔루션과 코드들이 다 공개되어 있기 때문이다. 다만 내 입맛에 맞게 구축하는 와중에 UI 신경쓰고, 서버에 붙일 때 각종 보안 신경쓰고 하면 합계 1달 정도 예상된다. 이게 그렇게 대단한 일도 아니고, 당연히 고급 하드웨어가 대규모로 필요하질 않기 때문이다. 내가 지금 이 기능 개발을 안 하는 이유는 우리 회사에서 돈 버는 곳에 쓰일만한 곳이 없기 때문이다. 만들어 놔봐야 XX인사이드 같은 곳에서 뒷담화하고 비난하는데 쾌감 느끼는 걸로 하루하루를 사는 애들한테 장난감만 되겠지. 아마 SIAI 홈페이지에 Knowledge base가 다 완성되면 번역기와 더불어서 기능을 붙여넣을 필요가 생기기는 할 것 같다.

'최신' 하드웨어가 필수일까?, 사업 목적에 맞는 모델 변형, 데이터 변형이 필수일까?

나같은 훈련을 받은 사람들은 고급 하드웨어가 필요할만큼 계산 비용이 많이 들어가면, 하드웨어를 비싼 걸 사달라고 회사에 징징대는 방식으로 문제를 해결하는게 아니라, 계산 식을 바꾸고, 그 바뀐 식에 맞도록 데이터를 변형한다. 우리 SIAI의 Scientific Programming 수업을 들은 학생들은 이미 공감하겠지만, 정확도를 약간씩 희생하는 방식을 바꾸면서 데이터를 변형하고 계산 방법을 수정하면, 엄청나게 많은 계산 비용을 아낄 수 있는 상황이 많다. 참고로 계산 비용은 시간, CPU파워, 전력 소모 등을 말한다. 그리고 이런 Text관련 작업은 Low-noise data이기 때문에 시간을 대폭 줄이면서 정확도를 약간 희생하더라도 적절한 데이터 변환으로 얼마든지 그 손실을 보전할 수 있다.

위의 챗GPT 관련 Knowledge base에 맞는 경우를 들면, 문장 전체 데이터를 다 갖고 오는게 아니라, 명사, 형용사, 부사 등의 주요 의미를 갖는 단어들만 뽑고, 관사, 종조사 등은 버리면서 DB 구조를 뜯어고친 다음, 입력된 정보와 DB 내에서 매칭되는 정보를 찾을 때, 문장 대 문장 비교가 아니라 (a,b,c) - (x,y,z) 조합을 찾는 방식의 구조화를 진행할 수 있다. (a,b,c)라는 단어가 들어간 질문에 대한 답변으로 (x,y,z) 시리즈 몇 개를 찾아 조합한 결과물을 낼 때만 다시 관사, 종조사를 문법에 맞게 재정리할 수 있으면 H100 같은 고급 하드웨어가 필요할 이유가 하나도 없다. DB 규모에 따라 상황은 다르겠지만, 워드프레스 플러그인 정도라면 개인 서버에서도 충분했을 것이다.

한국에서 이게 잘 될지에 대해서 자신이 없는 이유는, 한국어 사전이 그런 단어들을 잘 걸러낼지에 대한 확신이 없기 때문인데, 컴퓨터한테 모든 걸 다 의존해서 컴퓨터 신(神)님이 모든 문제를 다 해결해줄 것이라고 기대하지만 않고, 한국어 사전을 사람이 붙어서 이것저것 좀 고치겠다고 생각만 하고 있으면 일반 게임용 그래픽 카드 몇 대로 충분히 해결될 수 있는 문제로 바뀌어 버린다. 아마 공대 애들은 사전에 사람이 붙어서 단어 재정의, 정리해주는 작업들을 '기술력이 없는 것'이라고 생각할지도 모르겠는데, 어차피 고유 명사 같은 건 사전에도 없어서 명사라고 사람 손으로 지적해줘야 하지 않나?

우리 SIAI 수업이 제대로 머리 속에 들어가지 않았던 걸로 보이는 어느 S대 컴퓨터 공학과 박사 출신, 국내 대기업 부장이신 한 학생 분은, '하드웨어 계산을 100% 풀 속도로 돌릴 수 있는 시스템을 우리 회사가 구매할 생각이 없냐?'는 질문을 하시던데, 공학도들이 하드웨어에 얼마나 열광하고 있는지, 그 시스템의 효율적 활용을 위해서 약간의 수학을 쓰는 것에 대해서 얼마나 까막눈인지 단적으로 볼 수 있는 예시가 될 것이다. 내가 그런 시스템을 몇 천만원씩, 몇 억원씩 주고 구매할까? 아니면 데이터 살짝 뜯어 고치고, 수식 살짝 변경하고, Optimization 계산에서 조건식 하나 추가하는 방식으로 해결할려고 할까? 수업 안 들은 외부인이 모르는건 그러려니 하지만, 수업을 들으셨으면 이런건 이해해주셔야 하지 않나?

정리하면, 한국에서 AWS가 그나마 성공을 거뒀다면 이유는 하드웨어를 상대적으로 저렴하게 '구독'할 수 있는 서비스였기 때문이고, 개발자들이 잘 모르는 서버 관련 주제들을 대신해서 관리해줬기 때문이었다. 이제 그런 비용을 써봐야 달라지는 것이 하나도 없다는 것을 이미 많은 기업들이 깨달은 상태고, 이젠 클라우드가 무슨 '기술'이라고 착각하질 않고, '도구' 중 하나라는 관점으로 바라볼 수 있는 기관들이 꾸준히 늘어날 것이다.

AWS 덕분에 개발과 서버와 Data Science가 '민주화(Democratize)' 됐다고 하던데, 10년 전보다 AWS 덕분에 더 나아진 게 있는 기관은 과연 몇 개나 될까? AWS를 아예 쓰지 않게 된 나는 개발자들마저 다 내보내고 나니 좀 더 고급 서비스를 만들 수 있게 됐다.