트렌드이벤트

[현장] “10시간 업무를 2시간으로”…개발자·기획자·마케터가 말하는 LLM 실전 활용법

글로벌 AI 시장이 급성장하고 있다. 국제데이터기업(IDC)에 따르면 2024년 글로벌 AI 시장 규모는 전년 대비 25.2% 성장한 약 2,543억 달러에 이를 전망이다. 국내 시장도 가파르게 성장해 2027년까지 연평균 46.8%의 성장률을 기록할 것으로 예측된다.

스타트업얼라이언스의 ‘스타트업 트렌드 리포트 2024’에 따르면, 스타트업 재직자의 48.5%가 이미 AI를 업무에 도입했으며, 5명 중 1명(20.5%)은 적극적으로 활용하고 있는 것으로 나타났다. 특히 업무효율성 증대가 주된 도입 동기로 꼽혔다.

테헤란로 트렌드클럽 현장 / 사진=스타트업얼라이언스

“10시간 걸리던 문제를 2시간 만에 해결할 수 있게 되었습니다.” 지난 11월 19일 스타트업얼라이언스가 주최한 ‘테헤란로 트렌드클럽’ 5회차 현장에서 만난 서지연 개발자의 발언이다. 뉴스, 커머스, 엔터테인먼트 등 여러 도메인에서 일한 경험을 가진 그는 AI를 활용한 개발 생산성 향상 방안을 제시했다.

서 개발자는 AI 활용 범위를 코드 생성, 버그 수정, 리팩토링, 문서화, 코드 설명, 학습 등 여섯 가지로 분류했다. 특히 ‘Cursor’와 ‘GitHub Copilot’을 핵심 도구로 꼽았다. “자연어로 코드를 자동으로 완성해줄 뿐만 아니라, 코드를 추천해주거나 내 코드의 개선점을 제안해줄 수 있다”며 이들 도구를 ‘끝판왕’이라고 평가했다.

전통적인 머신러닝 개발자였던 그는 AI 도입 계기도 공유했다. “얼굴인식 관련 업무를 했는데 동양인 데이터셋 자체가 굉장히 적어서 큰 어려움이 있었죠. LLM이 등장하고 챗GPT가 빠르게 발전하는 모습을 보면서 서비스와 제 생활에 이것을 조금만 녹여봤는데 너무 편했습니다.”

그는 “우리가 하는 일의 20%는 전문성이 필요하지만, 나머지 80%를 LLM이 도와줄 수 있다”며 “미래에는 이 비율이 90%까지 높아질 것”이라고 전망했다. “문제 정의를 올바르게 하고, 그 문제를 해결할 올바른 방법을 찾아내는 능력을 갖춘 개발자가 좋은 개발자”라고 강조했다.

에듀테크 기업 뤼이드의 이승헌 기획자는 산타 세이(Santa SAY)와 AI Tutor 프로덕트 개발 경험을 공유했다. 그의 가장 큰 고민은 ‘AI 프로덕트의 지속적인 성장’이었다.

“생성형 AI를 우리 제품에 접목한다면 기존에 제공할 수 없었던 매력적인 경험을 제공할 수 있겠다는 생각이 들었습니다. 하지만 제대로 활용하지 못한다면 오히려 고객 경험을 악화시키거나 비즈니스 리스크를 야기할 수도 있습니다.”

이 기획자는 챗GPT, 퍼플렉시티, 노트북LM, 노션AI 등 다양한 도구를 활용하고 있다고 밝혔다. “LLM의 기반은 확률론입니다. 확률에 따라 결과물을 내놓기 때문에 고객 입장에서는 일관적이지 않다고 느껴질 수 있고, 고객의 니즈와 부합하지 않는 결과물로 인해 고객의 신뢰가 악화될 수 있습니다.”

그는 자전거 타기에 비유하며 AI 프로덕트 개발의 핵심을 설명했다. “자전거를 잘 타려고 할 때, 페달을 구르는 걸 먼저 연습하기보다는 앞을 보면서 달려가는 게 더 중요합니다. 마찬가지로 AI가 어떤 문제를 해결할 수 있을지 멀리 내다보고, 상상해보는 것이 중요합니다.”

서지연 ‘요즘AI페어 프로그래밍’ 저자, 이승헌 뤼이드 프로덕트 매니저, 오힘찬 ‘이게되네? 챗GPT 미친 활용법 51제’ 저자, 박종천 넥스트인텔리전스 AI어드바이저 / 사진=스타트업얼라이언스

14년차 테크 칼럼니스트이자 골든래빗의 오힘찬 마케터는 혼자서도 경쟁 출판사와 비슷한 성과를 내는 비결로 AI 활용을 꼽았다. “다른 출판사에서는 3명이 할 마케팅 운영 업무를 혼자서 하고 있습니다. 챗GPT를 활용해 기존에 북마케터들이 해왔던 일들을 자동화했기 때문에 가능한 일이죠.”

그는 예전에는 오프라인 서점의 여러 지점과 소통하느라 인바운드 마케팅에 할애할 수 있는 시간이 거의 없었다고 털어놨다. “전 문과라 코딩을 배운 적은 없어요. 하지만 챗GPT를 활용하면 자동화된 시스템으로 인바운드 마케팅을 할 수 있죠.” 디스코드에 ‘코딩하는 토끼들’이라는 개발자 커뮤니티 서버를 만들고, 관련 콘텐츠를 자동으로 업데이트하는 시스템을 구축한 사례도 소개했다.

“생성형 AI로 마케팅을 효과적으로 한다는 것은 이메일이나 광고 카피를 AI가 대신 써준다는 게 아닙니다. 내가 잘 못하는 것을 대신 해주는 시스템을 만드는 것이죠.”

넥스트인텔리전스의 박종천 AI어드바이저가 진행한 패널토크에서는 각 분야별 심층적인 통찰이 공유됐다. 개발자는 정확한 문제 정의를, 기획자는 고객 중심 접근을, 마케터는 시스템적 사고를 강조했다.

오힘찬 마케터는 AI 활용을 위한 네 가지 조건으로 △직무전문성 △확장성 △유료 서비스 활용 △지속적인 사용을 제시했다. “챗GPT만 사용해도 전문용어를 사용하면 더 전문적인 결과를 얻을 수 있고 활용도가 높아집니다. 사실 챗GPT만 가지고는 할 수 있는 일이 적기 때문에, 앱스 스크립트, 디스코드와 같은 다른 도구들도 사용할 수 있어야 합니다.”

특히 출판 산업의 AI 도입 사례는 주목할 만하다. 오 마케터는 “출판 산업에서는 사실 AI에 대한 관심이 덜했던 것이 사실”이라며 “마켓 사이즈가 큰 편은 아니고 본질적으로 제조업에 가까워 자동화, 비용 절감을 더 중요하게 생각했기 때문”이라고 설명했다. 하지만 “이런 출판 산업에서조차 저비용으로 LLM을 활용해 많은 변화가 발생하고 있다”며 AI 활용의 광범위한 가능성을 강조했다.

이날 연사들은 공통적으로 “호기심을 가지고 LLM이라는 새로운 재료를 알아보는 사람들이 결국 미래에 살아남는 인재가 될 것”이라고 전망했다. 실제로 가트너는 2024년 주요 전략 기술 트렌드 중 하나로 ‘AI TRiSM(신뢰성, 위험관리, 보안관리, 모델링)’을 선정했다. 산업계 전문가들은 AI 도입이 더욱 가속화되면서 기업들의 실질적인 활용 사례와 노하우 공유가 중요해질 것으로 전망하고 있다.

기자 / 제 눈에 스타트업 관계자들은 연예인입니다. 그들의 오늘을 기록합니다. 가끔 해외 취재도 가고 서비스 리뷰도 합니다.

댓글

Leave a Comment


관련 기사

트렌드 스타트업

교육 현장에서 AI 활용 급증, 교육계 AI 윤리 가이드 필요

트렌드

AI 활용 미비한 국내 HR 담당자들, 전문성 검증 어려움 지적

스타트업

라이언로켓, AI 웹툰 에이전트 ‘젠버스 알파’ 출시

스타트업

크라우드웍스, ‘Emerging AI+X Top 100 기업’ 5년 연속 선정