소형 LLM을 활용한 로컬 자동 코딩 (Qwen 3.8 27B)

중국 알리바바 그룹이 개발한 Qwen 3.8 27B는 게임용 GPU 1장에 다 들어가는 작은 용량에도 불구하고, Artificial Analysis Intelligence Index가 50점이 넘어가는 (용량 대비) 엄청난 성능을 낸다.

이게 얼마나 엄청난 점수인가 하면, 2년 전 세계 최고 성능을 자랑했던 클로드 OPUS 4.5/4.6 모델과 비벼볼 수 있는 수준이라고 한다.

 

비록, 과추론(너무 오랫동안 생각)하는 경향이 있어서, 간단한 작업 하나에 10분 넘게 기다려야 하는 일이 다반사이긴 하지만,

굳이 비싼 토큰 비용을 지불하지 않고, 각자 PC에서 어느 정도 쓸만한 성능의 자동 코딩을 수행할 수 있다는 의미이다.

과추론으로 인해 시간이 오래 걸리는 문제도 잠들기 전에 가장 어렵고 복잡한 일을 시켜놓고, 자고 일어나면 대충 해결되어 있어서 감당 가능한 수준이다.

(내 수준에서 가장 어렵고 복잡한 일이 현직 개발자가 보면 아주 간단한 수준이겠지만, 하여튼 이전에 개인용 PC에서 실행하던 모델과는 차원이 다르다.)

 

 

 

요즘 많이들 쓴다는 '클로드 코드'는 켸켸묵은 느낌의 터미널 인터페이스이라서 거의 안 썼고,

주로 'ChatGPT'(일명 codex-app), 'Hermes Desktop', 'Cline'(VS Code 플러그인), 'LM Studio Bionic'등 GUI 인터페이스를 제공하는 에이전트 앱의 백엔드로 사용했는 데, 초기 기능 구현 코딩은 정말 훌륭하게 해 낸다.

 

불과 2년 전에는 개별 파일 단위로 (혹은 코드 블록 단위로), (마치 AI에게 떠먹여주듯) 수동으로 컨텍스트를 일일이 지정해주면서 '예제 코드 작성'/'코드 리뷰'/'문서화'등 보조 업무 용도로 사용하면서도 대단하다고 생각했었다.

 

그런데, 이제는 자연어로 명령만 내리면 

AI 모델이 알아서 프로젝트 내 수많은 파일들을 뒤져가면서 관련된 파일을 찾아내고,

'자동 코드 생성' -> '테스트 코드 작성' -> '테스트 수행' -> '오류 수정'까지 일련의 개발 작업을 스스로 해 내고,

이후 인간이 적절한 지시만 하면 '중복 코드' 판별 및 '중복 제거' 리팩토링까지 해 내는 것을 보면서,

개발 과정의 주요 업무 80% 이상을 AI가 해내는 시대가 왔다는 느낌이다.

 

물론, 아직까지는 한계가 존재한다.

초기 구현 과정에서 중복 코드를 다량 양산한다.

그래서, 초기 구현을 마친 후, 리팩토링 작업을 반복적으로 수행해줘야 한다.

리팩토링 작업도 AI 모델에게 시키면 80~90%는 해결되지만, 마지막 10~20%는 여전히 사람의 손길이 필요한 것 같다.

그리고, 가끔씩 미세한 로직 에러(혹은 모순)가 숨어있기도 하다.

 

그래서, 쓸만한 수준의 초기 기능 구현은 아주 빠르게 구현되는 데, 해당 코드를 장기간 관리 가능한 수준으로 정리해서 복잡성을 관리하려면, 아직까지는 인간의 개입(내지 케어)가 필요한 것 같다.

 

결국, 장기 유지보수를 위해서는 인간이 AI가 생성한 코드를 읽고 이해해야 하니까, 현직 개발자들은 AI가 엄청난 속도로 쏟아내는 코드를 읽고 이해하느라 업무량이 폭증했다고 한다.

그러거나 말거나, 개인적으로는 기존 개발 과정 대비 체감 피로도가 확연히 줄어든 느낌이다.

 

예전에는 기존 코드에 기능을 추가하거나 수정해야 할 일이 생기면 시작할 엄두를 내는 게 쉽지 않았다.

(많은 내적 다독임과 자가 동기 부여가 필요했다)

지금은 귀찮은 일은 AI에게 시킨 후 '확인 및 관리감독'만 하면 된다는 생각에 심적 부담이 덜어져서 쉽게 시작할 수 있다.

 

노화에 따라 전반적인 개발 능력이 저하되어가는 와중에 AI로 인해서 두뇌 부스터를 장착한 듯한 효과가 느껴진다.